增强的提供商设置
🚀 Caret 的提供商竞争力
Caret 比 Cline 支持更多的提供商,并提供更专业的提供商功能。
为什么 Caret 的提供商更强大?
- 自动模型查询: 通过 LiteLLM API 集成,自动显示 100 多个提供商的模型
- 实时更新: 新模型发布时无需更新 Caret 即可立即使用
- 韩国企业合作: 额外支持 Worksai 等韩国 AI 提供商
- 简便设置: 无需手动输入,只需从下拉列表中选择即可完成
📋 概述
Caret 通过 LiteLLM API 集成完全自动化了提供商设置过程。您不再需要逐一查找支持的模型或手动输入。
🎯 核心功能
自动模型查询
选择提供商后,该提供商支持的所有 AI 模型都会自动显示。
工作原理:
- 在 Caret 设置中选择 AI 提供商(例如: OpenAI、Anthropic)
- LiteLLM API 自动查询支持的模型列表
- 从下拉列表中选择所需的模型
实时更新
当新的 AI 模型发布时,无需更新 Caret 即可自动添加到模型列表。
- 通过 LiteLLM API 实时获取最新模型信息
- 始终可以使用最新的模型阵容
广泛的提供商支持
支持 100 多个 AI 提供商:
-
主要全球提供商:
- OpenAI (GPT-4、GPT-3.5-Turbo 等)
- Anthropic (Claude 系列)
- Google (Gemini)
- Cohere
- AI21 Labs
- Hugging Face
-
额外支持的提供商:
- Mistral AI
- Fireworks AI
- Groq
- Cerebras
- Deepseek
- 以及更多
🔄 与 Cline 的差异
| 项目 | Cline | Caret |
|---|---|---|
| 模型输入方式 | 手动输入 | 自动查询 |
| 模型列表确认 | 需要参考文档 | 下拉列表自动显示 |
| 新模型支持 | 需要更新 | 自动反映 |
| 支持的提供商 | 有限 | 100 多个 |
💡 使用场景
场景 1: 探索提供商
当您想比较多个 AI 提供商时:
- 选择每个提供商后,支持的模型会自动显示
- 比较模型名称、性能和价格
- 选择最适合您任务的模型
场景 2: 使用最新模型
当新的 AI 模型发布时:
- 重启 Caret
- 打开提供商设置
- 新模型会自动显示在列表中
场景 3: 使用韩国 AI 模型
当您想使用韩国企业的 AI 模型时:
- 选择韩国提供商(例如: Worksai - 即将添加)
- 自动显示支持的模型
- 选择专门针对韩语优化的模型
🌏 韩国 AI 提供商合作
Caret 正在与韩国 AI 企业合作,持续添加提供商。
即将添加的提供商
- Worksai (Bizspark): 基于 OpenAI Compatible API
- 以及更多: 正在与韩国 AI 企业进行合作
合作的优势
韩国企业提供商也可以享受自动模型查询功能的好处:
- 自动显示支持的模型
- 新模型发布时可立即使用
- 简化用户设置过程
🔧 技术实现
LiteLLM API 集成
Caret 利用 LiteLLM API:
GET https://api.litellm.ai/v1/models
→ 返回所有支持的 AI 模型列表
后端架构
- 通过 gRPC 服务进行模型查询
- 高效的 API 调用和缓存
- 错误处理和回退机制
📚 相关文档
💼 提供商添加合作
想要添加新的提供商?
与 Caret 团队的商业合作可以让您将公司的 AI 提供商正式集成到 Caret 中。
合作的优势
- 自动模型查询: 通过 LiteLLM API 集成,您公司的所有模型都会自动显示
- 营销效果: 向 Caret 用户展示您公司的 AI 服务
- 技术支持: Caret 团队全程支持集成过程
- 持续更新: 新模型发布时会自动反映到 Caret 中
合作流程
- 咨询: 向 support@caretive.ai 发送合作提案
- 审查: Caret 团队审查技术可行性
- 集成: API 集成和测试
- 发布: 注册为 Caret 官方提供商
联系方式
希望进行 AI 提供商集成合作的企业,请联系:
增强的提供商设置是 Caret 的独家功能。 无需复杂的设置过程,快速选择所需的 AI 模型并开始编码。