Skip to main content

OpenAI 兼容

Careti 支持各种提供与 OpenAI API 标准兼容的 API 的 AI 模型提供商。这允许您使用来自 除 OpenAI 之外的 提供商的模型，同时仍然使用熟悉的 API 接口。这包括以下提供商：

  • 本地模型，通过 Ollama 和 LM Studio 等工具运行（在各自的部分中介绍）。
  • 云提供商，如 Perplexity、Together AI、Anyscale 等。
  • 任何其他提供商，提供 OpenAI 兼容的 API 端点。

本文档重点介绍设置 除官方 OpenAI API 之外的 提供商（OpenAI 官方有自己的专用配置页面）。

通用配置​

在 Careti 中使用 OpenAI 兼容提供商的关键是配置以下主要设置：

  1. 基本 URL： 这是特定于提供商的 API 端点。它 不会 是 https://api.openai.com/v1（该 URL 用于官方 OpenAI API）。
  2. API 密钥： 这是您从所选提供商获得的密钥。
  3. 模型 ID： 这是您希望使用的模型的特定名称或标识符。

您可以在 Careti 设置面板（点击 ⚙️ 图标）中找到这些设置：

  • API 提供商： 选择"OpenAI Compatible"。
  • 基本 URL： 输入所选提供商提供的基本 URL。这是关键步骤。
  • API 密钥： 输入提供商的 API 密钥。
  • 模型： 选择或输入模型 ID。
  • 模型配置： 此部分允许您自定义模型的高级参数，例如：
    • 最大输出 Tokens
    • 上下文窗口大小
    • 图像支持能力
    • 计算机使用（例如，用于具有工具/函数调用的模型）
    • 输入价格（每 token/百万 tokens）
    • 输出价格（每 token/百万 tokens）

支持的模型（对于 OpenAI 原生端点）​

虽然"OpenAI Compatible"提供商类型允许连接到各种端点，但如果您直接连接到官方 OpenAI API（或完全镜像它的端点），Careti 会根据其源代码中的 openAiNativeModels 定义识别以下模型 ID：

  • o3-mini
  • o3-mini-high
  • o3-mini-low
  • o1
  • o1-preview
  • o1-mini
  • gpt-4o
  • gpt-4o-mini

注意： 如果您使用不同的 OpenAI 兼容提供商（如 Together AI、Anyscale 等），可用的模型 ID 会有所不同。请始终参考您特定提供商的文档以了解其支持的模型名称和任何独特的配置详细信息。

Careti 中的 v0（Vercel SDK）：​

  • 对于使用 v0 的开发者，他们的 AI SDK 文档 提供了有价值的见解和示例，用于集成各种模型，其中许多模型与 OpenAI 兼容。这可以是一个有用的资源，用于了解在使用 Careti 与在 Vercel 上部署或与之集成的服务时如何构建调用和管理配置。

  • v0 可以在 Careti 中与 OpenAI Compatible 提供商一起使用。

  • 快速入门​

    1. 选择 OpenAI Compatible 提供商后，将基本 URL 设置为 https://api.v0.dev/v1。
    1. 粘贴您的 v0 API 密钥
    1. 设置模型 ID：v0-1.0-md
    1. 点击验证以确认连接。

故障排除​

  • "无效的 API 密钥"： 仔细检查您是否正确输入了 API 密钥，并且它是用于正确提供商的。
  • "找不到模型"： 确保您为所选提供商使用有效的模型 ID，并且它在指定的基本 URL 上可用。
  • 连接错误： 验证基本 URL 是否正确，您的提供商的 API 是否可从您的机器访问，以及是否没有防火墙或网络问题。
  • 意外结果： 如果您获得意外的输出，请尝试不同的模型或仔细检查所有配置参数。

通过使用 OpenAI 兼容提供商，您可以利用 Careti 的灵活性与更广泛的 AI 模型。请记住始终查阅提供商的文档以获取最准确和最新的信息。