Skip to main content

LM Studio

🤖 使用 Careti 设置 LM Studio​

使用 LM Studio 和 Careti 在本地运行 AI 模型。

📋 前提条件​

  • 支持 AVX2 的 Windows、macOS 或 Linux 计算机
  • 在 VS Code 中安装 Careti

🚀 设置步骤​

1. 安装 LM Studio​

  • 访问 lmstudio.ai
  • 为您的操作系统下载并安装
LM Studio 下载页面

2. 启动 LM Studio​

  • 打开已安装的应用程序
  • 您将在左侧看到四个选项卡：Chat（聊天）、Developer（开发者，您将在此处启动服务器）、My Models（我的模型，您下载的模型存储在此处）、Discover（发现，添加新模型）
LM Studio 界面概览

3. 下载模型​

  • 浏览"Discover"页面
  • 选择并下载您首选的模型
  • 等待下载完成
在 LM Studio 中下载模型

4. 启动服务器​

  • 导航到"Developer"选项卡
  • 将服务器开关切换到"Running"（运行中）
  • 注意：服务器将在 http://localhost:1234 运行
启动 LM Studio 服务器

5. 配置 Careti​

  1. 打开 VS Code
  2. 点击 Careti 设置图标
  3. 选择"LM Studio"作为 API 提供商
  4. 从可用选项中选择您的模型
使用 LM Studio 配置 Careti

⚠️ 重要说明​

  • 在与 Careti 一起使用之前启动 LM Studio
  • 保持 LM Studio 在后台运行
  • 首次模型下载可能需要几分钟，具体取决于大小
  • 模型在下载后本地存储

🔧 故障排除​

  1. 如果 Careti 无法连接到 LM Studio：
  2. 验证 LM Studio 服务器是否正在运行（检查 Developer 选项卡）
  3. 确保已加载模型
  4. 检查您的系统是否满足硬件要求