使用说明

项目简介

Claude LM Studio 桥接器是一个 MCP (Model Context Protocol) 服务器,它充当 Claude Desktop 和本地运行的 LM Studio 之间的桥梁。通过这个桥接器,你可以让 Claude Desktop 利用 LM Studio 中加载的本地大语言模型,实现更快速、更隐私的文本生成和对话功能。

主要功能点

  • 模型列表: Claude 可以获取 LM Studio 中可用的本地模型列表。
  • 文本生成: Claude 可以使用本地模型根据给定的提示词生成文本。
  • 对话补全: Claude 可以与本地模型进行多轮对话。

安装步骤

  1. 克隆仓库: 将仓库 'claude-lmstudio-bridge' 克隆到本地。
  2. 创建虚拟环境: 在仓库目录下运行命令 'python -m venv venv' 创建虚拟环境。
  3. 激活虚拟环境: 运行命令 'source venv/bin/activate' (Linux/macOS) 或 'venv\Scripts\activate' (Windows) 激活虚拟环境。
  4. 安装依赖: 运行命令 'pip install -r requirements.txt' 安装项目所需的 Python 库。
  5. 启动 LM Studio API 服务: 确保你的 LM Studio 软件已启动,并且 API 服务器正在运行(默认地址为 'http://localhost:1234')。

服务器配置

要将 Claude LM Studio 桥接器配置为 Claude Desktop 的 MCP 服务器,请在 Claude Desktop 的设置中添加以下服务器配置。注意将 'command' 中的路径替换为 'server.py' 文件的绝对路径。

{
  "mcpServers": {
    "lmstudio-bridge": {
      "command": "python",
      "args": [
        "/absolute/path/to/server.py"  // 替换为 server.py 文件的绝对路径,例如 "/Users/yourname/claude-lmstudio-bridge/server.py"
      ]
    }
  }
}

基本使用方法

配置完成后,你可以在 Claude Desktop 中使用以下指令来调用本地 LM Studio 的模型:

  • 列出本地模型: 在 Claude 中输入类似于 "List available models in LM Studio" 的指令,Claude 应该会返回 LM Studio 中可用的模型列表。
  • 使用本地模型生成文本: 在 Claude 中输入类似于 "Generate text about [topic] using my local LLM" 的指令,Claude 将使用本地模型生成关于指定主题的文本。
  • 与本地模型对话: 在 Claude 中进行对话,Claude 将使用本地模型进行回复。

请注意: 你需要确保 LM Studio API 服务器正常运行,并且配置的 'server.py' 路径正确。首次使用可能需要一些时间来建立连接和加载模型。

信息

分类

AI与计算