使用说明
项目简介
Claude LM Studio 桥接器是一个 MCP (Model Context Protocol) 服务器,它充当 Claude Desktop 和本地运行的 LM Studio 之间的桥梁。通过这个桥接器,你可以让 Claude Desktop 利用 LM Studio 中加载的本地大语言模型,实现更快速、更隐私的文本生成和对话功能。
主要功能点
- 模型列表: Claude 可以获取 LM Studio 中可用的本地模型列表。
- 文本生成: Claude 可以使用本地模型根据给定的提示词生成文本。
- 对话补全: Claude 可以与本地模型进行多轮对话。
安装步骤
- 克隆仓库: 将仓库 'claude-lmstudio-bridge' 克隆到本地。
- 创建虚拟环境: 在仓库目录下运行命令 'python -m venv venv' 创建虚拟环境。
- 激活虚拟环境: 运行命令 'source venv/bin/activate' (Linux/macOS) 或 'venv\Scripts\activate' (Windows) 激活虚拟环境。
- 安装依赖: 运行命令 'pip install -r requirements.txt' 安装项目所需的 Python 库。
- 启动 LM Studio API 服务: 确保你的 LM Studio 软件已启动,并且 API 服务器正在运行(默认地址为 'http://localhost:1234')。
服务器配置
要将 Claude LM Studio 桥接器配置为 Claude Desktop 的 MCP 服务器,请在 Claude Desktop 的设置中添加以下服务器配置。注意将 'command' 中的路径替换为 'server.py' 文件的绝对路径。
{ "mcpServers": { "lmstudio-bridge": { "command": "python", "args": [ "/absolute/path/to/server.py" // 替换为 server.py 文件的绝对路径,例如 "/Users/yourname/claude-lmstudio-bridge/server.py" ] } } }
基本使用方法
配置完成后,你可以在 Claude Desktop 中使用以下指令来调用本地 LM Studio 的模型:
- 列出本地模型: 在 Claude 中输入类似于 "List available models in LM Studio" 的指令,Claude 应该会返回 LM Studio 中可用的模型列表。
- 使用本地模型生成文本: 在 Claude 中输入类似于 "Generate text about [topic] using my local LLM" 的指令,Claude 将使用本地模型生成关于指定主题的文本。
- 与本地模型对话: 在 Claude 中进行对话,Claude 将使用本地模型进行回复。
请注意: 你需要确保 LM Studio API 服务器正常运行,并且配置的 'server.py' 路径正确。首次使用可能需要一些时间来建立连接和加载模型。
信息
分类
AI与计算