项目简介

FastSD CPU 是一个旨在实现CPU上快速Stable Diffusion推理的项目,此仓库实现了MCP(Model Context Protocol)服务器功能,允许支持MCP协议的LLM客户端调用其图像生成能力。

主要功能点

  • 文本到图像生成: 支持通过文本提示词生成图像,利用 CPU 进行快速Stable Diffusion推理。
  • MCP协议支持: 实现了Model Context Protocol服务器,可以通过标准的MCP协议与LLM客户端进行通信。
  • 资源管理: 支持模型和相关资源的托管与管理。
  • 工具注册与执行: 虽然仓库描述中未明确提及工具注册,但MCP服务器的架构设计支持未来扩展工具功能。
  • Prompt模板: 支持Prompt模板的定义和渲染,以实现定制化的LLM交互模式 (具体实现需进一步代码分析,但架构上具备支持潜力)。

安装步骤

  1. 克隆仓库: 从GitHub克隆 fastsdcpu 仓库到本地。
    git clone https://github.com/rupeshs/fastsdcpu
    cd fastsdcpu
  2. 安装依赖: 根据操作系统,运行相应的安装脚本 (例如 Windows 下的 'install.bat' 或 Linux/macOS 下的 'install.sh' 或 'install-mac.sh'),脚本会自动创建虚拟环境并安装Python依赖。
    • Windows: 'install.bat'
    • Linux: 'chmod +x install.sh && ./install.sh'
    • macOS: 'chmod +x install-mac.sh && ./install-mac.sh'

服务器配置

MCP客户端需要配置以下JSON信息以连接到 FastSD CPU MCP 服务器:

{
  "fastsdcpu": {  // 服务器名称,可自定义
    "command": "npx", // 启动命令,这里使用 npx,需要确保系统中已安装 Node.js 和 mcp-remote (通常 mcp-remote 会随MCP客户端一起安装)
    "args": [
      "mcp-remote", // mcp-remote 工具名称
      "http://127.0.0.1:8000/mcp" // FastSD CPU MCP 服务器的地址
    ]
  }
}

参数说明:

  • '"fastsdcpu"': 服务器的名称,客户端用于在配置中引用。可以自定义。
  • '"command": "npx"': 指定用于启动 MCP 远程连接工具的命令。'npx' 通常用于运行本地 node_modules 中的包。
  • '"args"': 启动命令的参数列表。
    • '"mcp-remote"': MCP 远程连接客户端工具,用于桥接 MCP 客户端和服务器。
    • '"http://127.0.0.1:8000/mcp"': FastSD CPU MCP 服务器的URL地址,客户端通过此地址与服务器建立连接。请确保此地址与FastSD CPU MCP服务器实际运行的地址和端口一致。

注意: 以上配置是针对 Claude desktop 客户端的示例,其他 MCP 客户端的配置方式可能略有不同,但核心参数(服务器URL)是相同的。

基本使用方法

  1. 启动 MCP 服务器: 在 fastsdcpu 仓库目录下,根据操作系统运行相应的启动脚本来启动 MCP 服务器。

    • Windows: 'start-mcpserver.bat'
    • Linux/macOS: './start-mcpserver.sh' 或者直接运行命令:'python src/app.py --mcp'

    服务器默认会在 'http://127.0.0.1:8000/mcp' 启动。

  2. 配置 MCP 客户端: 在支持 MCP 协议的LLM客户端(例如 Claude desktop, Open WebUI 等)中,配置连接到 FastSD CPU MCP 服务器,填入上述 JSON 配置信息。

  3. 发送图像生成请求: 在 MCP 客户端中,通过自然语言指令(例如 "create image of a cat")或客户端提供的特定功能入口,向 FastSD CPU MCP 服务器发送图像生成请求。服务器将处理请求,使用 Stable Diffusion 模型生成图像,并通过 MCP 协议返回给客户端。

信息

分类

AI与计算