Wheel

关键词

LLM API 网关多提供商聚合工具聚合Prompts 渲染SSE/HTTP/STDIO

使用说明

  • 项目简介
    • Wheel 是一个面向 LLM 应用的后端网关，聚合多家模型提供商（如 OpenAI、Anthropic、Gemini 等），实现智能路由、计费与监控，并内置一个 MCP 网关，能够连接外部 MCP 服务器并将工具聚合为一个统一的 MCP Server 端点，提供上下文数据与外部工具访问能力。
    • 通过 JSON-RPC/ MCP 风格的请求，客户端可以获取资源、执行工具、获取提示模板等能力，并支持多传输协议（HTTP/SSE/STDIO）。
  • 主要功能点（便于理解）
    • 多提供商聚合与智能路由：统一对接多家模型提供商，并实现多种负载均衡策略、重试与熔断。
    • MCP 网关与聚合工具：连接外部 MCP 服务，将其工具聚合到 Wheel 的 MCP Server 端点，供 LLM 客户端统一调用。
    • 资源与数据管理：提供资源/模型信息的读取和管理，以及对工具调用、提示模板等资源的维护。
    • Prompts 渲染与模板支持：支持自定义的 Prompt 模板，与 LLM 交互模式可配置。
    • 跨传输协议与会话管理：支持 HTTP/SSE/STDIO 传输，并具备会话与认证能力。
  • 安装与部署（简要）
    • 使用仓库自带的部署方式，包含 Docker Compose 的最小化示例与 Web 端/Worker 端的组合部署。仓库内有具体环境变量与部署步骤，请按文档执行。
    • 本地开发环境可通过开发脚本构建并启动 Worker（MCP 网关与工具聚合实现）与 Web 前端，再通过前端管理面板添加 MCP 客户端以进行连接与聚合测试。
  • 服务器配置（MCP 客户端连接 Wheel 的配置示例） 说明：MCP 客户端需要配置与 Wheel 的连接方式，以便聚合外部 MCP 并暴露统一 MCP Server 端点。下列示例说明均基于仓库实现的端点与连接方式。
    • SSE/HTTP 连接示例（推荐用于远程 MCP 服务聚合）
      • serverName: Wheel MCP Gateway
      • connectType: SSE
      • serverUrl: http://localhost:3000/mcp/sse
      • headers: 包含可选的 Authorization，比如 Bearer token，用于鉴权 说明: 通过 SSE 传输 Wheel 的 MCP Server 侧端点，GitHub 仓库中实现了 mcp/sse、/v1/mcp/tool/execute 等端点，客户端按需提供鉴权头即可。
    • STDIO 连接示例（本地进程方式）
      • serverName: Wheel MCP Gateway (本地进程)
      • connectType: STDIO
      • command: /path/to/wheel
      • args: ["seed"] 或其他启动参数
      • env: {"JWT_SECRET": "your-secret", "DB_DSN": "your-dsn"} 说明: 适用于直接在本地作为子进程启动的场景，Wheel 提供了可执行的工作进程与工具执行能力，客户端会通过标准输入/输出与 MCP 通信。 注：以上示例为中文描述，实际请按 MCP 客户端所需的字段结构填充 JSON，并在客户端侧通过管理面板或配置文件传入。
  • 基本使用方法
    • 在 Wheel 中配置好多提供商通道、分组、以及 MCP 网关设置后，启动服务并在 MCP 客户端中连接 Wheel 的 MCP Server URL（如 /mcp/sse）。
    • 使用客户端配置的 Authorization 头将请求发送到 Wheel 的 MCP Server，以进行工具聚合、资源读取、以及 Prompts 渲染等操作。
    • 通过管理面板可查看聚合后的工具集合、客户端连接状态、以及成本/请求日志等监控信息。

服务器信息

访问项目