Wheel MCP Gateway 服务端

关键词

LLM网关工具聚合上下文服务传输协议多样化实时监控

使用说明

  • 项目简介 Wheel 是一个面向 MCL/LLM 应用的网关型后端，除了提供常规的 API 网关功能外，特别实现了 MCP 网关能力：能够连接并聚合来自多个外部 MCP 客户端的工具，统一暴露为一个 MCP Server 端点，供 LLM 客户端调用工具、读取资源、获取 Prompt 等上下文服务。支持三种传输协议（HTTP/SSE/STDIO），并内置会话管理、路由、插件管线、监控与日志能力。

  • 主要功能点

    • MCP 网关：连接并聚合外部 MCP 客户端的工具，暴露统一的 MCP Server 端点供调用。
    • 工具注册与执行：自动发现并执行对接的工具，提供对外暴露的 ServerTool 清单。
    • 会话与路由：支持会话保持、路由规则、分组模型分配，以及基础的负载均衡与故障转移。
    • 传输协议：通过 HTTP、SSE、STDIO 三种传输方式与 MCP 客户端通信。
    • 监控与日志：集成观测、日志、指标采集，提供请求、错误、成本、令牌等维度的监控。
    • 数据与模型元数据：从 models.dev 同步模型元数据与价格信息，内置Builtin工作区模型。

  • 安装步骤

    1. 构建并运行 Wheel worker（后端服务端）：
      • Go 版本需满足项目要求（Go 1.20+ 及以上版本通常适用）。
      • 使用 go build 构建出 wheel 可执行文件并启动。
    2. 部署前提：
      • 配置数据库（TiDB/MySQL）并运行数据库迁移脚本，确保表结构就绪。
      • 配置环境变量（例如 JWT_SECRET、DB_DSN、端口等）以确保身份认证和数据库连接正常。
    3. 启动后访问：
      • 访问 http://localhost:8787/ 获取系统基本信息。
      • MCP Server 端点地址：http://localhost:3000/mcp/（Wheel 部署后，若将网关端口配置为 3000，MCP 服务端点会暴露在该路径下）。

  • 服务器配置（MCP 客户端配置示例） MCP 客户端需要通过 STDIO/HTTP/SSE 来连接 Wheel 的 MCP 网关。下面给出一个示例配置描述，实际配置需按你的运行环境填写。该配置用于指示 MCP 客户端如何启动并连接到 Wheel 服务器以聚合工具。 { "serverName": "wheel-mcp-gateway", "connectionType": "stdio", "stdioConfig": { "command": "./wheel", "args": ["serve-mcp"], // 启动参数，表示以 MCP 网关模式运行 "envs": [] // 必要环境变量（如需，放在此处） }, "headers": [], "enabled": true, "toolsToExecute": ["*"], "toolsToAutoExec": [] } 注释说明：

    • serverName：MCP 服务器的名称，便于标识与管理。
    • connectionType：传输类型，Wheel 的 MCP 网关支持 STDIO、HTTP、SSE 等连接方式，示例中使用 STDIO 以本地进程方式启动。
    • stdioConfig：指定要启动的程序及参数。command 为可执行程序名，args 为启动参数，envs 为环境变量列表。
    • enabled：是否启用该 MCP 客户端连接。
    • toolsToExecute / toolsToAutoExec：工具执行白名单或自动执行设置，示例中使用通配符表示允许执行所有工具。 以上配置示例基于仓库中对 MCP 的实现方式给出，具体参数请结合实际部署环境调整。

  • 基本使用方法

    • 运行 Wheel 并确保 MCP 网关对外可访问（如 http://localhost:3000/mcp/）。
    • 在 MCP 客户端（Claude Desktop、OpenAI 兼容工具等）按照 Wheel 提供的 MCP Server 地址进行接入配置，并携带必要的认证信息（如 API Key）。
    • 在客户端连接成功后，Wheel 会聚合所有 MCP 客户端的工具并暴露一个统一的 MCP Server 端点，后续即可通过该端点调用工具、读取资源和获取提示模板等。
    • 如需将某个工具调用到具体 MCP 客户端，请参考管理端对 MCP 客户端的工具映射与原始名称映射逻辑，Wheel 会按映射关系执行对应客户端的工具。

  • 进阶用法

    • 增量同步：Wheel 启动后会从各 MCP 客户端处发现工具并同步到统一 Server Tool 清单，支持后续定时重新同步。
    • 安全性与鉴权：Wheel 提供请求鉴权、API Key 以及 Bearer Token 的支持，确保对 MCP 服务的访问控制。
    • 监控与日志：通过内置的观测系统与日志系统，能够对各通道、模型、Key 的使用情况进行追踪和分析。

服务器信息

访问项目