使用说明

GLUE框架(GenAI Linking & Unification Engine)是一个用于构建下一代多模型AI应用的框架,其核心功能之一是能够作为Model Context Protocol (MCP) 服务器运行,为大型语言模型(LLM)客户端提供标准化的上下文服务。

主要功能点:

  • MCP服务器集成: GLUE框架允许开发者轻松创建和集成MCP服务器,实现与LLM客户端的无缝连接,提供资源、工具和Prompt模板的管理能力。
  • 动态工具创建与管理: GLUE代理可以根据任务需求自主创建自定义工具,并通过MCP服务器注册和管理,供LLM客户端调用,扩展模型的功能边界。
  • 资源托管与访问: MCP服务器可以托管和管理各种资源,并为LLM客户端提供安全的数据访问能力,支持构建复杂的上下文感知应用。
  • Prompt模板渲染: 支持定义和渲染Prompt模板,允许开发者根据不同的应用场景定制LLM交互模式,并通过MCP服务器提供给客户端。
  • 灵活的粘合剂机制: GLUE框架提供独特的粘合剂(GLUE、VELCRO、TAPE)机制,用于管理工具结果的持久性,满足不同场景下的数据管理需求。
  • API Key安全管理: 集成Portkey.ai,提供安全的API Key管理、用量跟踪和成本优化功能。

安装步骤:

  1. 安装 GLUE 框架: 打开终端并执行以下命令安装 GLUE 框架:

    pip install glue-fw
  2. 创建 GLUE 应用: 使用 'glue new' 命令创建一个新的 GLUE 应用项目,例如:

    glue new my_mcp_app
    cd my_mcp_app
  3. 配置 API Keys (可选): 在项目根目录下创建 '.env' 文件,并根据需要配置 API Keys,例如 OpenRouter API Key (必须) 和 Serp API Key 或 Tavily API Key (可选,用于 Web Search 工具):

    OPENROUTER_API_KEY=your_openrouter_key_here
    SERP_API_KEY=your_serp_api_key_here
    TAVILY_API_KEY=your_tavily_api_key_here

    如果需要启用 Portkey 集成,请设置 Portkey 相关的环境变量:

    PORTKEY_ENABLED=true
    PORTKEY_API_KEY=your_portkey_api_key
  4. 运行 GLUE 应用 (包含 MCP 服务器功能): 使用 'glue run' 命令运行你的 GLUE 应用。GLUE 应用本身就包含了 MCP 服务器的实现,无需额外配置独立的 MCP 服务器。你可以通过 GLUE DSL 配置文件 'app.glue' 来定义你的应用,并利用 GLUE 框架提供的 MCP 服务器功能。

    例如,运行交互模式:

    glue run app.glue -I

服务器配置 (MCP 客户端配置):

MCP 客户端需要配置以下信息才能连接到 GLUE 框架实现的 MCP 服务器。由于 GLUE 框架以库的形式提供 MCP 服务器功能,并集成在 GLUE 应用中运行,因此 MCP 客户端的配置主要指向运行 GLUE 应用的命令:

{
  "serverName": "glue-mcp-server",  // MCP 服务器名称,可以自定义
  "command": "glue",                // 启动 MCP 服务器的命令,这里是 glue CLI 工具
  "args": [                         // 命令参数
    "run",                          // glue run 命令
    "app.glue"                      // 指定 GLUE 应用配置文件
    // 可以添加其他参数,例如 "-I" 启动交互模式
  ],
  "description": "GLUE Framework MCP Server", // 服务器描述信息
  "transport": "stdio",             // 传输协议,GLUE 框架默认支持 stdio 等协议
  "capabilities": [                 // MCP 服务器声明的能力,根据 GLUE 应用配置自动声明
    // ... GLUE 应用支持的资源、工具、Prompt 模板等
  ]
}

基本使用方法:

  1. 定义 GLUE 应用: 使用 GLUE DSL (Domain Specific Language) 在 'app.glue' 文件中定义你的 AI 应用,包括模型、工具、团队和信息流。你可以参考 'README.md' 和示例应用来编写 'app.glue' 文件。

  2. 启动 GLUE 应用: 运行 'glue run app.glue -I' 命令启动你的 GLUE 应用,这将同时启动内置的 MCP 服务器。

  3. 连接 MCP 客户端: 配置你的 MCP 客户端,使其连接到运行 GLUE 应用的进程。客户端可以通过 stdio 或其他支持的协议与 GLUE 应用进行通信,并利用 MCP 协议提供的功能。

  4. 与 AI 应用交互: 通过 MCP 客户端,你可以向 GLUE 应用发送请求,例如调用工具、查询资源、获取 Prompt 模板等,构建基于上下文的 AI 应用。

注意: GLUE 框架的 MCP 服务器功能主要通过其 CLI 工具 'glue run' 命令启动的 GLUE 应用来体现,客户端配置的关键是正确指向 'glue run' 命令及其参数。

信息

分类

AI与计算