使用说明
GLUE框架(GenAI Linking & Unification Engine)是一个用于构建下一代多模型AI应用的框架,其核心功能之一是能够作为Model Context Protocol (MCP) 服务器运行,为大型语言模型(LLM)客户端提供标准化的上下文服务。
主要功能点:
- MCP服务器集成: GLUE框架允许开发者轻松创建和集成MCP服务器,实现与LLM客户端的无缝连接,提供资源、工具和Prompt模板的管理能力。
- 动态工具创建与管理: GLUE代理可以根据任务需求自主创建自定义工具,并通过MCP服务器注册和管理,供LLM客户端调用,扩展模型的功能边界。
- 资源托管与访问: MCP服务器可以托管和管理各种资源,并为LLM客户端提供安全的数据访问能力,支持构建复杂的上下文感知应用。
- Prompt模板渲染: 支持定义和渲染Prompt模板,允许开发者根据不同的应用场景定制LLM交互模式,并通过MCP服务器提供给客户端。
- 灵活的粘合剂机制: GLUE框架提供独特的粘合剂(GLUE、VELCRO、TAPE)机制,用于管理工具结果的持久性,满足不同场景下的数据管理需求。
- API Key安全管理: 集成Portkey.ai,提供安全的API Key管理、用量跟踪和成本优化功能。
安装步骤:
-
安装 GLUE 框架: 打开终端并执行以下命令安装 GLUE 框架:
pip install glue-fw -
创建 GLUE 应用: 使用 'glue new' 命令创建一个新的 GLUE 应用项目,例如:
glue new my_mcp_app cd my_mcp_app -
配置 API Keys (可选): 在项目根目录下创建 '.env' 文件,并根据需要配置 API Keys,例如 OpenRouter API Key (必须) 和 Serp API Key 或 Tavily API Key (可选,用于 Web Search 工具):
OPENROUTER_API_KEY=your_openrouter_key_here SERP_API_KEY=your_serp_api_key_here TAVILY_API_KEY=your_tavily_api_key_here如果需要启用 Portkey 集成,请设置 Portkey 相关的环境变量:
PORTKEY_ENABLED=true PORTKEY_API_KEY=your_portkey_api_key -
运行 GLUE 应用 (包含 MCP 服务器功能): 使用 'glue run' 命令运行你的 GLUE 应用。GLUE 应用本身就包含了 MCP 服务器的实现,无需额外配置独立的 MCP 服务器。你可以通过 GLUE DSL 配置文件 'app.glue' 来定义你的应用,并利用 GLUE 框架提供的 MCP 服务器功能。
例如,运行交互模式:
glue run app.glue -I
服务器配置 (MCP 客户端配置):
MCP 客户端需要配置以下信息才能连接到 GLUE 框架实现的 MCP 服务器。由于 GLUE 框架以库的形式提供 MCP 服务器功能,并集成在 GLUE 应用中运行,因此 MCP 客户端的配置主要指向运行 GLUE 应用的命令:
{ "serverName": "glue-mcp-server", // MCP 服务器名称,可以自定义 "command": "glue", // 启动 MCP 服务器的命令,这里是 glue CLI 工具 "args": [ // 命令参数 "run", // glue run 命令 "app.glue" // 指定 GLUE 应用配置文件 // 可以添加其他参数,例如 "-I" 启动交互模式 ], "description": "GLUE Framework MCP Server", // 服务器描述信息 "transport": "stdio", // 传输协议,GLUE 框架默认支持 stdio 等协议 "capabilities": [ // MCP 服务器声明的能力,根据 GLUE 应用配置自动声明 // ... GLUE 应用支持的资源、工具、Prompt 模板等 ] }
基本使用方法:
-
定义 GLUE 应用: 使用 GLUE DSL (Domain Specific Language) 在 'app.glue' 文件中定义你的 AI 应用,包括模型、工具、团队和信息流。你可以参考 'README.md' 和示例应用来编写 'app.glue' 文件。
-
启动 GLUE 应用: 运行 'glue run app.glue -I' 命令启动你的 GLUE 应用,这将同时启动内置的 MCP 服务器。
-
连接 MCP 客户端: 配置你的 MCP 客户端,使其连接到运行 GLUE 应用的进程。客户端可以通过 stdio 或其他支持的协议与 GLUE 应用进行通信,并利用 MCP 协议提供的功能。
-
与 AI 应用交互: 通过 MCP 客户端,你可以向 GLUE 应用发送请求,例如调用工具、查询资源、获取 Prompt 模板等,构建基于上下文的 AI 应用。
注意: GLUE 框架的 MCP 服务器功能主要通过其 CLI 工具 'glue run' 命令启动的 GLUE 应用来体现,客户端配置的关键是正确指向 'glue run' 命令及其参数。
信息
分类
AI与计算