使用说明

项目简介

LLMling Agent 是一个用于构建和管理 LLM 驱动的 Agent 的框架,它集成了 MCP 服务器功能,允许 LLM 客户端通过标准化的 MCP 协议访问 Agent 的资源、工具和 Prompt 模板。

主要功能点

  • 资源管理: 托管和管理 Agent 的配置和资源 (Resources),例如知识库、数据集等。
  • 工具集成: 注册和执行工具 (Tools),允许 LLM 客户端安全地调用外部功能,扩展 LLM 的能力。
  • Prompt 模板: 定义和渲染 Prompt 模板 (Prompts),支持可定制的 LLM 交互模式,方便客户端根据需求获取 Prompt。
  • 标准协议: 基于 Model Context Protocol (MCP) 构建,通过 JSON-RPC 协议与客户端进行标准化通信。
  • 灵活传输: 支持多种传输协议,例如 Stdio, SSE, WebSocket,以适应不同的应用场景。
  • 会话管理: 提供服务器端的会话管理,维护客户端连接状态。
  • 能力声明: 声明服务器端提供的能力,方便客户端了解服务器功能。

安装步骤

使用 pip 安装 'llmling-agent' 及其默认依赖:

pip install llmling-agent[default]

或者,如果使用 uv 包管理器,可以使用以下命令:

uv pip install llmling-agent[default]

服务器配置

MCP 客户端需要配置 MCP 服务器的启动命令及其参数,以便建立连接。以下是一个 JSON 格式的配置示例,用于配置基于 Stdio 传输协议的 MCP 服务器:

{
  "serverName": "llmling-agent-mcp-server",  // 自定义服务器名称,客户端用于识别和管理连接
  "command": "llmling-agent",           // 启动 MCP 服务器的命令,这里使用 llmling-agent CLI 程序
  "args": []                             // 启动参数,这里为空,可以使用 run 或 chat 等子命令和 agent 配置文件路径
}

配置说明:

  • 'serverName': MCP 服务器的自定义名称,客户端可以使用此名称来识别和管理与不同 MCP 服务器的连接。
  • 'command': 启动 MCP 服务器的命令行命令。对于 'llmling-agent',可以使用其 CLI 入口 'llmling-agent'。
  • 'args': 传递给启动命令的参数列表。在基础配置中,参数列表可以为空。更高级的配置可能需要指定 Agent 配置文件路径或其他参数。

更多配置:

更详细的服务器配置,例如指定 Agent 配置文件启动 MCP 服务器,以及配置 WebSocket 或 SSE 等其他传输协议,请参考 LLMling Agent 仓库的官方文档。

基本使用方法

  1. 安装 LLMling Agent 框架: 按照上述安装步骤完成安装。
  2. 配置 Agent 和 MCP 服务器: 在 'agents.yml' 文件中定义 Agent,并在 'agents.yml' 文件的 Agent 配置中配置 'mcp_servers' 节点来启用和配置 MCP 服务器。 具体配置方法请参考仓库文档和示例 'agents.yml'。
  3. 启动 MCP 服务器: LLMling Agent 框架在 'AgentPool' 上下文启动时会自动初始化并运行 MCP 服务器。用户无需显式执行额外的服务器启动命令,只需确保在代码中正确初始化 'AgentPool' 即可。
  4. 配置 MCP 客户端: 在 MCP 客户端应用中,根据上述“服务器配置”示例,配置连接到 LLMling Agent MCP 服务器所需的连接信息,包括 'command' 和 'args' 等。
  5. 客户端与服务器交互: 使用 MCP 客户端库,通过 MCP 协议与 LLMling Agent MCP 服务器进行交互,例如发送 JSON-RPC 请求以读取资源、调用工具或获取 Prompt。

信息

分类

AI与计算