项目简介

Archestra AI 平台旨在帮助企业简化AI应用管理、增强安全性并优化成本。它作为一个中央控制台,可以集中部署、监控和管理企业内部的MCP(Model Context Protocol)服务器。通过Archestra,您可以轻松地将分散的MCP服务器整合到统一的平台中,实现对AI代理、工具和上下文的精细控制,同时它自身也提供一套丰富的MCP工具,供LLM客户端调用以管理平台。

主要功能点

  • MCP 服务器编排: 将MCP服务器从独立的机器迁移到Kubernetes原生编排器进行集中管理,简化部署和生命周期管理。
  • 私有MCP注册表: 建立私有的MCP服务器注册表,方便团队共享和管理自托管、远程、自建或第三方的MCP服务器。
  • 内置MCP工具集: Archestra自身作为MCP服务器,提供了一套丰富的管理工具,允许LLM客户端直接调用,例如创建AI配置文件、管理成本限制、查询MCP注册表等。
  • AI 成本管理: 提供按团队、按代理或按组织的成本监控和限制功能,并通过动态优化自动切换模型来降低成本。
  • 高级安全防护: 具备非概率性安全机制,通过安全子代理和动态工具防止Prompt注入和数据泄露。
  • AI 可观测性: 提供全面的指标、跟踪和日志,用于监控LLM的使用情况、性能和工具调用。
  • Prompt 模板管理: 支持定义和管理可定制的LLM Prompt模板。
  • 多传输协议支持: 通过WebSocket等协议支持LLM客户端与服务器通信。

安装步骤

Archestra 平台推荐使用Docker进行快速部署:

  1. 拉取Docker镜像:
    docker pull archestra/platform:latest
  2. 启动Docker容器:
    docker run -p 9000:9000 -p 3000:3000 \
      -v archestra-postgres-data:/var/lib/postgresql/data \
      -v archestra-app-data:/app/data \
      archestra/platform
    这条命令将启动Archestra平台,并将其Web UI暴露在端口'3000',API代理服务暴露在端口'9000'。 同时,它会创建并挂载两个Docker卷用于持久化数据库和应用数据。
  3. 访问平台: 在浏览器中打开 'http://localhost:3000' 即可访问Archestra平台的Web UI。

服务器配置 (供MCP客户端使用)

Archestra 平台本身作为 MCP 服务器,向 MCP 客户端暴露了一系列管理工具。当您配置 MCP 客户端(如 'mcp-cli' 或其他 LLM 代理)连接到 Archestra 平台时,需要提供以下配置信息:

{
  "serverName": "archestra",
  "command": "archestra-platform-cli",
  "args": [
    "connect",
    "--url", "http://localhost:9000/v1/mcp",
    "--websocket-url", "ws://localhost:9000/ws"
  ],
  "description": "连接到Archestra AI平台,访问其内置的管理工具和编排服务。"
}
  • 'serverName': Archestra MCP 服务器的名称,用于标识。
  • 'command': 连接到Archestra平台的命令行工具,例如'archestra-platform-cli'(这是一个示例,实际命令行工具可能需要根据Archestra提供的SDK或CLI来确定)。
  • 'args': 命令行工具的参数,用于指定连接到Archestra MCP服务器的URL和WebSocket URL。
    • '--url': 指定JSON-RPC HTTP/S端点。
    • '--websocket-url': 指定JSON-RPC WebSocket端点,用于实时通信。
  • 'description': 对该MCP服务器的简要说明。

基本使用方法

  1. 登录Web UI: 首次启动后,访问 'http://localhost:3000',您可能需要创建一个管理员账户或使用默认凭证登录。
  2. 管理MCP服务器: 在Web UI中,您可以:
    • 将新的MCP服务器添加到私有注册表。
    • 查看和管理已部署的MCP服务器实例及其状态。
    • 配置成本限制和安全策略。
  3. 通过LLM调用内置工具:
    • 配置您的LLM代理或MCP客户端,使其能够连接到上述的Archestra MCP服务器端点 ('http://localhost:9000/v1/mcp' 或 'ws://localhost:9000/ws')。
    • LLM现在可以发现并调用Archestra提供的内置工具,例如:
      • 'archestra__create_profile(name="我的新代理")':创建一个新的AI代理配置文件。
      • 'archestra__get_limits(entity_type="profile", entity_id="<代理ID>")':查询特定代理的成本限制。
      • 'archestra__search_private_mcp_registry(query="GitHub")':在私有注册表中搜索与GitHub相关的MCP服务器。
    • 这些工具将帮助LLM执行管理Archestra平台自身的操作。

信息

分类

开发者工具