关键词

Groq APILLM聊天补全Nostr DVM去中心化服务

使用说明

项目简介

groq-dvm-test 是一个基于 Model Context Protocol (MCP) 标准构建的服务器，旨在为大型语言模型 (LLM) 客户端提供上下文信息和功能。该服务器的核心功能是作为一个桥梁，连接客户端和 Groq 强大的 LLM API，使用户能够便捷地进行聊天补全操作。此外，它还集成了 Nostr Data Vending Machine (DVM) 功能，使得 LLM 服务能够通过去中心化的 Nostr 网络进行访问和交易，尤其专注于 NIP-90 协议的实现。

主要功能点

  • 提供工具 (Tools): 实现了 'chat_completion' 工具，允许客户端调用 Groq API 执行聊天补全任务。该工具接受消息数组和可选参数（如模型、温度、最大 token 数等），并返回 LLM 的响应。
  • Nostr DVM 支持:
    • 实现了 NIP-89 协议，用于服务广播，方便客户端发现该 MCP 服务器提供的 LLM 服务。
    • 实现了 NIP-90 协议，处理来自 Nostr 网络的 LLM 补全请求，实现去中心化的 LLM 访问。
    • 支持通过环境变量 'NOSTR_ALLOWED_PUBKEY' 限制访问权限，实现私有服务。
    • 通过 kind:7000 事件提供任务状态更新，方便用户监控任务进度。
    • 支持 Groq API 提供的多种模型，包括 gemma-7b-it, llama3-70b-8192, llama3-8b-8192, mixtral-8x7b-32768。

安装步骤

  1. 安装 Node.js 和 npm: 确保你的系统已安装 Node.js 和 npm。
  2. 克隆仓库: 将 'groq-dvm-test' 仓库克隆到本地。 
    git clone https://github.com/OpenAgentsInc/groq-dvm-test.git
cd groq-dvm-test
  3. 安装依赖: 在仓库根目录下运行以下命令安装项目依赖。 
    npm install
  4. 构建服务器: 运行以下命令构建服务器代码。 
    npm run build

服务器配置

MCP 客户端 (如 Claude Desktop) 需要配置 MCP 服务器的启动命令才能连接。以下是 'groq-dvm-test' 服务器的配置信息，你需要根据实际安装路径进行调整。

JSON 配置文件示例 (例如 Claude Desktop 的 'claude_desktop_config.json'):

{
  "mcpServers": {
    "groq-mcp-test": {
      "command": "/path/to/groq-dvm-test/build/index.js"
    }
  }
}

配置参数说明:

  • '"groq-mcp-test"': 服务器名称，可以自定义。
  • '"command"': 必需。指向服务器启动脚本的绝对路径。你需要将 '/path/to/groq-dvm-test/build/index.js' 替换为 'index.js' 文件在你本地文件系统中的实际路径。

环境变量配置: 启动服务器前，你需要在运行环境中设置以下环境变量：

  • 'GROQ_API_KEY': 必需。你的 Groq API 密钥，用于访问 Groq 的 LLM API。 
    export GROQ_API_KEY=你的Groq_API密钥
  • Nostr 相关环境变量 (可选，如果需要使用 Nostr DVM 功能):
    • 'NOSTR_PRIVATE_KEY': 你的 Nostr 私钥，用于 Nostr 网络身份验证和事件签名。 
      export NOSTR_PRIVATE_KEY=你的Nostr私钥
    • 'NOSTR_RELAYS': Nostr 中继服务器地址列表，多个地址用逗号分隔。 
      export NOSTR_RELAYS=wss://relay1.com,wss://relay2.com
    • 'NOSTR_ALLOWED_PUBKEY': 可选。允许访问 Nostr 服务的特定公钥，用于限制服务访问权限。 
      export NOSTR_ALLOWED_PUBKEY=允许的公钥

基本使用方法

  1. 启动 MCP 服务器: 在终端中，导航到仓库根目录，并运行构建后的 'index.js' 文件来启动服务器。 
    node build/index.js
    如果配置了 Nostr 相关环境变量，服务器启动时会同时启动 Nostr DVM handler 并输出相关日志信息。
  2. 配置 MCP 客户端: 打开你的 MCP 客户端 (例如 Claude Desktop)，根据上述 “服务器配置” 部分的说明，将 'groq-mcp-test' 服务器添加到客户端的 MCP 服务器列表中。
  3. 使用聊天补全功能: 在 MCP 客户端中，选择配置好的 'groq-mcp-test' 服务器，即可使用 'chat_completion' 工具进行聊天补全。客户端会通过 MCP 协议与 'groq-dvm-test' 服务器通信，服务器会调用 Groq API 并将结果返回给客户端。
  4. Nostr DVM 使用 (如果启用): 如果你配置了 Nostr 环境变量并启动了 Nostr DVM handler，该服务器将监听 Nostr 网络上的 job 请求 (kind: 5050)。你可以使用 Nostr 客户端发送符合 NIP-90 规范的 job 请求事件到配置的 Nostr 中继服务器，'groq-dvm-test' 服务器会自动处理这些请求，并将结果发布回 Nostr 网络。

通过以上步骤，你就可以成功安装、配置和使用 'groq-dvm-test' MCP 服务器，体验基于 Groq API 的聊天补全服务，以及通过 Nostr 网络进行去中心化 LLM 访问的功能。

信息

分类

AI与计算

访问项目