关键词

AI安全Prompt安全红队评估LLM监控内容安全

使用说明

项目简介

Enkrypt AI MCP服务器是一个基于Model Context Protocol (MCP) 标准构建的应用后端，专注于为大型语言模型 (LLM) 应用提供AI安全保障。它通过标准化的MCP协议与客户端（如Claude Desktop, Cursor IDE）通信，提供一系列安全工具，帮助用户分析Prompt风险、进行红队评估、并监控LLM的行为，从而提升AI应用的安全性和可靠性。

主要功能点

  • 实时Prompt风险分析: 能够实时分析用户输入的Prompt，检测潜在的安全风险，例如注入攻击、有害内容等。
  • 红队评估: 支持通过对抗性Prompt生成等红队技术，模拟攻击场景，帮助用户发现和修复LLM应用的安全漏洞。
  • 工具化的LLM监控: 基于MCP标准，将AI安全工具集成到LLM工作流程中，方便用户在日常使用中进行安全监控和分析。
  • 策略管理: 提供灵活的安全策略配置和管理功能，用户可以自定义检测规则和策略，以满足不同的安全需求。
  • 模型安全评估: 支持对托管的LLM模型进行安全评估，例如偏见检测、毒性检测等，帮助用户了解模型的安全风险。

安装步骤

  1. 克隆仓库: 首先，使用git命令克隆 enkryptai-mcp-server 仓库到本地：

    git clone https://github.com/enkryptai/enkryptai-mcp-server.git
cd enkryptai-mcp-server

  2. 安装依赖: 确保您已安装 'uv' 包管理器。然后使用 'uv pip' 命令安装项目依赖：

    uv pip install -e .

  3. 获取API Key: 访问 https://app.enkryptai.com/settings/api 注册并获取免费的 Enkrypt AI API Key。

服务器配置

此MCP服务器需要配置到支持MCP协议的客户端中才能使用，例如 Cursor IDE 或 Claude Desktop。以下是在这些客户端中配置 Enkrypt AI MCP 服务器的步骤和配置信息。请注意，以下是提供给MCP客户端的配置信息，您无需手动运行这些命令。

以 Cursor IDE 或 Claude Desktop 配置为例：

  1. 打开 Cursor IDE 或 Claude Desktop 的设置，找到 MCP 服务器配置选项。
  2. 点击 "添加新的全局MCP服务器" 或 "编辑配置" 按钮。
  3. 复制以下 JSON 配置信息，并粘贴到客户端的配置文件 (例如 'mcp.json' 或 'claude_desktop_config.json') 中。
{
  "mcpServers": {
    "EnkryptAI-MCP": {
      "command": "uv",
      "args": [
        "--directory",
        "<PATH_TO_REPO>",
        "run",
        "src/mcp_server.py"
      ],
      "env": {
        "ENKRYPTAI_API_KEY": "<YOUR_API_KEY>"
      }
    }
  }
}

配置参数说明:

  • '"EnkryptAI-MCP"': MCP 服务器的名称，可以自定义。
  • '"command": "uv"': 启动服务器的命令，这里使用 'uv' 包管理器来运行 Python 脚本。
  • '"args"': 启动命令的参数列表：
    • '"--directory"': 指定工作目录为仓库根目录 '<PATH_TO_REPO>'，请将 '<PATH_TO_REPO>' 替换为您本地 enkryptai-mcp-server 仓库的绝对路径。
    • '"run"': 'uv' 命令的子命令，用于运行脚本。
    • '"src/mcp_server.py"': 指定要运行的服务器脚本路径。
  • '"env"': 环境变量配置：
    • '"ENKRYPTAI_API_KEY"': Enkrypt AI API Key，请将 '<YOUR_API_KEY>' 替换为您在 Enkrypt AI 网站上获取的 API Key。
  1. 保存配置并重启客户端: 保存配置文件，并重启 Cursor IDE 或 Claude Desktop 客户端。

基本使用方法

成功配置并启动 Enkrypt AI MCP 服务器后，您可以在 MCP 客户端 (如 Cursor 或 Claude Desktop) 的界面中看到 Enkrypt AI 提供的安全工具。具体的使用方式取决于客户端的界面设计，通常可以通过菜单、按钮或命令来访问这些工具。

例如，在 Claude Desktop 中，成功连接 MCP 服务器后，聊天输入框旁边会出现一个锤子图标，点击即可访问 MCP 工具列表，并使用 Enkrypt AI 提供的各项安全功能，例如Prompt安全检测、红队评估等。

请参考您使用的 MCP 客户端的文档，了解如何具体调用和使用 Enkrypt AI MCP 服务器提供的工具。

信息

分类

AI与计算

访问项目