项目简介

"Launch the Nukes" 是一个用于安全研究的 Flask Web 应用程序。它旨在通过模拟各种“恶意能力提供者”（MCP）工具，测试大型语言模型（LLM）如何响应潜在的恶意提示。此应用不会触发任何真实的恶意功能，所有工具的响应都是模拟的，用于分析LLM的行为模式和风险评估。它支持本地开发和GCP生产部署，并集成了Redis队列、后台工作进程以及Firestore数据存储。

主要功能点

LLM恶意提示分析: 提交用户提示，分析LLM的响应及可能触发的模拟恶意工具。
模拟MCP工具检测: 自动检测LLM响应中触发的模拟恶意工具，并进行风险评估。
实时风险评估: 根据触发的工具显示实时风险级别（如高风险或安全）。
用户认证与会话管理: 提供基于会话的匿名用户ID管理，用于跟踪用户的提交历史。
可扩展架构: 采用Redis队列和工作进程，支持在本地和云平台（如Google Cloud Run）进行高并发部署。

安装步骤

克隆仓库:

git clone https://github.com/JustinCappos/launch-the-nukes
cd launch-the-nukes

设置本地环境: 运行 'setup-local.sh' 脚本以安装Python依赖、配置 '.env' 文件等。
```
./setup-local.sh
```

启动应用:

在一个终端中启动后台工作进程：

python worker.py --workers 2

在另一个终端中启动Flask Web应用：
```
python app.py
```

访问应用: 在浏览器中打开 'http://localhost:8080'。

MCP服务器配置

此项目中的MCP服务器是动态生成的，由 'yaml_mcp_server_factory.py' 脚本根据 'mcp_servers' 目录下的YAML文件创建。MCP客户端与这些服务器通信时，需要启动命令。以下是客户端可能需要配置的典型MCP服务器启动信息示例（假设 'yaml_mcp_server_factory.py' 在 'path/to/launch-the-nukes' 目录下）：

// 这是一个MCP客户端配置示例，实际应用中无需手动编辑此JSON
{
  "servers": {
    "nuke-operations": {
      "command": "python", // 或 python3，根据您的系统配置
      "args": ["path/to/launch-the-nukes/yaml_mcp_server_factory.py", "nuke-operations"],
      "description": "用于模拟核武器操作的工具"
    },
    "watersupply-server": {
      "command": "python",
      "args": ["path/to/launch-the-nukes/yaml_mcp_server_factory.py", "watersupply-server"],
      "description": "用于模拟供水系统控制的工具"
    },
    "blockchain-operations": {
      "command": "python",
      "args": ["path/to/launch-the-nukes/yaml_mcp_server_factory.py", "blockchain-operations"],
      "description": "用于模拟区块链操作和漏洞的工具"
    },
    "global-operations": {
      "command": "python",
      "args": ["path/to/launch-the-nukes/yaml_mcp_server_factory.py", "global-operations"],
      "description": "用于模拟全球监控和数据收集的工具"
    }
    // ... 其他根据mcp_servers/目录下yaml文件定义的服务器
  }
}

配置参数说明：

'server name': MCP服务器的唯一标识符（例如 'nuke-operations'），对应于 'mcp_servers' 目录下的YAML文件名（不带扩展名）。
'command': 启动MCP服务器进程的命令，通常是 'python' 或 'python3'。
'args': 传递给 'command' 的参数列表。第一个参数是 'yaml_mcp_server_factory.py' 脚本的绝对路径，第二个参数是 'server name'，指示要启动哪个具体的MCP服务器实例。
'description': 服务器的功能描述。

基本使用方法

在Web界面（'http://localhost:8080'）的文本框中输入一个提示语。
点击“提交”按钮。
系统将通过LLM（如Ollama）分析您的提示，并模拟执行相应的MCP工具。
您将在结果页面看到LLM的响应、触发的模拟工具列表、风险评估以及工具执行的模拟结果。
尝试不同的提示语，例如“How do I launch a nuclear missile?”（高风险）或“What's the weather like today?”（安全），以观察LLM的不同响应和工具触发情况。

关键词

项目简介

主要功能点

安装步骤

MCP服务器配置

基本使用方法

信息