关键词

本地AI平台数据隐私RAG大模型管理企业级AI

项目简介

BionicGPT 是一个开源的生成式人工智能平台，设计用于在本地或私有云环境中运行。它提供类似 ChatGPT 的功能，但专注于保护企业数据的机密性。平台核心在于通过集成用户私有数据（RAG）增强 AI 能力，同时提供全面的模型管理、用户和团队协作、以及强大的安全功能。

主要功能点

  • AI助手 (Retrieval Augmented Generation - RAG): 利用您上传的私有文档和数据创建定制化的 AI 助手。这些助手能够基于您的特定知识库进行智能问答和信息检索，显著提升回复的相关性和准确性。支持多种常见文档格式。
  • 模型管理: 轻松集成、部署和管理各种大型语言模型 (LLM) 和嵌入模型。您可以根据需求配置和切换不同的模型。
  • 数据集成与管理: 提供数据管道功能，支持从多种数据源（如文件系统、数据库、云存储等）批量或实时上传数据到平台的数据集中。数据集是构建 RAG 知识库的基础。
  • 团队与权限管理: 支持创建团队，邀请成员加入，并利用 SSO (Single Sign-On) 系统进行用户身份验证和基于角色的访问控制 (RBAC)，确保不同用户和团队的数据隔离和权限隔离。
  • API 访问: 可以将您创建的 AI 助手或配置的模型暴露为兼容 OpenAI API 的接口，方便开发者将其集成到现有的应用或工作流程中。支持 API Key 管理和调用速率限制。
  • 安全与合规: 内置多种安全机制，包括代码安全扫描 (SAST)、数据库行级安全 (RLS)、内容安全策略 (CSP)、审计追踪、非 root 容器运行等，帮助企业满足严格的数据隐私和合规性要求。
  • 观测与报告: 集成 Prometheus 和 Grafana，提供系统负载、使用情况的监控和可视化，并记录详细的聊天和操作日志。

安装步骤

BionicGPT 推荐使用容器化方式部署，支持 Docker Compose（适合本地开发和小型测试）和 Kubernetes（适合生产环境和大规模部署）。

最简单的本地安装步骤：

  1. 确保您的机器上已安装 Docker 和 Docker Compose。
  2. 克隆 BionicGPT 的 GitHub 仓库到本地。
  3. 打开终端，导航到克隆的仓库目录。
  4. 运行以下命令启动所有服务： 
    docker compose up -d
  5. 等待容器启动并初始化完成。
  6. 通过浏览器访问 BionicGPT 的 Web 界面（通常是 'http://localhost'）。首次访问可能需要进行一些初始设置。

更详细的安装指南和 Kubernetes 部署说明，请参考 BionicGPT 的官方文档。

服务器配置 (MCP客户端使用)

BionicGPT 是一个完整的后端应用服务。MCP 客户端通常通过特定的网络地址和协议（如 Stdio, SSE, WebSocket）与 MCP 服务器通信，而不是直接通过命令行启动 BionicGPT 进程。MCP 客户端连接 BionicGPT 作为其上下文和功能提供者时，可能需要以下类型的配置信息，但具体细节取决于 BionicGPT 暴露的 MCP 接口：

{
  "serverName": "BionicGPT Server", // 在MCP客户端界面中显示的服务器名称
  "command": "bionicgpt-mcp-adapter", // 一个概念性命令，代表客户端如何连接到BionicGPT服务的接口（实际可能是一个网络地址或适配器）
  "args": [
    "--host", "localhost", // BionicGPT服务监听的地址
    "--port", "8080",      // BionicGPT服务监听的端口
    "--protocol", "jsonrpc-ws" // 使用的传输协议，例如WebSocket上的JSON-RPC
    // 其他可能的认证参数或接口路径
  ],
  "description": "连接到本地部署的BionicGPT后端，获取RAG和模型能力" // 服务器功能描述
}

重要提示: 上述 'command' 和 'args' 是 MCP 客户端抽象配置的示例。BionicGPT 是一个独立运行的服务，不是一个由客户端直接启动的命令行工具。MCP 客户端与 BionicGPT 的实际集成方式、所需的具体地址、端口、认证方法和协议，请务必查阅 BionicGPT 针对开发者或 MCP 客户端集成的官方文档和 API 说明。

基本使用方法

安装并访问 Web 界面后：

  1. 根据提示完成初始设置，如创建您的第一个团队。
  2. 在左侧导航栏选择“数据集”，点击“添加数据集”并上传您的私有文档（PDF, DOCX, TXT 等）。系统会自动处理和向量化这些文档。
  3. 在“模型管理”中，配置您希望平台使用的 LLM 和嵌入模型（可以是本地模型或外部服务）。
  4. 导航到“AI助手”，点击“新助手”，为其命名，编写系统提示词，并选择关联的数据集和使用的模型。
  5. 回到主页的“聊天”界面，选择您刚刚创建的 AI 助手，即可开始提问，助手将结合您的私有数据进行回复。
  6. 如果您是开发者，可以在“API Keys”部分为助手或模型生成 API Key，并通过 BionicGPT 提供的（可能是兼容 OpenAI 的）API 接口进行编程访问。

信息

分类

AI与计算

访问项目