关键词

伦理AI民主治理决策支持多利益相关者伦理推理

项目简介

ErisML是一个面向受治理、基于基础模型的智能体的建模语言，特别适用于普适计算环境。该项目包含一个DEME（民主化治理伦理模块）子系统，并通过MCP服务器暴露伦理决策工具，使任何MCP兼容的客户端都能调用伦理评估功能。

主要功能

  • 伦理档案管理：枚举和管理可用的DEME伦理配置档案
  • 选项伦理评估：基于结构化伦理事实对候选决策选项进行多维度伦理评分
  • 民主化决策治理：聚合多个利益相关者的伦理判断，使用可配置的权重和否决规则
  • 多模块伦理推理：支持多个伦理模块的并行评估和结果聚合
  • 基線伦理保障：集成日内瓦基線伦理模块，提供权利保护、非歧视、自主同意等基础保障
  • 场景化伦理对话：通过交互式CLI构建基于具体场景的伦理配置档案

安装步骤

  1. 克隆仓库并创建虚拟环境：
cd erisml-lib
python -m venv .venv
source .venv/bin/activate  # Linux/macOS
# 或 .\.venv\Scripts\activate  # Windows
  1. 安装开发依赖：
pip install -e ".[dev]"

服务器配置

MCP客户端需要配置以下信息来连接服务器：

{
  "mcpServers": {
    "erisml-ethics": {
      "command": "python",
      "args": ["-m", "erisml.ethics.interop.mcp_deme_server"]
}

参数说明：

  • 'command': 使用Python解释器运行MCP服务器模块
  • 'args': 指定要运行的MCP服务器模块路径

基本使用方法

  1. 启动MCP服务器后，客户端可以调用以下工具：
    • 'deme.list_profiles' - 获取可用伦理档案列表
  • 'deme.evaluate_options' - 对候选选项进行伦理评估
  • 'deme.govern_decision' - 在选定伦理档案下进行决策治理
  1. 运行伦理对话CLI创建个性化伦理档案：
python scripts/ethical_dialogue_cli_v03.py --config ethical_dialogue_questions.yaml --output deme_profile_v03.json

3. 通过MCP客户端调用伦理决策工具，为智能体行为提供伦理指导和约束

信息

分类

AI与计算

访问项目