关键词

Ollama大语言模型MCP服务器Claude模型管理工具调用

使用说明

项目简介

MCP Ollama 是一个桥梁，它使得支持 Model Context Protocol (MCP) 的客户端能够利用本地 Ollama 服务器上部署的大语言模型。通过该服务器，你可以使用 MCP 客户端方便地管理和调用 Ollama 上的模型，例如列出可用模型、查看模型详情以及向模型提问。

主要功能点

  • 模型列表查询 (list_models): 获取Ollama服务器上已下载的所有大语言模型列表。
  • 模型信息查看 (show_model): 查询并展示指定模型的详细信息，包括模型格式、参数大小、量化级别等。
  • 模型问答 (ask_model): 向指定的Ollama模型提出问题，并获取模型的回答。

安装步骤

  1. 环境准备:

    • 确保你的系统已安装 Python 3.10 或更高版本。
    • 确保已安装并运行 Ollama (访问 https://ollama.com/download 下载安装)。
    • 确保已通过 Ollama 下载至少一个模型，例如在终端运行 'ollama pull llama2'。

  2. 下载 MCP Ollama 代码:

    git clone https://github.com/emgeee/mcp-ollama.git
cd mcp-ollama

  3. 安装依赖: 建议使用 'uv' 包管理器 (如果未安装，请先安装 'pip install uv') 来同步依赖，提高安装速度：

    uv sync

    或者，你也可以使用 'pip' 安装：

    pip install -e .

服务器配置

MCP 服务器需要配置到 MCP 客户端中才能使用。以 Claude Desktop 为例，你需要编辑 Claude Desktop 的配置文件 ('claude_desktop_config.json')，通常位于：

  • macOS: '~/Library/Application Support/Claude/claude_desktop_config.json'
  • Windows: '%APPDATA%\Claude\claude_desktop_config.json'

在配置文件中，找到 '"mcpServers"' 部分（如果不存在则创建），并添加如下配置信息：

{
  "mcpServers": {
    "ollama": {  // 服务器名称，可以自定义，例如 "my_ollama_server"
      "command": "uvx", // 运行命令，这里使用 uvx (假设 uvx 可执行 Python 脚本), 如果使用 pip 安装，可以尝试使用 python 或 python3
      "args": [
        "mcp-ollama" // 命令参数，指向 mcp-ollama 的入口点，这里 "mcp-ollama" 会执行 mcp_ollama 包的 __main__.py 文件
      ]
    }
  }
}

参数说明:

  • '"ollama"': MCP 服务器的名称，在 Claude Desktop 中用于标识和选择该服务器。你可以自定义这个名称。
  • '"command": "uvx"': 指定启动 MCP Ollama 服务器的命令。这里 'uvx' 是一个假定的命令执行器，用于运行 Python 脚本。如果你的环境中 'uvx' 不可用，并且你使用 'pip' 安装，可以尝试使用 'python' 或 'python3' 作为命令。
  • '"args": ["mcp-ollama"]': 传递给命令的参数。 '"mcp-ollama"' 会作为模块名被 'uvx' (或 'python') 执行，实际上会运行 'src/mcp_ollama/main.py' 文件，从而启动 MCP 服务器。

注意: 请根据你的实际 Python 环境和包管理器配置，调整 '"command"' 和 '"args"' 的值，确保 MCP 客户端能够正确启动 MCP Ollama 服务器。

基本使用方法

配置完成后，在 Claude Desktop 或其他 MCP 客户端中选择你配置的 MCP 服务器 (例如 "ollama")。客户端会通过 MCP 协议与 MCP Ollama 服务器通信，你可以通过客户端提供的界面或命令来使用 MCP Ollama 服务器提供的功能，例如：

  • 在客户端中列出 Ollama 模型。
  • 查看特定模型的详细信息。
  • 在客户端中选择 Ollama 模型并进行对话。

具体使用方式取决于你使用的 MCP 客户端的功能和界面。通常，客户端会提供相应的菜单或选项来调用 MCP 服务器提供的工具。

信息

分类

AI与计算

访问项目