Hatchling是一个基于命令行的聊天应用前端,旨在通过Model Context Protocol (MCP) 与各种MCP服务器交互,为本地运行的Ollama大模型提供工具调用能力和上下文信息。

主要功能点:

  • 交互式命令行聊天界面。
  • 集成Ollama API,支持使用本地大模型。
  • 通过MCP协议实现大模型的工具调用。
  • 支持工具执行链,让大模型完成更复杂任务。
  • 在使用MCP工具时,自动引用工具的来源信息。

安装步骤:

Hatchling推荐使用Docker运行,以确保一致性。

  1. 安装并配置Docker: 确保您已安装并配置好Docker Desktop(Windows/macOS/Linux)。Windows用户可能需要配置WSL2。详情请参考Docker官方文档。
  2. 安装并配置Ollama: 确保Ollama服务已安装并运行。建议配置GPU支持以获得更好的性能。Ollama的安装和模型下载请参考其官方文档。
  3. 克隆Hatchling仓库:
    git clone https://github.com/CrackingShells/Hatchling.git
    cd Hatchling
  4. 运行Hatchling (使用Docker Compose):
    docker-compose -f docker/docker-compose.yml run --rm hatchling
    这将构建并运行Hatchling的Docker容器。

服务器配置:

Hatchling在代码仓库中包含了一个示例MCP服务器('mcp_utils/servers/arithmetic.py'),并在启动时可以自动运行该服务器并连接。

您可以通过以下方式指定要运行的MCP服务器脚本路径:

  • 命令行参数: 使用 '--mcp-server-path <脚本路径>' 参数。 例如:
    docker-compose -f docker/docker-compose.yml run --rm hatchling python app.py --start-mcp-server --mcp-server-path mcp_utils/servers/arithmetic.py
  • 环境变量: 设置 'MCP_SERVER_PATH' 环境变量指向脚本路径。

基本使用方法:

  1. 按照安装步骤运行Hatchling。
  2. 进入聊天界面后,您会看到提示符,如 '[Tools disabled] You:'。
  3. 输入您的消息。
  4. 要启用MCP工具调用,输入命令 'enable_tools'。提示符会变为 '[Tools enabled] You:'。
  5. 现在您可以向大模型提问需要工具协助的问题,例如 'What is 15 * 7?'。大模型可能会调用内置的算术工具来回答。
  6. 输入 'help' 查看更多可用命令(如 'clear', 'show_logs', 'exit' 等)。
  7. 输入 'exit' 或 'quit' 结束会话。

信息

分类

AI与计算