Hatchling是一个基于命令行的聊天应用前端,旨在通过Model Context Protocol (MCP) 与各种MCP服务器交互,为本地运行的Ollama大模型提供工具调用能力和上下文信息。
主要功能点:
- 交互式命令行聊天界面。
- 集成Ollama API,支持使用本地大模型。
- 通过MCP协议实现大模型的工具调用。
- 支持工具执行链,让大模型完成更复杂任务。
- 在使用MCP工具时,自动引用工具的来源信息。
安装步骤:
Hatchling推荐使用Docker运行,以确保一致性。
- 安装并配置Docker: 确保您已安装并配置好Docker Desktop(Windows/macOS/Linux)。Windows用户可能需要配置WSL2。详情请参考Docker官方文档。
- 安装并配置Ollama: 确保Ollama服务已安装并运行。建议配置GPU支持以获得更好的性能。Ollama的安装和模型下载请参考其官方文档。
- 克隆Hatchling仓库:
git clone https://github.com/CrackingShells/Hatchling.git cd Hatchling - 运行Hatchling (使用Docker Compose):
这将构建并运行Hatchling的Docker容器。docker-compose -f docker/docker-compose.yml run --rm hatchling
服务器配置:
Hatchling在代码仓库中包含了一个示例MCP服务器('mcp_utils/servers/arithmetic.py'),并在启动时可以自动运行该服务器并连接。
您可以通过以下方式指定要运行的MCP服务器脚本路径:
- 命令行参数: 使用 '--mcp-server-path <脚本路径>' 参数。
例如:
docker-compose -f docker/docker-compose.yml run --rm hatchling python app.py --start-mcp-server --mcp-server-path mcp_utils/servers/arithmetic.py - 环境变量: 设置 'MCP_SERVER_PATH' 环境变量指向脚本路径。
基本使用方法:
- 按照安装步骤运行Hatchling。
- 进入聊天界面后,您会看到提示符,如 '[Tools disabled] You:'。
- 输入您的消息。
- 要启用MCP工具调用,输入命令 'enable_tools'。提示符会变为 '[Tools enabled] You:'。
- 现在您可以向大模型提问需要工具协助的问题,例如 'What is 15 * 7?'。大模型可能会调用内置的算术工具来回答。
- 输入 'help' 查看更多可用命令(如 'clear', 'show_logs', 'exit' 等)。
- 输入 'exit' 或 'quit' 结束会话。
信息
分类
AI与计算