项目简介
Tune是一个强大的框架,它允许你通过简单的文本文件与大型语言模型(LLM)进行交互,并自动化复杂任务。它通过插件(如VSCode、Neovim)或命令行(CLI)集成到你的工作流程中,提供资源(文件、图像、LLM模型)管理、工具(Shell命令、文件操作)执行以及灵活的Prompt模板功能。
主要功能点
- 多模型支持: 通过配置可连接多种LLM,如OpenAI、Anthropic、Gemini等。
- 资源管理: 能够加载本地文件、远程S3文件、图像等作为Prompt的一部分或工具输入。
- 工具调用: 允许LLM调用外部工具,例如执行Shell命令、读写文件、与远程MCP服务器交互等。
- Prompt模板: 提供简洁的模板语言,支持在Prompt中动态插入资源、连接模型、调用工具和递归引用。
- RPC接口: 核心功能通过JSON-RPC协议暴露,支持编辑器插件等客户端进行集成。
- 可扩展性: 通过中间件机制,可以轻松扩展新的模型、工具和功能。
安装步骤
- 安装 Node.js: 确保您的系统已安装 Node.js 和 npm。
- 全局安装 Tune SDK: 打开终端并执行以下命令:
npm install -g tune-sdk - 初始化配置: 运行初始化命令,Tune会在您的用户主目录('~/.tune')下创建配置文件:
tune-sdk init - 配置API密钥: 编辑 '~/.tune/.env' 文件,添加您所使用的LLM服务提供商的API密钥,例如 'OPENAI_KEY="<YOUR_OPENAI_KEY>"'。
- 自定义中间件(可选): 如果您需要连接更多模型或工具,可以编辑 '~/.tune/default.ctx.js' 文件,安装并引入相应的中间件(例如 'tune-models'、'tune-fs'、'tune-basic-toolset')。
服务器配置 (MCP客户端使用)
Tune作为MCP服务器,可以通过命令行启动并监听标准输入输出(Stdio)进行JSON-RPC通信。对于MCP客户端,配置如下:
{ "server_name": "Tune CLI MCP Server", "command": "tune-sdk", "args": ["rpc"], "description": "通过标准IO运行的Tune MCP服务器,提供上下文管理、工具调用和Prompt渲染能力。" }
- 'server_name': 服务器的名称,用于客户端界面显示。
- 'command': 启动Tune MCP服务器的命令。确保 'tune-sdk' 在系统的 PATH 中可执行。
- 'args': 传递给 'command' 的参数,'rpc' 参数指示 'tune-sdk' 以JSON-RPC服务器模式运行。
- 'description': 服务器的功能描述,帮助用户理解其用途。
基本使用方法
一旦Tune MCP服务器启动(通常由MCP客户端内部调用 'tune-sdk rpc' 启动),您就可以通过客户端(如VSCode Tune扩展)或直接通过CLI与其交互:
- 通过CLI快速聊天:
tune-sdk --system "你是一个友好的助手。" --user "你好,Tune!" - 处理文本文件中的Prompt:
创建一个 'mychat.chat' 文件:
然后运行:system: 你是一个非常有用的助手。 user: 请总结这个文件的内容:@./document.txt assistant:
Tune会读取 'document.txt' 并让LLM进行总结,然后将助手的回复保存到 'mychat.chat' 中。tune-sdk --filename mychat.chat --save
信息
分类
开发者工具