项目简介

Tune是一个强大的框架,它允许你通过简单的文本文件与大型语言模型(LLM)进行交互,并自动化复杂任务。它通过插件(如VSCode、Neovim)或命令行(CLI)集成到你的工作流程中,提供资源(文件、图像、LLM模型)管理、工具(Shell命令、文件操作)执行以及灵活的Prompt模板功能。

主要功能点

  • 多模型支持: 通过配置可连接多种LLM,如OpenAI、Anthropic、Gemini等。
  • 资源管理: 能够加载本地文件、远程S3文件、图像等作为Prompt的一部分或工具输入。
  • 工具调用: 允许LLM调用外部工具,例如执行Shell命令、读写文件、与远程MCP服务器交互等。
  • Prompt模板: 提供简洁的模板语言,支持在Prompt中动态插入资源、连接模型、调用工具和递归引用。
  • RPC接口: 核心功能通过JSON-RPC协议暴露,支持编辑器插件等客户端进行集成。
  • 可扩展性: 通过中间件机制,可以轻松扩展新的模型、工具和功能。

安装步骤

  1. 安装 Node.js: 确保您的系统已安装 Node.js 和 npm。
  2. 全局安装 Tune SDK: 打开终端并执行以下命令:
    npm install -g tune-sdk
  3. 初始化配置: 运行初始化命令,Tune会在您的用户主目录('~/.tune')下创建配置文件:
    tune-sdk init
  4. 配置API密钥: 编辑 '~/.tune/.env' 文件,添加您所使用的LLM服务提供商的API密钥,例如 'OPENAI_KEY="<YOUR_OPENAI_KEY>"'。
  5. 自定义中间件(可选): 如果您需要连接更多模型或工具,可以编辑 '~/.tune/default.ctx.js' 文件,安装并引入相应的中间件(例如 'tune-models'、'tune-fs'、'tune-basic-toolset')。

服务器配置 (MCP客户端使用)

Tune作为MCP服务器,可以通过命令行启动并监听标准输入输出(Stdio)进行JSON-RPC通信。对于MCP客户端,配置如下:

{
  "server_name": "Tune CLI MCP Server",
  "command": "tune-sdk",
  "args": ["rpc"],
  "description": "通过标准IO运行的Tune MCP服务器,提供上下文管理、工具调用和Prompt渲染能力。"
}
  • 'server_name': 服务器的名称,用于客户端界面显示。
  • 'command': 启动Tune MCP服务器的命令。确保 'tune-sdk' 在系统的 PATH 中可执行。
  • 'args': 传递给 'command' 的参数,'rpc' 参数指示 'tune-sdk' 以JSON-RPC服务器模式运行。
  • 'description': 服务器的功能描述,帮助用户理解其用途。

基本使用方法

一旦Tune MCP服务器启动(通常由MCP客户端内部调用 'tune-sdk rpc' 启动),您就可以通过客户端(如VSCode Tune扩展)或直接通过CLI与其交互:

  • 通过CLI快速聊天:
    tune-sdk --system "你是一个友好的助手。" --user "你好,Tune!"
  • 处理文本文件中的Prompt: 创建一个 'mychat.chat' 文件:
    system:
    你是一个非常有用的助手。
    user:
    请总结这个文件的内容:@./document.txt
    
    assistant:
    然后运行:
    tune-sdk --filename mychat.chat --save
    Tune会读取 'document.txt' 并让LLM进行总结,然后将助手的回复保存到 'mychat.chat' 中。

信息

分类

开发者工具