"分布式推理"标签的搜索结果

基于 Rust 的 MCP（Model Context Protocol）服务器实现，整合 vLLM.rs 引擎，提供资源托管、工具注册与执行、Prompt 模板渲染等核心 MCP 功能，通过 JSON-RPC 风格通信与 MCP 客户端协同工作，支持多种传输场景并具备会话管理能力。