## 使用说明 ### 项目简介 WildFly AI Feature Pack 是一个为 WildFly 应用服务器设计的扩展，旨在简化人工智能 (AI) 与 Jakarta EE 应用的集成。该 Feature Pack 提供了在 WildFly 中部署和管理 AI 模型、工具和 Prompt 的能力，并**实验性地**支持将 Jakarta EE 应用暴露为 Model Context Protocol (MCP) 服务器。通过 MCP 服务器，可以以标准化的方式向 LLM 客户端提供上下文信息和功能，从而构建强大的 AI 应用后端。 ### 主要功能点 - **AI 模型支持**: 支持多种聊天模型 (如 GitHub, Groq, Mistral AI, Ollama, OpenAI) 和 Embedding 模型，方便集成不同的 LLM 提供商。 - **内容检索 (RAG)**: 提供内容检索器 (Content Retriever) 用于支持 RAG (Retrieval-Augmented Generation) 应用，包括默认的内存存储、Neo4j 和 Web Search Engine 等多种数据源。 - **MCP 服务器**: **实验性**支持将 Jakarta EE 应用发布为 MCP 服务器，允许通过 Server-Sent Events (SSE) 或 Stdio 协议与 MCP 客户端通信。 - **工具支持 (MCP)**: 支持注册和使用 Tool Provider，允许 LLM 客户端调用 Jakarta EE 应用提供的外部功能。 - **灵活部署**: 基于 WildFly Galleon Feature Pack，可以灵活选择和组合所需的功能层进行部署。 - **LangChain4J 和 SmallRye LLM 集成**: 底层基于 LangChain4J 和 SmallRye LLM，利用成熟的 AI 工具库。 ### 安装步骤 WildFly AI Feature Pack 需要与 WildFly Galleon Feature Pack 一起部署。安装可以通过 Galleon CLI 工具或 WildFly Maven Plugin/JAR Maven plugin 进行。 **1. 使用 Galleon CLI 工具安装** a. 下载 Galleon CLI 工具：从 [Galleon releases](https://github.com/wildfly/galleon/releases) 下载最新版本。 b. 创建 Galleon provisioning 配置文件 (例如 `provisioning.xml`)，内容如下 (以 Ollama 聊天模型和默认内容检索器为例): ```xml

``` c. 使用 Galleon CLI 工具执行安装命令： ```bash galleon.sh provision provisioning.xml --dir=my-wildfly-server ``` **2. 使用 WildFly Maven Plugin 或 JAR Maven plugin 安装** 在 Maven 项目的 `pom.xml` 文件中，配置 WildFly Maven Plugin 或 JAR Maven plugin，添加 `wildfly-ai-galleon-pack` feature-pack 和相应的 layer。示例如下: ```xml org.wildfly.plugins wildfly-maven-plugin ${version.wildfly.maven.plugin}

org.wildfly:wildfly-galleon-pack:${version.wildfly}

org.wildfly:wildfly-ai-galleon-pack:1.0.0-SNAPSHOT

cloud-server ollama-chat-model default-embedding-content-retriever ``` 更多配置细节可以参考 [example](https://github.com/ehsavoie/webchat/) 项目。 ### 服务器配置 (MCP Server) 要将 Jakarta EE 应用暴露为 MCP 服务器，需要： 1. **添加依赖**: 在 Jakarta EE 应用的 `pom.xml` 中，添加 `org.wildfly:wildfly-mcp-api` 作为 provided 依赖: ```xml org.wildfly wildfly-mcp-api 最新版本号 provided ``` 2. **使用 MCP 注解**: 使用 `org.wildfly.mcp.api` 包提供的 `@Tool`, `@Prompt`, `@Resource` 等注解来标注需要暴露为 MCP 功能的 Jakarta EE 组件 (通常是 CDI bean 的方法)。例如，可以参考 [wildfly-weather](https://github.com/ehsavoie/wildfly-weather) 示例项目，该项目展示了如何使用注解将一个简单的天气应用暴露为 MCP 服务器。 3. **部署应用**: 将 Jakarta EE 应用部署到已安装 WildFly AI Feature Pack 的 WildFly 服务器上。 ### 基本使用方法 (MCP Client 配置) WildFly AI Feature Pack 提供了 `mcp-sse` 和 `mcp-stdio` 两种 MCP 客户端实现，用于连接到 MCP 服务器。您可以使用 `wildfly-mcp-chatbot` 项目通过 SSE 连接到 WildFly MCP 服务器。 **MCP 客户端配置示例 (以 `mcp-sse` 为例):** 在 WildFly 配置 (例如 `standalone.xml`) 中，配置 `mcp-client-sse` 子系统，指定连接到 MCP 服务器所需的参数。以下是一个示例配置，假设 MCP 服务器运行在 `localhost:8080`，SSE Path 为 `/sse`： ```xml

``` **配置说明:** - **`mcp-client-sse name="my-mcp-sse-client"`**: 定义一个名为 `my-mcp-sse-client` 的 MCP SSE 客户端。 - **`sse-socket-binding socket-binding="http"`**: 指定用于连接的 HTTP socket binding，需要预先在 WildFly 中配置 (例如 `http` socket binding)。 - **`sse-path value="/sse"`**: MCP 服务器提供的 SSE endpoint 的路径，需要与服务器端配置一致。 - **`connect-timeout value="5000"`**: 客户端连接超时时间，单位为毫秒。 - **`log-requests value="true"` / `log-responses value="true"`**: 控制是否记录请求和响应日志，方便调试。 - **`ssl-enabled value="false"`**: 指示是否使用 SSL 加密连接。 - **`mcp-tool-provider name="my-mcp-tool-provider"`**: 定义一个 MCP Tool Provider，用于聚合多个 MCP 客户端提供的工具。 - **`mcp-clients`**: 列出该 Tool Provider 使用的 MCP 客户端名称，这里引用了上面配置的 `my-mcp-sse-client`。 - **`fail-if-one-server-fails value="false"`**: 当连接到多个 MCP 服务器时，如果一个服务器连接失败，是否导致整个 Tool Provider 失败。配置完成后，您可以在 Jakarta EE 应用中通过 CDI 注入 `ToolProvider` 接口的实例 (使用 `@Named("my-mcp-tool-provider")`) 来使用 MCP 服务器提供的工具。 **MCP 客户端配置示例 (以 `mcp-stdio` 为例):** ```xml

``` **配置说明:** - **`mcp-client-stdio name="my-mcp-stdio-client"`**: 定义一个名为 `my-mcp-stdio-client` 的 MCP Stdio 客户端。 - **`cmd value="/path/to/mcp-server-command"`**: MCP 服务器的启动命令路径 (例如，如果 MCP 服务器是一个可执行文件)。 - **`args`**: MCP 服务器启动命令的参数列表。请注意，以上配置示例仅供参考，实际配置需要根据您的 MCP 服务器部署和 Jakarta EE 应用的需求进行调整。实验性的 MCP Server 功能可能仍在快速迭代中，请关注最新的文档和示例。 ### 总结 WildFly AI Feature Pack 提供了一种在 WildFly 应用服务器中集成和使用 AI 功能的强大方式，特别是**实验性** MCP 服务器功能为构建基于 LLM 的应用后端提供了新的可能性。通过灵活的配置和丰富的 AI 模型支持，开发者可以利用 WildFly 的强大功能和 Jakarta EE 的成熟生态，快速构建和部署智能应用。

"应用服务器"标签的搜索结果

wildfly ai feature pack