【完结13章】LLM大模型智能引擎实战--SpringAI+RAG+MCP+实时搜索

在人工智能的浪潮中，大型语言模型（LLM）已成为创新的核心驱动力。然而，一个普遍的共识是：一个强大的基础模型（如 GPT-4, Llama 3）本身并不足以构成一个真正“智能”的应用。它会产生“幻觉”（胡编乱造）、知识滞后、并且无法访问私有数据。

如何解决这些问题？答案在于构建一个以 LLM 为“大脑”，并为其配备“眼睛”、“耳朵”和“私人知识库”的智能引擎。本文将深入探讨如何利用 Spring AI、RAG、MCP 和实时搜索这四大核心技术，搭建一个功能强大、可落地实战的企业级智能应用。

一、 技术栈简介：四大支柱

1. Spring AI: 由 Spring 官方推出的项目，旨在简化 Java 生态中 AI 应用的开发。它提供了统一的 API，让开发者可以像操作数据库（JdbcTemplate）或发送消息（RabbitTemplate）一样，轻松地与多种 LLM（OpenAI, Azure OpenAI, Ollama, Anthropic 等）进行交互。它是我们整个智能引擎的集成框架和粘合剂。
2. RAG (检索增强生成): RAG 是解决 LLM 知识滞后和幻觉问题的核心技术。其核心思想是：在向 LLM 提问时，先从外部知识库（如向量数据库）中检索出与问题最相关的信息片段，然后将这些信息作为上下文（Context）与问题一并交给 LLM 来生成答案。这相当于让模型在答题前先“翻阅参考资料”，从而生成更准确、更可靠的答案。
3. MCP (模型上下文协议): 由 OpenAI 提出的一种新兴标准。MCP 定义了一套 LLM 与外部工具、数据源和服务进行安全、高效通信的通用协议。它可以看作是 RAG 的“超级进化版”，允许模型在运行时按需、动态地调用各种工具（如计算器、数据库、API），而不仅仅是静态地检索文档。MCP 极大地扩展了模型的能力边界。
4. 实时搜索 (Realtime Search): 传统的 RAG 依赖于对静态文档库的向量搜索。但在很多场景下，我们需要的信息是最新的、瞬息万变的（如股票价格、新闻头条、体育比分）。实时搜索通过接入搜索引擎（如 Google Search API, Bing API）或实时数据库，为 LLM 提供了“感知”实时世界的能力，确保答案的时效性。

二、 强强联合：构建智能引擎的架构

将这四项技术结合，我们可以设计出一个强大且灵活的架构：

text

[用户问题]
      |
      v
[Spring AI 应用] <--- (统一协调)
      |
      v
[请求路由]
      |
      +-------------------+-------------------+
      |                   |                   |
      v                   v                   v
[私有知识库 RAG]    [实时搜索工具]    [其他 MCP 工具]
   (向量数据库)        (Search API)      (Calculator, DB...)
      |                   |                   |
      +-------------------+-------------------+
      | (检索到的上下文和实时数据)
      v
[LLM 大模型] (如 GPT-4)
      |
      v
[生成精准、可靠、及时的答案]
      |
      v
[返回给用户]

工作流程：

1. 接收请求：用户通过前端界面或 API 向基于 Spring Boot 的应用提出一个问题。
2. 智能路由与调用：Spring AI 作为中枢，根据问题的性质，决定调用哪些能力：
   • 如果问题关于公司内部文档（如员工手册、产品设计稿），则调用 RAG 模块，从向量数据库（如 ChromaDB, Pinecone）中检索相关片段。
   • 如果问题需要最新信息（如“今天北京的天气怎么样？”），则通过 MCP 客户端调用配置好的实时搜索工具（如 Serper API）。
   • 如果问题需要计算或查询数据库（如“计算一下我上个月的销售总额”），则通过 MCP 调用相应的计算工具或数据库查询工具。
3. 合成提示词 (Prompt Engineering)：Spring AI 将用户原始问题、检索到的上下文、实时数据以及其他工具的执行结果，组合成一个结构清晰、信息丰富的提示词（Prompt）。
4. 调用模型并返回：将组装好的提示词发送给 LLM。LLM 基于这些“事实依据”生成最终答案，并通过应用返回给用户。

三、 实战示例：一个智能企业助手

假设我们要构建一个能回答员工各种问题的智能助手。

1. 搭建基础 (Spring AI + OpenAI) 首先，使用 Spring AI 快速连接 LLM。

java

@RestController
public class AIController {

    private final ChatClient chatClient;

    public AIController(ChatClient chatClient) {
        this.chatClient = chatClient;
    }

    @GetMapping("/ai/chat")
    public String chat(@RequestParam String message) {
        return chatClient.call(message);
    }
}

在 application.yml 中配置 OpenAI API 密钥，这样就可以完成一个最简单的聊天应用。

2. 集成私有知识 (RAG) 接下来，让助手能回答公司内部问题。

• 知识库预处理：将公司内部的 PDF、Word、PPT 等文档进行拆分、嵌入（Embedding），并存入向量数据库（如 RedisStack 的向量模块）。
• 实现检索：使用 Spring AI 的 VectorStore 接口实现检索。

java

@Service
public class RagService {

    private final VectorStore vectorStore;

    public RagService(VectorStore vectorStore) {
        this.vectorStore = vectorStore;
    }

    public List<Document> retrieve(String query) {
        // 从向量库中检索最相关的 K 个文档片段
        return vectorStore.similaritySearch(query);
    }
}

• 增强提示词：在调用 LLM 前，将检索到的文档作为上下文注入。

java

String userQuestion = "我们公司的年假政策是怎样的？";
List<Document> relevantDocs = ragService.retrieve(userQuestion);

String context = relevantDocs.stream()
        .map(Doc::getContent)
        .collect(Collectors.joining("\n"));

String prompt = """
        请基于以下上下文信息回答问题。如果上下文信息中没有答案，请直接说"根据现有资料，无法回答该问题"。

        上下文：
        %s

        问题：%s
        """.formatted(context, userQuestion);

String answer = chatClient.call(prompt);

3. 获取实时信息 (实时搜索 via MCP) 最后，让助手能回答实时问题。这里我们通过 MCP 来实现。

• 配置 MCP 服务器：你需要一个实现了实时搜索功能的 MCP 服务器（例如，一个包装了 Serper 或 Tavily Search API 的服务器）。
• Spring AI 作为 MCP 客户端：Spring AI 应用通过 MCP 协议与这个服务器通信，发送搜索查询并获取结果。

java

// 伪代码：示意通过 MCP 调用搜索工具
@Bean
FunctionCallback weatherFunction() {
    return new FunctionCallback("get_weather", "Gets the current weather for a location") {
        @Override
        public Object call(Object... args) {
            // 通过 MCP 客户端调用远程工具，参数为 args[0] (城市名)
            return mcpClient.callTool("search_weather", args[0]);
        }
    };
}

// 在提示词中，模型会自动决定是否调用此函数
String answer = chatClient.call(new UserMessage("北京今天多少度？", List.of(weatherFunction())));

LLM 会自动分析问题，发现需要实时天气数据，于是通过 MCP 协议调用 get_weather 函数，获取到真实数据后，再生成最终答案：“北京今天气温是 25 摄氏度，晴天。”

四、 核心优势

• 准确性高：RAG 有效减少了模型幻觉，答案有据可依。
• 时效性强：实时搜索确保了答案与当前世界同步。
• 能力无限：MCP 协议打破了模型的固有能力限制，可以连接几乎任何外部系统（CRM、ERP、数据库）。
• 开发高效：Spring AI 提供了抽象和自动化，极大降低了在 Java 中集成 AI 功能的复杂度，让开发者专注于业务逻辑。
• 成本可控：无需为每一个新知识点都重新训练模型，只需要更新向量数据库即可，成本低廉。

五、 总结

Spring AI + RAG + MCP + 实时搜索的组合，为我们提供了一个构建下一代企业级智能应用的完整蓝图。它不再是简单的“聊天机器人”，而是一个真正融入了企业知识体系和实时数据流的智能引擎。

这种架构平衡了能力、成本、复杂度和可靠性，是目前最具实战价值的 LLM 应用模式之一。无论你是想构建智能客服、高级数据分析平台还是内部知识问答系统，这个技术栈都为你提供了强大的武器。现在，正是开始探索和实战的最佳时机。