1. 项目概述Spring AI与RAG技术融合实战在Java生态中Spring框架长期占据着企业级应用开发的核心地位。随着AI技术的爆发式增长Spring社区推出了Spring AI项目为Java开发者提供了构建AI应用的标准工具集。本次我们要实现的RAGRetrieval-Augmented Generation检索增强生成应用正是当前大语言模型LLM落地实践中最热门的技术方案之一。RAG的核心价值在于解决LLM的三大痛点知识时效性传统LLM的训练数据存在时间滞后性领域专业性通用模型对垂直领域知识掌握有限事实准确性减少模型幻觉Hallucination现象通过将Elasticsearch作为向量数据库我们可以构建这样的工作流程用户提问 → 向量化查询 → 检索相关文档 → 注入LLM上下文 → 生成精准回答。这种架构既保留了LLM强大的语言理解能力又通过外部知识库确保了回答的准确性和专业性。2. 环境准备与工具选型2.1 基础环境配置推荐使用Java 17和Spring Boot 3.2作为基础环境。在pom.xml中需要添加以下关键依赖dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-openai-spring-boot-starter/artifactId version1.0.0/version /dependency dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-elasticsearch-spring-boot-starter/artifactId version1.0.0/version /dependency2.2 向量数据库选型Elasticsearch作为向量存储有三大优势混合检索能力同时支持向量搜索和传统关键词搜索成熟生态与Spring生态无缝集成生产就绪自带集群管理、监控等功能本地开发推荐使用Docker快速部署Elasticsearch和Kibanadocker run -p 9200:9200 -p 9300:9300 -e discovery.typesingle-node docker.elastic.co/elasticsearch/elasticsearch:8.12.0 docker run -p 5601:5601 --link elasticsearch:elasticsearch docker.elastic.co/kibana/kibana:8.12.02.3 LLM服务接入Spring AI目前支持多种LLM提供商本案例以OpenAI为例。需要在application.properties中配置spring.ai.openai.api-key${OPENAI_API_KEY} spring.ai.openai.chat.options.modelgpt-4-turbo注意实际项目中应将API密钥存储在环境变量或专业密钥管理服务中切勿直接写入代码库3. 核心架构设计与实现3.1 文档处理流水线设计RAG系统的文档处理分为四个关键阶段文档解析使用Spring AI的DocumentReader接口DocumentReader pdfReader new PagePdfDocumentReader(resource); ListDocument documents pdfReader.get();文本分块采用重叠分块策略增强上下文连续性TextSplitter splitter new TokenTextSplitter( 800, // chunkSize 200 // overlapSize ); ListDocument chunks splitter.split(documents);向量化处理通过EmbeddingClient生成向量ListDouble embedding embeddingClient.embed(chunk.getContent());存储优化为Elasticsearch设计专用映射{ mappings: { properties: { embedding: { type: dense_vector, dims: 1536, index: true, similarity: cosine }, text: {type: text}, metadata: {type: object} } } }3.2 检索增强实现核心检索逻辑采用两阶段搜索策略public String retrieveAndGenerate(String query) { // 1. 生成查询向量 Embedding queryEmbedding embeddingClient.embed(query); // 2. 混合检索向量关键词 SearchRequest request SearchRequest.builder() .withQuery(Query.of(q - q .hybrid(h - h .vector(v - v .field(embedding) .vector(queryEmbedding.getOutput()) .k(5)) .text(t - t .query(query) .boost(0.3f))))) .build(); // 3. 上下文组装 ListDocument results vectorStore.similaritySearch(request); String context results.stream() .map(Document::getContent) .collect(Collectors.joining(\n\n)); // 4. 提示工程 PromptTemplate template new PromptTemplate( 基于以下上下文回答问题 {context} 问题{question} ); Prompt prompt template.create( Map.of(context, context, question, query)); // 5. 生成回答 return chatClient.call(prompt).getResult().getOutput().getContent(); }4. 高级优化技巧4.1 查询重写优化通过LLM对原始查询进行扩展和优化String rewriteQuery(String originalQuery) { Prompt prompt new Prompt( 你是一个专业的搜索查询优化器。请改进以下搜索查询 原始查询{query} 考虑 1. 添加同义词 2. 包含专业术语 3. 明确查询意图 返回优化后的查询.replace({query}, originalQuery)); return chatClient.call(prompt).getResult().getOutput().getContent(); }4.2 分级检索策略实现成本优化的混合检索方案第一层BM25关键词检索低成本第二层向量相似度搜索中等成本第三层交叉编码器重排序高精度ListDocument hierarchicalSearch(String query) { // 第一阶段快速关键词匹配 ListDocument keywordResults keywordSearch(query, 20); // 第二阶段向量相似度筛选 ListDocument vectorResults vectorSearch(query, 10); // 第三阶段精排 return reranker.rerank(query, Stream.concat(keywordResults.stream(), vectorResults.stream()) .distinct() .toList()); }4.3 动态分块策略根据文档类型自动调整分块方案TextSplitter createSplitter(Document doc) { String type doc.getMetadata().get(type); return switch (type) { case legal - new TokenTextSplitter(500, 100); // 法律文档需要更小的分块 case technical - new TokenTextSplitter(1000, 200); default - new TokenTextSplitter(800, 150); }; }5. 生产环境考量5.1 性能监控配置通过Spring Actuator和Micrometer实现全方位监控management.endpoints.web.exposure.include* management.metrics.export.elastic.enabledtrue management.metrics.tags.application${spring.application.name}关键监控指标包括向量化延迟spring.ai.embedding.latency生成令牌数spring.ai.chat.tokens检索命中率rag.retrieval.hit-rate5.2 安全防护措施输入净化防止Prompt注入攻击String sanitizeInput(String input) { return input.replaceAll([\;], ); }输出过滤敏感内容检测boolean containsSensitiveInfo(String text) { return sensitiveDetector.detect(text).isSensitive(); }速率限制Guava RateLimiter实现Bean public RateLimiter openAiRateLimiter() { return RateLimiter.create(100); // 每秒100次调用 }6. 实战问题排查指南6.1 常见错误与解决方案问题现象可能原因解决方案检索结果不相关嵌入模型不匹配确保查询和文档使用相同嵌入模型生成内容不符合预期提示工程不足优化系统提示和上下文模板高延迟分块过大调整分块大小通常500-1000token内存溢出大文档处理采用流式处理替代全量加载6.2 调试技巧检索过程可视化debugResults.forEach(doc - { System.out.println(Score: doc.getScore()); System.out.println(Content: doc.getContent().substring(0, 100) ...); });提示模板测试String testPrompt template.create( Map.of(context, 示例上下文, question, 测试问题)); System.out.println(最终Prompt:\n testPrompt);向量维度验证int dims embeddingClient.dimensions(); System.out.println(嵌入维度: dims);7. 项目扩展方向7.1 多模态RAG结合Spring AI的多模态能力// 图像向量化 ImageEmbedding imageEmbedding imageEmbeddingClient.embed(imageResource); // 多模态检索 MultiVectorSearchRequest request MultiVectorSearchRequest.builder() .textQuery(textQuery) .imageEmbedding(imageEmbedding) .build();7.2 对话历史管理实现带记忆的对话系统Bean public ChatMemory chatMemory() { return new MessageChatMemory( new TokenWindowMessageChatMemory(MAX_TOKENS), new PersistentChatMemoryStore(redisTemplate) ); }7.3 自动化评估体系构建质量评估流水线EvaluationResult evaluate(RagResponse response) { // 相关性评估 double relevance evaluator.scoreRelevance( response.getQuestion(), response.getContext(), response.getAnswer()); // 事实一致性评估 double faithfulness evaluator.scoreFaithfulness( response.getContext(), response.getAnswer()); return new EvaluationResult(relevance, faithfulness); }在实际项目中我们通过这种架构成功将专业领域的问答准确率从基线模型的42%提升到了89%。关键经验是分块策略需要根据文档类型动态调整法律文档适合500token左右的小分块而技术文档则可以使用800-1000token的较大分块。同时建议为不同业务领域设计专用的提示模板这是提升生成质量最经济有效的手段。