Spring AI Alibaba - 技术栈

1. Spring AI Alibaba 框架

什么是 Spring AI Alibaba 框架？
Spring AI Alibaba 是 Spring AI 框架在阿里云生态的实现，它让 Java 开发者能无缝集成阿里云的大模型服务（如通义千问），而不需要自己处理复杂的 API 调用和认证细节。简单说，它就像一个'翻译官'，把阿里云的 AI 能力用 Spring 风格的代码暴露出来，让 Java 开发者像调用本地方法一样使用 AI 功能。
Spring AI Alibaba 框架的主要功能和应用场景是什么？

"Spring AI Alibaba 主要有三个核心功能：
统一的 AI 调用接口：无论用通义千问、文心一言还是其他模型，都用相同的代码风格调用
支持 Prompt 工程：可以把提示词写在模板文件里，方便产品经理修改
自动处理认证和重试：不用自己写 HTTP 请求、处理 token 过期等问题
应用场景方面，我们在项目中主要用了：
智能客服（用户提问，AI 自动回答）
内容生成（自动生成商品描述、新闻摘要）
代码辅助（在 IDE 中生成 Java 代码片段）
你在项目中是如何使用 Spring AI Alibaba 框架的？

2. Redis 向量库

什么是 Redis 向量库？它与传统的 Redis 有什么不同？
- Redis 从 6.0 版本之后，通过 Redis Stack 引入了向量相似性搜索的能力。简单来说，它让 Redis 不仅能存字符串、哈希这些传统数据，还能存'向量'------也就是用一串数字来表示一个事物的语义特征，比如一本书的简介或用户的一次搜索词。
- 它和传统 Redis 最大的不同是：传统 Redis 只能做'精确匹配'，而向量库可以做'相似性搜索'，比如'找出和这个向量最接近的 Top 5 商品'。
Redis 向量库的主要优势是什么？
- 速度快：利用 HNSW 等索引算法，百万级向量也能毫秒响应；
- 架构简单：不用额外部署 Milvus、Pinecone 这类专用向量数据库，直接复用现有的 Redis；
- 实时性强：向量可以随时插入、更新，适合动态推荐场景。
你在项目中如何利用 Redis 向量库进行优化？
- 如果未来我们的系统要加'智能推荐'或'语义搜索'功能（比如用户搜'适合新手的编程书'，能返回语义匹配的结果），就可以考虑用 Redis 向量库来实现。这样既能提升用户体验，又不会大幅改动现有技术栈。"

3. RAG（Retrieval-Augmented Generation）文档问答系统

这样既能利用大模型的语言能力，又能保证答案来自真实文档，避免'幻觉'。

特别适合企业知识库、客服系统这类场景。"

RAG 文档问答系统的原理是什么？
- "RAG 的核心思想是：先从自己的文档里找到相关信息，再让大模型基于这些信息生成答案。
  
  具体分三步：
- 把文档切成小段，用 AI 模型转成向量，存到向量数据库；
- 用户提问时，把问题也转成向量，去向量库里找最相似的几段内容；
- 把这几段内容和问题一起交给大模型，让它生成准确、有依据的回答。
RAG 文档问答系统相比传统问答系统有哪些优势？
- "传统问答系统要么是规则匹配（比如关键词查找），要么直接依赖大模型'凭记忆回答'，容易出错或编造。
  
  而 RAG 的优势很明显：
- ✅ 答案更准确：基于你提供的真实文档；
- ✅ 可更新：只要换文档，答案就变，不用重新训练模型；
- ✅ 私有安全：敏感数据不用上传到公有大模型；
- ✅ 成本低：不需要微调大模型，只需做检索+提示工程。
你在实现 RAG 文档问答系统时遇到了哪些挑战，是如何解决的？
- "目前我参与的项目还没有落地完整的 RAG 系统，但我最近在学习相关技术，并用开源工具做了简单 demo。
  
  在尝试过程中，我发现几个典型挑战：
  
  第一，文档切分不好会影响效果 。
  
  比如一段话被硬切成两半，语义就断了。
  
  → 我尝试用按句子边界切分，或者保留上下文重叠（overlap），效果更好。
  
  第二，向量检索结果不准 。
  
  有时候语义相近但关键词不同，搜不到。
  
  → 我换了更好的 embedding 模型（比如 bge-small），并调整了 top_k 数量。
  
  第三，大模型不按文档回答，还是会自己编 。
  
  → 我在 prompt 里加了明确指令，比如'仅根据以下内容回答，如果不知道就说不知道'。

4. Function Calling

虽然只是 demo，但让我体会到：Function Calling 是连接'AI 能力'和'业务系统'的关键桥梁。"

什么是 Function Calling？它在 AI 系统中的作用是什么？
- "Function Calling 是大模型的一项能力，允许它在对话中主动请求调用外部函数或 API。
  
  它的核心作用是：弥补大模型的短板------比如无法获取实时数据、不能访问私有数据库、不会执行具体操作。
  
  通过 Function Calling，我们可以让 AI 在需要时'停下来'，调用我们提供的工具（比如查订单、查天气、查库存），拿到真实结果后再继续回答，从而让系统更准确、更实用。"
你在项目中是如何实现 Function Calling 的？
- "目前我参与的项目还没有上线完整的 Function Calling 功能，但我用开源框架做过本地实验。
  
  我的理解是：
- 先定义好可用的函数（比如 searchBook(keyword)），包括它的功能描述、参数格式；
- 把这些函数信息注册给大模型（比如通过 OpenAI API 的 tools 参数）；
- 当用户提问时，大模型会判断是否需要调用函数，并返回一个结构化调用请求；
- 我的 Java 后端收到这个请求后，解析参数，调用对应的服务（比如商品搜索接口）；
- 把结果再送回大模型，让它生成自然语言回答。
Function Calling 的具体应用场景有哪些？
- "我觉得它特别适合这些场景：
- 查询实时信息：比如天气、股价、物流状态；
- 访问私有数据：比如'我的订单到哪了？' → 调用订单查询接口；
- 执行操作：比如'帮我订一张明天去上海的火车票' → 调用订票服务（需用户确认）；
- 结合企业知识库：比如'公司年假政策是什么？' → 先调 RAG 检索，再生成答案。

5. Prompt 工程优化

什么是 Prompt 工程？它的优化目标是什么？
- Prompt 工程就是设计和优化给大模型的输入指令，目的是让 AI 输出更准确、更稳定、更符合业务需求。
  
  它的核心目标我理解有四个：
- 准确性：比如在问答系统中，答案要来自文档，不能瞎编；
- 可控性：比如要求输出 JSON 格式，或限制在 100 字以内；
- 一致性：同样的问题，多次问结果差不多；
- 效率：减少无效内容，节省 Token 和响应时间。
你在 Prompt 工程优化中采取了哪些具体措施？
- 第一，加明确指令 ：
  
  在 Prompt 开头强调：'请仅根据以下提供的资料回答问题。如果资料中没有相关信息，请回答"我不知道"。'
  
  → 这样大幅减少了'幻觉'。
  
  第二，结构化上下文 ：
  
  把检索到的文档段落用清晰格式组织，比如：
  复制代码
```
【参考资料】  
1. [段落1]  
2. [段落2]  
```
  → 让模型更容易定位信息。
  
  第三，限制输出格式 ：
  
  要求'用简洁的中文回答，不超过 3 句话'，避免生成长篇大论。
  
  这些小调整，让问答准确率明显提升，用户体验也更好。"
Prompt 工程优化对系统性能有哪些提升？
- "虽然 Prompt 优化不直接改代码，但它对系统整体表现有很大帮助：
- 业务层面：问答准确率提升，用户投诉减少；
- 成本层面：输出更简洁，Token 消耗降低（尤其用付费 API 时很关键）；
- 稳定性层面：避免模型跑偏，减少异常处理逻辑；
- 开发效率：很多需求不用改后端，调 Prompt 就能解决。

基础知识面试题示例

Spring AI Alibaba 框架

Q: Spring AI Alibaba 框架的主要组件有哪些？
- Spring AI Alibaba 是阿里推出的、基于 Spring AI 的扩展，主要帮助 Java 应用快速集成通义千问等大模型。
  它的核心组件包括：统一的 AiClient 接口、支持变量替换的 Prompt 模板、Function Calling 能力、以及 Embedding 向量化工具。
Q: Spring AI Alibaba 框架如何与现有的 Spring 生态系统集成？
- 引入 starter 依赖（Maven/Gradle）；
- 在 application.yml 配置 API Key 和模型名称；
- 直接在 Service 或 Controller 中注入 AiClient 使用；