Spring AI Advisor 详解 - 给大模型调用加上“切面“,日志/过滤/记忆一键搞定

目录

前言

[一、什么是 Advisor?](#一、什么是 Advisor?)

[1.1 一句话定义](#1.1 一句话定义)

[1.2 先聊聊 AOP 是什么](#1.2 先聊聊 AOP 是什么)

[1.3 Advisor vs Spring AOP](#1.3 Advisor vs Spring AOP)

[二、Advisor 能干什么?](#二、Advisor 能干什么?)

[2.1 拦截请求与响应](#2.1 拦截请求与响应)

[2.2 功能模块化](#2.2 功能模块化)

[2.3 跨模型兼容](#2.3 跨模型兼容)

[三、Advisor 的执行流程(重点)](#三、Advisor 的执行流程(重点))

[3.1 完整流程图](#3.1 完整流程图)

四、核心概念:AdvisorContext

[4.1 什么是 AdvisorContext?](#4.1 什么是 AdvisorContext?)

[4.2 有什么用?](#4.2 有什么用?)

[五、实战:敏感词过滤 Advisor](#五、实战:敏感词过滤 Advisor)

[六、Spring AI 内置的 Advisor](#六、Spring AI 内置的 Advisor)

[七、面试高频考点 🎯](#七、面试高频考点 🎯)

基础题

场景设计题

八、总结

核心要点回顾

参考资料


前言

做 AI 应用开发时,你肯定遇到过这些需求:

  • 📝 每次调用大模型都想打印一下入参出参,方便调试排查

  • 🔍 用户发的消息里有敏感词,得先过滤一下再发给模型

  • 🧠 对话历史要自动拼接到 Prompt 里,总不能每个接口都写一遍吧

  • ⏱️ 想统计每次调用大模型花了多长时间、用了多少 Token

  • 🛡️ 模型返回的内容要做合规校验,防止输出不当信息

发现了吗?这些功能都有一个共同点:它们不是业务本身,但处处都需要。

如果每个接口都手动写一遍这些逻辑,代码又臃肿又难维护。有没有办法把它们抽出来,像插件一样"插"到调用链路上?

有!这就是我们今天的主角 ------ Advisor。

一、什么是 Advisor?

1.1 一句话定义

Advisor = Spring AI 里针对大模型请求/响应的 AOP 拦截器链

简单说,就是在调用 ChatModel 的前后,对 Prompt 和返回结果进行拦截、修改、增强。多个 Advisor 链式执行,想用就加,不想用就拔掉,完全可插拔。

1.2 先聊聊 AOP 是什么

可能有些小伙伴对 AOP 不太熟,我快速过一下。

AOP(面向切面编程):在不修改原有业务代码的前提下,在方法执行前后插入额外的通用逻辑。

什么是"横切逻辑"? 就是所有方法都可能需要、但又不属于业务本身的功能,比如:

  • 📋 日志记录

  • ⏱️ 方法耗时统计

  • ❌ 异常捕获

  • 💼 事务管理

  • 🔐 权限校验

不用 AOP 的痛点: 每个业务方法里都得写日志、权限校验这些代码,大量重复,改起来牵一发动全身。

用了 AOP 之后: 把通用逻辑单独抽出来写成"切面",自动切入到目标方法执行前后。业务代码干干净净,通用逻辑集中管理,改一处处处生效。

1.3 Advisor vs Spring AOP

很多人会问:Spring 不是已经有 AOP 了吗?为什么 Spring AI 还要搞个 Advisor?

答案是:针对的场景不一样。

对比项 Spring AOP Spring AI Advisor
拦截对象 Java 方法调用 大模型请求/响应流
作用层级 方法级别 LLM 交互级别
所属框架 Spring Framework Spring AI
核心接口 Aspect / Advice RequestResponseAdvisor
典型应用 事务、日志、权限 记忆、RAG、敏感词过滤

💡 通俗理解:Advisor 就是 Spring AI 专门为大模型交互设计的"切面"机制。你可以把它理解成大模型调用链路上的中间件。

二、Advisor 能干什么?

2.1 拦截请求与响应

这是最基本的功能。在请求发给大模型之前、响应返回给用户之后,你都可以插入自定义逻辑:

  • 请求前:追加历史对话、过滤敏感词、补充 RAG 检索文档、注入系统提示词

  • 响应后:校验返回内容、格式化输出、记录日志、修改返回文本

2.2 功能模块化

把重复的任务封装成可复用的组件,想用哪个加哪个:

场景 说明
日志记录 统一打印出入参、耗时、Token 用量
上下文记忆 自动管理对话历史(就是上篇的 ChatMemory)
数据转换 优化发送给模型的数据结构,标准化响应格式
敏感词过滤 请求前过滤,响应后二次校验
业务规则注入 限制模型输出范围,引导生成内容

2.3 跨模型兼容

同一套 Advisor 代码,不管底层换的是 DeepSeek、OpenAI、千问还是通义,通通不用改。切换模型,Advisor 照样工作。

这就是面向抽象编程的好处 ------ 上层不依赖底层具体实现。

三、Advisor 的执行流程(重点)

3.1 完整流程图

大致过程如下:

  1. 请求初始化: Spring AI框架根据用户的输入(Prompt)创建一个 AdvisedRequest(请求),并初始化一个空的 AdvisorContext (Advisor上下文)对象

  2. Advisor链路处理:多个Advisor按顺序依次执行

    • 可以修改请求内容:追加历史对话,过滤敏感词,补充RAG检索出来的文档

    • 中断机制:任意Advisor发现违规,可以直接终止流程,不再调用大模型,直接返回响应

  3. 调用聊天模型:全部前置Advisor执行完毕,框架内置的内部Advisor,把处理好的请求发给底层 ChatModel (DeepSeek/OpenAI)

  4. 大模型响应:大模型输出相应,包装成AdvisedResponse,带着同一个AdvisorContext,反向沿着Advisor链回传

  5. 响应后处理 :Advisor按倒序执行后置逻辑:校验返回内容,格式化输出,记录日志,修改模型返回文本

  6. 最终响应返回:从AdvisedResponse 提取出 ChatCompletion,转成了ChatReponse返回给ChatClient

四、核心概念:AdvisorContext

4.1 什么是 AdvisorContext?

AdvisorContext 是整个 Advisor 链路共享的上下文对象,你可以把它理解成一个公共数据背包。

各个 Advisor 都可以往里面放数据,也可以从里面取数据,实现 Advisor 之间的数据传递。

4.2 有什么用?

举几个实际场景:

  • 日志统计:前置 Advisor 把开始时间放进 Context,后置 Advisor 取出来算耗时

  • RAG 检索:检索 Advisor 把查到的文档放进 Context,后面的 Advisor 能拿到这些文档

  • 用户信息:前置鉴权 Advisor 把用户信息放进 Context,后续 Advisor 直接用

💡 记住:同一个请求链路,共享同一个 AdvisorContext。

五、实战:敏感词过滤 Advisor

java 复制代码
import org.springframework.ai.chat.client.AdvisedRequest;
import org.springframework.ai.chat.client.RequestResponseAdvisor;
import org.springframework.ai.chat.client.advisor.api.AdvisorContext;
import org.springframework.stereotype.Component;
import java.util.List;
/**
敏感词过滤 Advisor
请求前检查用户消息,如果包含敏感词则直接抛出异常,中断链路,不调用大模型
*/
@Component
public class SensitiveWordFilterAdvisor implements RequestResponseAdvisor {
// 简单的敏感词列表示例
// 生产环境建议使用 DFA 算法或专业的敏感词检测服务
private final List<String> sensitiveWords = List.of("违禁词1", "违禁词2", "违规内容");
@Override
public AdvisedRequest adviseRequest(AdvisedRequest request, AdvisorContext context) {
String userText = request.userText();
 // 检查是否包含敏感词
 for (String word : sensitiveWords) {
     if (userText.contains(word)) {
         // 直接抛出异常,中断链路,不调用大模型
         throw new RuntimeException("消息包含敏感词,已被系统拦截");
     }
 }

 return request;
}
// 这个 Advisor 只需要前置处理,后置逻辑不用重写
}

注册的时候注意顺序:

java 复制代码
@Bean
public ChatClient chatClient(ChatModel chatModel,
                             SensitiveWordFilterAdvisor filterAdvisor,
                             LoggingAdvisor loggingAdvisor) {
    return ChatClient.builder(chatModel)
            .defaultAdvisors(
                    filterAdvisor,   // 第一个:先过滤敏感词,命中就不往下走了
                    loggingAdvisor   // 第二个:再打日志
            )
            .build();
}

六、Spring AI 内置的 Advisor

Spring AI 已经内置了一些常用的 Advisor,不用自己从零写:

内置 Advisor 作用
MessageChatMemoryAdvisor 自动管理对话记忆(就是上篇讲的 ChatMemory)
VectorStoreChatMemoryAdvisor 基于向量存储的对话记忆
ConversationalRetrievalAdvisor 对话式 RAG 检索增强
PromptValidationAdvisor Prompt 内容校验

上篇文章讲的 ChatMemory,本质上就是一个内置的 Advisor:

new MessageChatMemoryAdvisor(chatMemory)

七、面试高频考点 🎯

基础题

Q1:什么是 Advisor?它和 Spring AOP 有什么区别?

A:Advisor 是 Spring AI 中针对大模型请求/响应的拦截器链,类似于 AOP 的切面机制。

主要区别:

  • 拦截对象不同:Spring AOP 拦截 Java 方法调用;Advisor 拦截大模型调用的请求/响应流

  • 应用场景不同:AOP 用于通用业务逻辑(事务、权限、日志);Advisor 专门针对 LLM 交互场景(记忆、RAG、敏感词过滤)

  • 所属框架不同:AOP 属于 Spring Framework;Advisor 属于 Spring AI

Q2:多个 Advisor 的执行顺序是怎样的?

A:正序执行前置,逆序执行后置,也叫洋葱模型。

  • 正向:按照添加顺序依次执行前置逻辑(adviseRequest)

  • 调用大模型

  • 反向:按照添加顺序的逆序执行后置逻辑(adviseResponse)

通俗比喻:就像寄快递,去的时候经过一个个中转站(正向),收到回信后原路返回(反向),每个中转站都可以检查和修改信件。

Q3:AdvisorContext 有什么作用?

A:AdvisorContext 是整个 Advisor 链路共享的上下文对象,相当于一个公共的"数据背包"。

各个 Advisor 之间可以通过它传递数据,比如:

  • 日志 Advisor 用它传递开始时间,后置时计算耗时

  • RAG 检索 Advisor 把查到的文档放进去,后续 Advisor 可以使用

  • 鉴权 Advisor 把用户信息放进去,后面的 Advisor 直接用

Q4:如何自定义一个 Advisor?

A:步骤如下:

  1. 实现 RequestResponseAdvisor 接口

  2. 重写 adviseRequest 方法(前置处理逻辑)

  3. 重写 adviseResponse 方法(后置处理逻辑,不需要可以不重写)

  4. 通过 ChatClient.Builder.defaultAdvisors() 注册到 ChatClient 中

场景设计题

Q1:设计一个完整 AI 对话系统的 Advisor 链路,你会怎么排?

参考方案(从前到后):

前置阶段(正序):

  1. 请求参数校验 Advisor:检查用户输入是否为空、长度是否超限

  2. 敏感词过滤 Advisor:过滤违规内容,命中直接拦截

  3. 对话记忆 Advisor:拼接历史对话(MessageChatMemoryAdvisor)

  4. RAG 检索 Advisor:根据用户问题检索相关文档

  5. 日志记录 Advisor:记录请求开始时间和入参

→ 调用大模型 →

后置阶段(逆序):

  1. 日志记录 Advisor:记录响应、耗时、Token 用量(逆序先执行)

  2. RAG 后处理 Advisor:对检索结果做补充说明

  3. 对话记忆 Advisor:将新对话存入记忆

  4. 响应格式化 Advisor:统一响应格式

  5. 响应合规校验 Advisor:检查模型输出是否合规

  6. 敏感词二次校验 Advisor:对响应内容再做一次过滤

Q2:如何基于 Advisor 实现用户 Token 用量统计和限流?

参考思路:

  • 前置 Advisor:获取用户标识,查询今日 Token 用量,如果超限直接抛出异常,中断调用

  • 后置 Advisor:从响应的 metadata 中获取本次 Token 用量,累加到用户的今日用量中

  • 存储方案:用 Redis 存每日用量,设置过期时间自动清零

  • 注意:这个 Advisor 要尽量靠前,命中限流时直接拦截,不浪费后续资源

八、总结

核心要点回顾

  1. Advisor 是什么:Spring AI 版的 AOP,专门拦截大模型的请求和响应

  2. 执行顺序:正序前置 → 调用模型 → 逆序后置(洋葱模型)

  3. AdvisorContext:链路共享的数据背包,Advisor 之间传数据用的

  4. 能做什么:日志、记忆、过滤、校验、RAG、限流... 凡是横切逻辑都能做

  5. 怎么自定义 :实现 RequestResponseAdvisor 接口,注册到 ChatClient

参考资料

原创不易,如果这篇文章对你有帮助,欢迎点赞、收藏、关注!有问题可以在评论区留言交流~

相关推荐
小巫编程室37 分钟前
我造了一个 Java 能力包:让 AI 直接调用你的业务代码
java·前端·后端
十有八七43 分钟前
手搓 Agent(五):学会翻书——RAG,先查资料再回答
前端·人工智能·后端
Swot1 小时前
产品 RAG 知识库与 AI 顾问 设计与实现
前端·后端
深入云栈1 小时前
Netty 4.2.x 源码深度解析 (二十四):池化内存分配 —— PoolArena、PoolChunk 与 PoolSubpage
java·后端·架构
ServBay2 小时前
PHP 8.6 最新发布:语法更新、实用函数与升级要点
后端·php
惜.己2 小时前
Java结合idea简单使用Playwright
java·开发语言·自动化
我不会起名字3222 小时前
Agent 总调错工具?MCP 接进 Go 后端的 4 个约束
后端·go·agent·mcp
考虑考虑3 小时前
git刷新远程分支列表
git·后端·gitlab
十有八七3 小时前
手搓 Agent(四):长点记性——上下文满了怎么办,怎么记住上一次
前端·人工智能·后端