Spring AI:ChatClient实现对话效果

在之前文章中,我们通过注入 DeepSeekChatModel 实例的方式,实现了对 DeepSeek 官方提供的两个不同大模型的调用(V3 和 R1 推理模型):Spring AI:对接官方 DeepSeek-R1 模型 ------ 实现推理效果Spring AI:对接DeepSeek实战

点击进入到 DeepSeekChatModel 的源码中,会发现它实现了 ChatModel 接口,此接口用于和具体的大语言模型(如 DeepSeek、OpenAI等)交互,提供对模型生成能力的细粒度控制,如设置模型的相关参数(如 temperature、topP、maxTokens 等等)。

除了上述方式外,我们还可以使用 Spring AI 提供的另一个接口 ------ ChatClient。此接口属于更上层的封装,它隐藏了底层模型的差异,能够简化调用。

ChatClient 与 ChatModel 对比

对比一下两个接口,如下:

使用 ChatClient 实现对话

接下来,我们通过 ChatClient 来实现一下之前一样的对话效果,看看使用方式上,有何不同。首先,编辑 application.yml 文件,将模型切换回 deepseek-chat 模型,V3 模型相较于 R1 模型,收费更低,不需要测试推理的话,用这个省点钱:

java 复制代码
spring:
  ai:
    deepseek:
      // 省略...
      chat:
        options:
          model: deepseek-chat # 使用哪个模型
          // 省略...

配置 ChatClient 客户端

新建一个 /config 包,添加 ChatClient 客户端的配置类 ChatClientConfig(相较于 ChatModel 能够通过 starter 自动装配,ChatClient 需要我们手动配置,并注入到 Spring 容器中):

java 复制代码
@Configuration
public class ChatClientConfig {

    /**
     * 初始化 ChatClient 客户端
     * @param chatModel
     * @return
     */
    @Bean
    public ChatClient chatClient(DeepSeekChatModel chatModel) {
        return ChatClient.builder(chatModel)
                .build();
    }
}

解释一下:

  • 方法参数 DeepSeekChatModel chatModel:依赖注入 starter 自动装配的 DeepSeekChatModel 实例,它是 ChatModel 接口的具体实现类,表示底层对接的 DeepSeek 大语言模型;
  • ChatClient.builder(chatModel).build(): 使用 ChatClient 的建造者模式(Builder),将 DeepSeekChatModel 实例作为底层模型绑定到 ChatClient 客户端;

新增 Controller

然后,我们在 /controller 包下,新建一个 ChatClientController 控制器,专门放置 ChatClient 使用示例代码:

并在其中定义一个 /v2/ai/generate 接口,用于实现普通类型对话,这次我们改为注入 ChatClient 来使用, 代码如下:

java 复制代码
@RestController
@RequestMapping("/v2/ai")
public class ChatClientController {

    @Resource
    private ChatClient chatClient;

    /**
     * 普通对话
     * @param message
     * @return
     */
    @GetMapping("/generate")
    public String generate(@RequestParam(value = "message", defaultValue = "你是谁?") String message) {
        // 一次性返回结果
        return chatClient.prompt()
                .user(message)
                .call()
                .content();
    }


}

重启项目。访问: http://localhost:8080/v2/ai/generate?message=你是谁

指定一个系统角色

另外,在初始化 ChatClient 的时候,还可以通过 .defaultSystem() 方法,为模型设定一个角色,如 "扮演一个智能客服":

java 复制代码
@Configuration
public class ChatClientConfig {

    /**
     *
     * @param chatModel
     * @return
     */
    @Bean
    public ChatClient chatClient(DeepSeekChatModel chatModel) {
        return ChatClient.builder(chatModel)
                .defaultSystem("请你扮演一个智能客服")
                .build();
    }
}

重启项目,再次测试接口,会发现这次的回答结果,不再说自己是 DeepSeek Chat 模型了,而是带入了客服的角色。

流式对话

再来通过 ChatClient 实现一波流式对话的效果。编辑 ChatClientController 控制器,添加接口如下:

java 复制代码
@RestController
@RequestMapping("/v2/ai")
public class ChatClientController {

    @Resource
    private ChatClient chatClient;

    // 省略...

    /**
     * 流式对话
     * @param message
     * @return
     */
    @GetMapping(value = "/generateStream", produces = "text/html;charset=utf-8")
    public Flux<String> generateStream(@RequestParam(value = "message", defaultValue = "你是谁?") String message) {
        return chatClient.prompt()
                .user(message) // 提示词
                .stream() // 流式输出
                .content();

    }

}
相关推荐
2201_757830871 小时前
全局异常处理器
java
aigcapi1 小时前
RAG 系统的黑盒测试:从算法对齐视角解析 GEO 优化的技术指标体系
大数据·人工智能·算法
上进小菜猪1 小时前
基于深度学习的河道垃圾检测系统设计(YOLOv8)
人工智能
上天夭2 小时前
模型训练篇
人工智能·深度学习·机器学习
小徐Chao努力2 小时前
【Langchain4j-Java AI开发】09-Agent智能体工作流
java·开发语言·人工智能
Blossom.1182 小时前
AI编译器实战:从零手写算子融合与自动调度系统
人工智能·python·深度学习·机器学习·flask·transformer·tornado
Coder_Boy_2 小时前
SpringAI与LangChain4j的智能应用-(理论篇2)
人工智能·spring boot·langchain·springai
却道天凉_好个秋2 小时前
OpenCV(四十八):图像查找
人工智能·opencv·计算机视觉
Coder_Boy_2 小时前
SpringAI与LangChain4j的智能应用-(理论篇3)
java·人工智能·spring boot·langchain
GetcharZp2 小时前
工地“火眼金睛”!手把手带你用 YOLO11 实现安全帽佩戴检测
人工智能·计算机视觉