Spring AI:ChatClient实现对话效果

在之前文章中,我们通过注入 DeepSeekChatModel 实例的方式,实现了对 DeepSeek 官方提供的两个不同大模型的调用(V3 和 R1 推理模型):Spring AI:对接官方 DeepSeek-R1 模型 ------ 实现推理效果Spring AI:对接DeepSeek实战

点击进入到 DeepSeekChatModel 的源码中,会发现它实现了 ChatModel 接口,此接口用于和具体的大语言模型(如 DeepSeek、OpenAI等)交互,提供对模型生成能力的细粒度控制,如设置模型的相关参数(如 temperature、topP、maxTokens 等等)。

除了上述方式外,我们还可以使用 Spring AI 提供的另一个接口 ------ ChatClient。此接口属于更上层的封装,它隐藏了底层模型的差异,能够简化调用。

ChatClient 与 ChatModel 对比

对比一下两个接口,如下:

使用 ChatClient 实现对话

接下来,我们通过 ChatClient 来实现一下之前一样的对话效果,看看使用方式上,有何不同。首先,编辑 application.yml 文件,将模型切换回 deepseek-chat 模型,V3 模型相较于 R1 模型,收费更低,不需要测试推理的话,用这个省点钱:

java 复制代码
spring:
  ai:
    deepseek:
      // 省略...
      chat:
        options:
          model: deepseek-chat # 使用哪个模型
          // 省略...

配置 ChatClient 客户端

新建一个 /config 包,添加 ChatClient 客户端的配置类 ChatClientConfig(相较于 ChatModel 能够通过 starter 自动装配,ChatClient 需要我们手动配置,并注入到 Spring 容器中):

java 复制代码
@Configuration
public class ChatClientConfig {

    /**
     * 初始化 ChatClient 客户端
     * @param chatModel
     * @return
     */
    @Bean
    public ChatClient chatClient(DeepSeekChatModel chatModel) {
        return ChatClient.builder(chatModel)
                .build();
    }
}

解释一下:

  • 方法参数 DeepSeekChatModel chatModel:依赖注入 starter 自动装配的 DeepSeekChatModel 实例,它是 ChatModel 接口的具体实现类,表示底层对接的 DeepSeek 大语言模型;
  • ChatClient.builder(chatModel).build(): 使用 ChatClient 的建造者模式(Builder),将 DeepSeekChatModel 实例作为底层模型绑定到 ChatClient 客户端;

新增 Controller

然后,我们在 /controller 包下,新建一个 ChatClientController 控制器,专门放置 ChatClient 使用示例代码:

并在其中定义一个 /v2/ai/generate 接口,用于实现普通类型对话,这次我们改为注入 ChatClient 来使用, 代码如下:

java 复制代码
@RestController
@RequestMapping("/v2/ai")
public class ChatClientController {

    @Resource
    private ChatClient chatClient;

    /**
     * 普通对话
     * @param message
     * @return
     */
    @GetMapping("/generate")
    public String generate(@RequestParam(value = "message", defaultValue = "你是谁?") String message) {
        // 一次性返回结果
        return chatClient.prompt()
                .user(message)
                .call()
                .content();
    }


}

重启项目。访问: http://localhost:8080/v2/ai/generate?message=你是谁

指定一个系统角色

另外,在初始化 ChatClient 的时候,还可以通过 .defaultSystem() 方法,为模型设定一个角色,如 "扮演一个智能客服":

java 复制代码
@Configuration
public class ChatClientConfig {

    /**
     *
     * @param chatModel
     * @return
     */
    @Bean
    public ChatClient chatClient(DeepSeekChatModel chatModel) {
        return ChatClient.builder(chatModel)
                .defaultSystem("请你扮演一个智能客服")
                .build();
    }
}

重启项目,再次测试接口,会发现这次的回答结果,不再说自己是 DeepSeek Chat 模型了,而是带入了客服的角色。

流式对话

再来通过 ChatClient 实现一波流式对话的效果。编辑 ChatClientController 控制器,添加接口如下:

java 复制代码
@RestController
@RequestMapping("/v2/ai")
public class ChatClientController {

    @Resource
    private ChatClient chatClient;

    // 省略...

    /**
     * 流式对话
     * @param message
     * @return
     */
    @GetMapping(value = "/generateStream", produces = "text/html;charset=utf-8")
    public Flux<String> generateStream(@RequestParam(value = "message", defaultValue = "你是谁?") String message) {
        return chatClient.prompt()
                .user(message) // 提示词
                .stream() // 流式输出
                .content();

    }

}
相关推荐
春日见3 分钟前
vscode代码无法跳转
大数据·人工智能·深度学习·elasticsearch·搜索引擎
Re.不晚7 分钟前
Java入门17——异常
java·开发语言
缘空如是20 分钟前
基础工具包之JSON 工厂类
java·json·json切换
Drgfd33 分钟前
真智能 vs 伪智能:天选 WE H7 Lite 用 AI 人脸识别 + 呼吸灯带,重新定义智能化充电桩
人工智能·智能充电桩·家用充电桩·充电桩推荐
追逐梦想的张小年43 分钟前
JUC编程04
java·idea
好家伙VCC1 小时前
### WebRTC技术:实时通信的革新与实现####webRTC(Web Real-TimeComm
java·前端·python·webrtc
萤丰信息1 小时前
AI 筑基・生态共荣:智慧园区的价值重构与未来新途
大数据·运维·人工智能·科技·智慧城市·智慧园区
盖雅工场1 小时前
排班+成本双管控,餐饮零售精细化运营破局
人工智能·零售餐饮·ai智能排班
神策数据1 小时前
打造 AI Growth Team: 以 Data + AI 重塑品牌零售增长范式
人工智能·零售
2501_941333101 小时前
数字识别与检测_YOLOv3_C3k2改进模型解析
人工智能·yolo·目标跟踪