Spring AI:ChatClient实现对话效果

在之前文章中,我们通过注入 DeepSeekChatModel 实例的方式,实现了对 DeepSeek 官方提供的两个不同大模型的调用(V3 和 R1 推理模型):Spring AI:对接官方 DeepSeek-R1 模型 ------ 实现推理效果Spring AI:对接DeepSeek实战

点击进入到 DeepSeekChatModel 的源码中,会发现它实现了 ChatModel 接口,此接口用于和具体的大语言模型(如 DeepSeek、OpenAI等)交互,提供对模型生成能力的细粒度控制,如设置模型的相关参数(如 temperature、topP、maxTokens 等等)。

除了上述方式外,我们还可以使用 Spring AI 提供的另一个接口 ------ ChatClient。此接口属于更上层的封装,它隐藏了底层模型的差异,能够简化调用。

ChatClient 与 ChatModel 对比

对比一下两个接口,如下:

使用 ChatClient 实现对话

接下来,我们通过 ChatClient 来实现一下之前一样的对话效果,看看使用方式上,有何不同。首先,编辑 application.yml 文件,将模型切换回 deepseek-chat 模型,V3 模型相较于 R1 模型,收费更低,不需要测试推理的话,用这个省点钱:

java 复制代码
spring:
  ai:
    deepseek:
      // 省略...
      chat:
        options:
          model: deepseek-chat # 使用哪个模型
          // 省略...

配置 ChatClient 客户端

新建一个 /config 包,添加 ChatClient 客户端的配置类 ChatClientConfig(相较于 ChatModel 能够通过 starter 自动装配,ChatClient 需要我们手动配置,并注入到 Spring 容器中):

java 复制代码
@Configuration
public class ChatClientConfig {

    /**
     * 初始化 ChatClient 客户端
     * @param chatModel
     * @return
     */
    @Bean
    public ChatClient chatClient(DeepSeekChatModel chatModel) {
        return ChatClient.builder(chatModel)
                .build();
    }
}

解释一下:

  • 方法参数 DeepSeekChatModel chatModel:依赖注入 starter 自动装配的 DeepSeekChatModel 实例,它是 ChatModel 接口的具体实现类,表示底层对接的 DeepSeek 大语言模型;
  • ChatClient.builder(chatModel).build(): 使用 ChatClient 的建造者模式(Builder),将 DeepSeekChatModel 实例作为底层模型绑定到 ChatClient 客户端;

新增 Controller

然后,我们在 /controller 包下,新建一个 ChatClientController 控制器,专门放置 ChatClient 使用示例代码:

并在其中定义一个 /v2/ai/generate 接口,用于实现普通类型对话,这次我们改为注入 ChatClient 来使用, 代码如下:

java 复制代码
@RestController
@RequestMapping("/v2/ai")
public class ChatClientController {

    @Resource
    private ChatClient chatClient;

    /**
     * 普通对话
     * @param message
     * @return
     */
    @GetMapping("/generate")
    public String generate(@RequestParam(value = "message", defaultValue = "你是谁?") String message) {
        // 一次性返回结果
        return chatClient.prompt()
                .user(message)
                .call()
                .content();
    }


}

重启项目。访问: http://localhost:8080/v2/ai/generate?message=你是谁

指定一个系统角色

另外,在初始化 ChatClient 的时候,还可以通过 .defaultSystem() 方法,为模型设定一个角色,如 "扮演一个智能客服":

java 复制代码
@Configuration
public class ChatClientConfig {

    /**
     *
     * @param chatModel
     * @return
     */
    @Bean
    public ChatClient chatClient(DeepSeekChatModel chatModel) {
        return ChatClient.builder(chatModel)
                .defaultSystem("请你扮演一个智能客服")
                .build();
    }
}

重启项目,再次测试接口,会发现这次的回答结果,不再说自己是 DeepSeek Chat 模型了,而是带入了客服的角色。

流式对话

再来通过 ChatClient 实现一波流式对话的效果。编辑 ChatClientController 控制器,添加接口如下:

java 复制代码
@RestController
@RequestMapping("/v2/ai")
public class ChatClientController {

    @Resource
    private ChatClient chatClient;

    // 省略...

    /**
     * 流式对话
     * @param message
     * @return
     */
    @GetMapping(value = "/generateStream", produces = "text/html;charset=utf-8")
    public Flux<String> generateStream(@RequestParam(value = "message", defaultValue = "你是谁?") String message) {
        return chatClient.prompt()
                .user(message) // 提示词
                .stream() // 流式输出
                .content();

    }

}
相关推荐
ar01231 小时前
智能装配如何与AR技术相结合
人工智能·ar
科技测评-阿博1 小时前
深度解析:如何选择高效获客软件以加速企业级应用开发
大数据·人工智能
DO_Community1 小时前
开源视频生成新标杆:美团LongCat Video全面解析与实战指南
人工智能·开源·aigc·音视频·教程·ai推理
说私域1 小时前
天猫卖家运营突围:基于开源AI智能名片链动2+1模式S2B2C商城小程序的转型路径研究
人工智能·小程序·开源
无敌最俊朗@1 小时前
C++ 内存管理与编译原理 (面试复习2)
java·开发语言·jvm
赴前尘1 小时前
docker 配置ipv6地址
java·docker·容器
良策金宝AI1 小时前
工程AI ≠ 通用大模型:为什么电力设计需要垂直行业模型?
大数据·人工智能
开开心心就好1 小时前
图片批量压缩工具:支持有损无损两种模式
java·游戏·pdf·excel·散列表·启发式算法·1024程序员节