Spring AI:ChatClient实现对话效果

在之前文章中,我们通过注入 DeepSeekChatModel 实例的方式,实现了对 DeepSeek 官方提供的两个不同大模型的调用(V3 和 R1 推理模型):Spring AI:对接官方 DeepSeek-R1 模型 ------ 实现推理效果Spring AI:对接DeepSeek实战

点击进入到 DeepSeekChatModel 的源码中,会发现它实现了 ChatModel 接口,此接口用于和具体的大语言模型(如 DeepSeek、OpenAI等)交互,提供对模型生成能力的细粒度控制,如设置模型的相关参数(如 temperature、topP、maxTokens 等等)。

除了上述方式外,我们还可以使用 Spring AI 提供的另一个接口 ------ ChatClient。此接口属于更上层的封装,它隐藏了底层模型的差异,能够简化调用。

ChatClient 与 ChatModel 对比

对比一下两个接口,如下:

使用 ChatClient 实现对话

接下来,我们通过 ChatClient 来实现一下之前一样的对话效果,看看使用方式上,有何不同。首先,编辑 application.yml 文件,将模型切换回 deepseek-chat 模型,V3 模型相较于 R1 模型,收费更低,不需要测试推理的话,用这个省点钱:

java 复制代码
spring:
  ai:
    deepseek:
      // 省略...
      chat:
        options:
          model: deepseek-chat # 使用哪个模型
          // 省略...

配置 ChatClient 客户端

新建一个 /config 包,添加 ChatClient 客户端的配置类 ChatClientConfig(相较于 ChatModel 能够通过 starter 自动装配,ChatClient 需要我们手动配置,并注入到 Spring 容器中):

java 复制代码
@Configuration
public class ChatClientConfig {

    /**
     * 初始化 ChatClient 客户端
     * @param chatModel
     * @return
     */
    @Bean
    public ChatClient chatClient(DeepSeekChatModel chatModel) {
        return ChatClient.builder(chatModel)
                .build();
    }
}

解释一下:

  • 方法参数 DeepSeekChatModel chatModel:依赖注入 starter 自动装配的 DeepSeekChatModel 实例,它是 ChatModel 接口的具体实现类,表示底层对接的 DeepSeek 大语言模型;
  • ChatClient.builder(chatModel).build(): 使用 ChatClient 的建造者模式(Builder),将 DeepSeekChatModel 实例作为底层模型绑定到 ChatClient 客户端;

新增 Controller

然后,我们在 /controller 包下,新建一个 ChatClientController 控制器,专门放置 ChatClient 使用示例代码:

并在其中定义一个 /v2/ai/generate 接口,用于实现普通类型对话,这次我们改为注入 ChatClient 来使用, 代码如下:

java 复制代码
@RestController
@RequestMapping("/v2/ai")
public class ChatClientController {

    @Resource
    private ChatClient chatClient;

    /**
     * 普通对话
     * @param message
     * @return
     */
    @GetMapping("/generate")
    public String generate(@RequestParam(value = "message", defaultValue = "你是谁?") String message) {
        // 一次性返回结果
        return chatClient.prompt()
                .user(message)
                .call()
                .content();
    }


}

重启项目。访问: http://localhost:8080/v2/ai/generate?message=你是谁

指定一个系统角色

另外,在初始化 ChatClient 的时候,还可以通过 .defaultSystem() 方法,为模型设定一个角色,如 "扮演一个智能客服":

java 复制代码
@Configuration
public class ChatClientConfig {

    /**
     *
     * @param chatModel
     * @return
     */
    @Bean
    public ChatClient chatClient(DeepSeekChatModel chatModel) {
        return ChatClient.builder(chatModel)
                .defaultSystem("请你扮演一个智能客服")
                .build();
    }
}

重启项目,再次测试接口,会发现这次的回答结果,不再说自己是 DeepSeek Chat 模型了,而是带入了客服的角色。

流式对话

再来通过 ChatClient 实现一波流式对话的效果。编辑 ChatClientController 控制器,添加接口如下:

java 复制代码
@RestController
@RequestMapping("/v2/ai")
public class ChatClientController {

    @Resource
    private ChatClient chatClient;

    // 省略...

    /**
     * 流式对话
     * @param message
     * @return
     */
    @GetMapping(value = "/generateStream", produces = "text/html;charset=utf-8")
    public Flux<String> generateStream(@RequestParam(value = "message", defaultValue = "你是谁?") String message) {
        return chatClient.prompt()
                .user(message) // 提示词
                .stream() // 流式输出
                .content();

    }

}
相关推荐
曹轲恒6 小时前
Java中断
java·开发语言
数科云6 小时前
AI提示词(Prompt)入门:什么是Prompt?为什么要写好Prompt?
人工智能·aigc·ai写作·ai工具集·最新ai资讯
Devlive 开源社区6 小时前
技术日报|Claude Code超级能力库superpowers登顶日增1538星,自主AI循环ralph爆火登榜第二
人工智能
xxxmine6 小时前
Java并发wait(timeout)
java
冰冰菜的扣jio7 小时前
Redis缓存问题——一致性问题、事务、持久化
java·spring·mybatis
施棠海7 小时前
监听与回调的三个demo
java·开发语言
软件供应链安全指南7 小时前
灵脉 IAST 5.4 升级:双轮驱动 AI 漏洞治理与业务逻辑漏洞精准检测
人工智能·安全
lanmengyiyu7 小时前
单塔和双塔的区别和共同点
人工智能·双塔模型·网络结构·单塔模型
微光闪现7 小时前
AI识别宠物焦虑、紧张和晕车行为,是否已经具备实际可行性?
大数据·人工智能·宠物
技术小黑屋_7 小时前
用好Few-shot Prompting,AI 准确率提升100%
人工智能