【SAA】SpringAI Alibaba学习笔记(一):SSE与WS的区别以及如何注入多个AI模型

目录

[一、SSE(Server-Sent Events)与WS(WebSocket)](#一、SSE(Server-Sent Events)与WS(WebSocket))

核心概念

区别

二、SAA中同时注入多个模型

三、注入ChatClient


一、SSE(Server-Sent Events)与WS(WebSocket)

SSE 是一种允许服务端可以持续推送数据片段(逐字逐句)到前端的Web技术通过单向的HTTP长连接 ,使用一个长期存在的连接,让服务器可以主动将数据推给客户端,SSE是轻量级的单向通信协议,适合AI对话这类服务端主导的场景。

核心概念

客户端发起一个请求,服务器保持这个连接打开并在有新数据时,通过这个连接将数据发送给客户端。就像我们现在使用AI时,它不是一次性返回所有数据给客户端,而是逐字逐句地返回。我个人认为:这种方式用户使用体验更好。在学习SAA时,接口返回数据的类型通常有两种:

第一种为String,直接把所有生成的文字以字符串类型全部返回给前端。学习过程中,调用该接口时如果生成的文字过多,通常浏览器会"转圈圈",即浏览器在等待数据全部传输中,这样给人的一种错觉就是"网络卡了"。我觉得用户使用感很差。

第二种为Flux<String>,即流式输出,这种便是逐字逐句地响应给客户端,体验感极佳。


区别


二、SAA中同时注入多个模型

在使用过程中可知道我们在开发中可能会同时使用到不同的AI模型,但是简单的注入程序不能识别,此时需要进行配置。

这里我们以千问模型deepseek为例子。

定义名为SaaLLMConfig的配置类。

java 复制代码
@Configuration
public class SaaLLMConfig {
    //模型名称常量定义,一套系统多模型共存
    private final String DEEPSEEK_MODEL="deepseek-v3";  //模型的名称
    private final String QWEN_MODEL="qwen-max";

    @Bean(name = "deepseek")
    public ChatModel deepseek(){
        return DashScopeChatModel.builder()
                .dashScopeApi(DashScopeApi.builder()
                        .apiKey(System.getenv("aliQwen-api")).build())
                .defaultOptions(DashScopeChatOptions.builder()
                        .withModel(DEEPSEEK_MODEL)
                        .build())
                .build();
    }


    @Bean(name = "qwen")
    public ChatModel qwen(){
        return DashScopeChatModel.builder()
                .dashScopeApi(DashScopeApi.builder()
                        .apiKey(System.getenv("aliQwen-api")).build())
                .defaultOptions(DashScopeChatOptions.builder()
                        .withModel(QWEN_MODEL)
                        .build())
                .build();
    }
}

三、注入ChatClient

ChatClient不支持自动注入,需要手动注入。需要在配置类中配置。而且ChatClient不能离开ChatModel,要想使用ChatClient,需要先创建ChatModel。

需要在@Bean注解里标注名称,参数里也需要使用@Qualifier指定哪一个ChatModel。

java 复制代码
@Bean(name = "deepseekChatClient")  //要指定名称,要不然注入时区分不了哪一个
    public ChatClient deepseekChatClient(@Qualifier("deepseek") ChatModel deepseek)  {
        return ChatClient.builder(deepseek)  //需要注入ChatModel
                .defaultOptions(ChatOptions.builder()
                        .model(DEEPSEEK_MODEL)
                        .build())
                .build();
    }

    @Bean(name = "qwenChatClient")
    public ChatClient qwenChatClient(@Qualifier("qwen") ChatModel qwen){
        return ChatClient.builder(qwen)
                .defaultOptions(ChatOptions.builder()
                        .model(QWEN_MODEL)
                        .build())
                .build();
    }
相关推荐
Mr.Jessy2 小时前
JavaScript高级:构造函数与原型
开发语言·前端·javascript·学习·ecmascript
Goldn.5 小时前
Java核心技术栈全景解析:从Web开发到AI融合
java· spring boot· 微服务· ai· jvm· maven· hibernate
玄斎6 小时前
MySQL 单表操作通关指南:建库 / 建表 / 插入 / 增删改查
运维·服务器·数据库·学习·程序人生·mysql·oracle
李慕婉学姐6 小时前
【开题答辩过程】以《基于Android的出租车运行监测系统设计与实现》为例,不知道这个选题怎么做的,不知道这个选题怎么开题答辩的可以进来看看
java·后端·vue
m0_740043736 小时前
SpringBoot05-配置文件-热加载/日志框架slf4j/接口文档工具Swagger/Knife4j
java·spring boot·后端·log4j
编织幻境的妖6 小时前
SQL查询连续登录用户方法详解
java·数据库·sql
未若君雅裁6 小时前
JVM面试篇总结
java·jvm·面试
清风一徐7 小时前
禅道从18.3升级到21.7.6版本
笔记
kk哥88997 小时前
C++ 对象 核心介绍
java·jvm·c++
Jack___Xue7 小时前
LangChain实战快速入门笔记(六)--LangChain使用之Agent
笔记·langchain·unix