为什么在AI对话中选择用sse而不是web socket?

先简单介绍一下sse: 一种由服务端到客户端的单向通信协议。
再介绍一下web socket: 一种全双工通信协议(通俗来说就是服务端和客户端互传)

看完了介绍,肯定会觉得AI对话这种类似于实时聊天的场景,肯定是要选择web socket来做这个功能,不论是它的双向通信、低延迟还是流传输,怎么看都是很合适的,那为什么还要去用sse来做这个事情呢。首先我们的对话,是问答的形式,但是不同于聊天,它是一种截断式的询问,比如我们提问一个问题,ai会立马针对这个问题来进行回答,当我们想要问另外一个问题,它必须立马回到现在的这个问题上,终止之前的回答,再一个对话并非是很频繁的,基本就是一个等待问完,一个等待回答完,所以对于web socket那种实时双向通信不是必须。然后就是低延迟,其实也是对于AI对话功能不是很必须的,因为很多时候,为了体现回答的流畅,我们会做成打字输入的效果,实际可能内容早就生成完毕了,但是页面还在一个字一个字的输出中。再就是流传输,AI聊天场景其实就是文本的形式,生成的图片也不会以数据流的形式传给客户端展示,一般直接就丢个链接过来展示就完事了。

说完了AI聊天不必要使用web socket,再说一下为什么要用SSE,一是实现简单,传输的数据直接就是文本,二是资源消耗比web socket小,毕竟单向通信,光服务器来推送数据就可以了。虽然sse存在局限性,但是完全符合AI对话的需求,所以没必要使用web socket

相关推荐
黄权光15 小时前
【微信小程序】uni-app + Vue3 + Vite 的小程序项目实现「进入指定范围才能打卡」的考勤功能
前端
西柚小萌新15 小时前
【LLM&&AI应用开发 八股文】--4.2.Agent智能体(中)
前端·javascript·react.js
逐米时代15 小时前
远程运维诊断减少到场率
java·服务器·前端
Java后端的Ai之路16 小时前
03_React_JSX
前端·react.js·前端框架
颜进强16 小时前
26 · NestJS 基础篇 · 全专栏总结:五个阶段,一次收拢
前端·后端·ai编程
风寄巴山秋16 小时前
OpenBMC:Web 页面功能异常排查
运维·服务器·前端·架构
程序员Sunday17 小时前
Promise.all、allSettled、race、any 怎么选,失败后其他请求会怎样
开发语言·前端·javascript
niucloud-admin17 小时前
JAVA V6 多商户商城 开发文档——管理端前端
前端
weixin_4222013017 小时前
如何解决小程序图标点击热区小,落点不准问题?
前端·小程序·样式·点击热区·扩大
szial17 小时前
JavaScript 的 call、apply 和 bind:如何控制函数调用
开发语言·前端·javascript