为什么在AI对话中选择用sse而不是web socket?

先简单介绍一下sse: 一种由服务端到客户端的单向通信协议。
再介绍一下web socket: 一种全双工通信协议(通俗来说就是服务端和客户端互传)

看完了介绍,肯定会觉得AI对话这种类似于实时聊天的场景,肯定是要选择web socket来做这个功能,不论是它的双向通信、低延迟还是流传输,怎么看都是很合适的,那为什么还要去用sse来做这个事情呢。首先我们的对话,是问答的形式,但是不同于聊天,它是一种截断式的询问,比如我们提问一个问题,ai会立马针对这个问题来进行回答,当我们想要问另外一个问题,它必须立马回到现在的这个问题上,终止之前的回答,再一个对话并非是很频繁的,基本就是一个等待问完,一个等待回答完,所以对于web socket那种实时双向通信不是必须。然后就是低延迟,其实也是对于AI对话功能不是很必须的,因为很多时候,为了体现回答的流畅,我们会做成打字输入的效果,实际可能内容早就生成完毕了,但是页面还在一个字一个字的输出中。再就是流传输,AI聊天场景其实就是文本的形式,生成的图片也不会以数据流的形式传给客户端展示,一般直接就丢个链接过来展示就完事了。

说完了AI聊天不必要使用web socket,再说一下为什么要用SSE,一是实现简单,传输的数据直接就是文本,二是资源消耗比web socket小,毕竟单向通信,光服务器来推送数据就可以了。虽然sse存在局限性,但是完全符合AI对话的需求,所以没必要使用web socket

相关推荐
掘金安东尼8 小时前
让 JavaScript 更容易「善后」的新能力
前端·javascript·面试
掘金安东尼8 小时前
用 HTMX 为 React Data Grid 加速实时更新
前端·javascript·面试
灵感__idea10 小时前
Hello 算法:众里寻她千“百度”
前端·javascript·算法
yinuo10 小时前
轻松接入大语言模型API -04
前端
袋鼠云数栈UED团队11 小时前
基于 Lexical 实现变量输入编辑器
前端·javascript·架构
cipher11 小时前
ERC-4626 通胀攻击:DeFi 金库的"捐款陷阱"
前端·后端·安全
UrbanJazzerati11 小时前
非常友好的Vue 3 生命周期详解
前端·面试
AAA阿giao11 小时前
从零构建一个现代登录页:深入解析 Tailwind CSS + Vite + Lucide React 的完整技术栈
前端·css·react.js
兆子龙12 小时前
像 React Hook 一样「自动触发」:用 Git Hook 拦住忘删的测试代码与其它翻车现场
前端·架构
兆子龙13 小时前
用 Auto.js 实现挂机脚本:从找图点击到循环自动化
前端·架构