为什么在AI对话中选择用sse而不是web socket?

先简单介绍一下sse: 一种由服务端到客户端的单向通信协议。
再介绍一下web socket: 一种全双工通信协议(通俗来说就是服务端和客户端互传)

看完了介绍,肯定会觉得AI对话这种类似于实时聊天的场景,肯定是要选择web socket来做这个功能,不论是它的双向通信、低延迟还是流传输,怎么看都是很合适的,那为什么还要去用sse来做这个事情呢。首先我们的对话,是问答的形式,但是不同于聊天,它是一种截断式的询问,比如我们提问一个问题,ai会立马针对这个问题来进行回答,当我们想要问另外一个问题,它必须立马回到现在的这个问题上,终止之前的回答,再一个对话并非是很频繁的,基本就是一个等待问完,一个等待回答完,所以对于web socket那种实时双向通信不是必须。然后就是低延迟,其实也是对于AI对话功能不是很必须的,因为很多时候,为了体现回答的流畅,我们会做成打字输入的效果,实际可能内容早就生成完毕了,但是页面还在一个字一个字的输出中。再就是流传输,AI聊天场景其实就是文本的形式,生成的图片也不会以数据流的形式传给客户端展示,一般直接就丢个链接过来展示就完事了。

说完了AI聊天不必要使用web socket,再说一下为什么要用SSE,一是实现简单,传输的数据直接就是文本,二是资源消耗比web socket小,毕竟单向通信,光服务器来推送数据就可以了。虽然sse存在局限性,但是完全符合AI对话的需求,所以没必要使用web socket

相关推荐
IT_陈寒4 分钟前
Python开发者的效率革命:这5个技巧让你的代码提速50%!
前端·人工智能·后端
Luna-player5 分钟前
Vue 3 + Vue Router 的路由配置,简单示例
前端·javascript·vue.js
用户69371750013845 分钟前
不卷AI速度,我卷自己的从容——北京程序员手记
android·前端·人工智能
xiaotao13112 分钟前
03. 原子化 CSS 思想
前端·css·tailwind
小小亮0124 分钟前
qiankun的面试题
前端
爱宇阳1 小时前
Nuxt4 + Tailwind CSS v4 自定义响应式断点完整指南
前端·css·nuxt4
Jutick1 小时前
揭秘低延迟:WebSocket 实时行情如何拯救你的量化策略?——Python 生产级实现
前端
~欲买桂花同载酒~1 小时前
项目优化-vite打包优化
前端·javascript·vue.js
林夕sama1 小时前
多线程基础(五)
java·开发语言·前端