为什么在AI对话中选择用sse而不是web socket?

先简单介绍一下sse: 一种由服务端到客户端的单向通信协议。
再介绍一下web socket: 一种全双工通信协议(通俗来说就是服务端和客户端互传)

看完了介绍,肯定会觉得AI对话这种类似于实时聊天的场景,肯定是要选择web socket来做这个功能,不论是它的双向通信、低延迟还是流传输,怎么看都是很合适的,那为什么还要去用sse来做这个事情呢。首先我们的对话,是问答的形式,但是不同于聊天,它是一种截断式的询问,比如我们提问一个问题,ai会立马针对这个问题来进行回答,当我们想要问另外一个问题,它必须立马回到现在的这个问题上,终止之前的回答,再一个对话并非是很频繁的,基本就是一个等待问完,一个等待回答完,所以对于web socket那种实时双向通信不是必须。然后就是低延迟,其实也是对于AI对话功能不是很必须的,因为很多时候,为了体现回答的流畅,我们会做成打字输入的效果,实际可能内容早就生成完毕了,但是页面还在一个字一个字的输出中。再就是流传输,AI聊天场景其实就是文本的形式,生成的图片也不会以数据流的形式传给客户端展示,一般直接就丢个链接过来展示就完事了。

说完了AI聊天不必要使用web socket,再说一下为什么要用SSE,一是实现简单,传输的数据直接就是文本,二是资源消耗比web socket小,毕竟单向通信,光服务器来推送数据就可以了。虽然sse存在局限性,但是完全符合AI对话的需求,所以没必要使用web socket

相关推荐
JustHappy7 小时前
古法编程秘籍(二):什么是代码模块化?别背概念,把房间收拾明白就够了
前端·后端
小江的记录本7 小时前
【JVM虚拟机】堆内存分代模型:年轻代(Eden+Survivor)、老年代、元空间Metaspace(附《思维导图》+《面试高频考点清单》)
java·前端·jvm·后端·python·spring·面试
weixin_471383037 小时前
图片预解码缓存
前端·浏览器缓存·图片预解码
郑洁文9 小时前
基于网络爬虫的Web敏感信息泄露自动化检测工具
前端·爬虫·网络安全·自动化
郑洁文9 小时前
可视化Web渗透分析工具的设计与实现
前端
罗超驿10 小时前
18.Web API 实战:元素与表单属性的获取和修改
开发语言·前端·javascript
边界条件╝10 小时前
微前端进阶(四)
前端·状态模式
无风听海10 小时前
JSON Web Token(JWT)完全指南
java·前端·json
IT_陈寒10 小时前
Python闭包里藏的这个坑,差点让我加班到凌晨
前端·人工智能·后端
IT_陈寒10 小时前
Java注解空指针?这个坑我踩得莫名其妙
前端·人工智能·后端