技术栈
流式输出
火云牌神
24 天前
python
·
websocket
·
llm
·
fastapi
·
流式输出
本地大模型编程实战(32)用websocket显示大模型的流式输出
在与 LLM(大语言模型) 对话时，如果每次都等 LLM 处理完毕再返回给客户端，会显得比较卡顿，不友好。如何能够像主流的AI平台那样：可以一点一点吐出字符呢？ 本文将模仿后端流式输出文字，前端一块一块的显示文字。主要的实现路径是：
bdawn
3 个月前
python
·
websocket
·
openai
·
api
·
实时聊天
·
deepseek大模型
·
流式输出
深度集成DeepSeek大模型：WebSocket流式聊天实现
访问DeepSeek官网进入API开放平台创建API Key推荐使用Python或Node.js编写后台代码。下面以Python为例进行说明。