技术栈

前端ai

微行
5 小时前
ai agent·agent流式接口·前端ai·nginx代理缓存
对接Agent时,流式接口消息存在批量返回问题背景:今天对接后端 Agent 返回消息时,发现输出效果不如 ChatGPT、豆包或 deepseek 那样流畅。通过开发者工具查看发现,同一毫秒内会返回约 10 条消息,所以会造成消息一大块一大块的渲染,而不是像打字机那样丝滑,起初以为是算法或后端问题,经过排查才发现是 Nginx 代理层的默认缓冲设置导致的。
我是有底线的