agent流式接口 - agent流式接口技术,学习,经验文章

微行

5 小时前

对接Agent时，流式接口消息存在批量返回问题背景：今天对接后端 Agent 返回消息时，发现输出效果不如 ChatGPT、豆包或 deepseek 那样流畅。通过开发者工具查看发现，同一毫秒内会返回约 10 条消息，所以会造成消息一大块一大块的渲染，而不是像打字机那样丝滑，起初以为是算法或后端问题，经过排查才发现是 Nginx 代理层的默认缓冲设置导致的。