deepseek-R1模型输出时截断异常

deepseek-r1调用时,中间的思考以及答案都可以输出,可以最后却异常。2025-11-14 15:27:52,827 - MainThread - src.session.session_service - session_service.py 131 - ERROR - {'session_id': 'S99d663183d29408991896cb37b913f64', 'agent': 'output', 'id': 'run--17759891-b8a0-4def-b41b-91122e1fde97', 'role': 'assistant', 'content': 'xi', 'type': 'text', 'finish_reason': 'length'}

DeepSeek-R1 的服务端在流式输出时触发了「生成长度限制」,模型被强行截断,于是最后一段内容不完整,SDK/你的代码在收到非正常结束后又继续处理,导致最终抛异常。

建议:R1 至少 4096~8192 才不会被思考部分撑爆。

✔ 设置:

max_tokens = 8192

✔ 系统指令抑制思考过程(如你不需要):

只输出最终答案,不要输出推理过程。

✔ 代码层支持 finish_reason="length",不要抛异常

相关推荐
L Jiawen8 小时前
【Golang基础】基础知识(下)
服务器·开发语言·golang
haimin037110 小时前
linux设置CPU固定频率
linux·运维·服务器
一条咸鱼¥¥¥10 小时前
【运维经验】服务器磁盘做镜像的方法
运维·服务器·windows·经验分享
渣渣盟10 小时前
NFS服务器配置全攻略:从入门到精通
linux·运维·服务器
一只旭宝10 小时前
Linux专题九:I/O复用(水平以及边缘触发放到libevent库那一专题细讲)
linux·运维·服务器
缘如风11 小时前
Linux上sunrpc 111端口关闭
linux·服务器
I · T · LUCKYBOOM11 小时前
iptables防火墙
linux·运维·服务器·网络·安全
凌波粒11 小时前
Linux-Ubuntu系统环境搭建
linux·运维·ubuntu
鸠摩智首席音效师12 小时前
如何在 Linux 中使用 uptime 命令 ?
linux·运维·服务器
HalvmånEver12 小时前
Linux:匿名管道(进程间通信二)
linux·运维·服务器