deepseek-R1模型输出时截断异常

deepseek-r1调用时,中间的思考以及答案都可以输出,可以最后却异常。2025-11-14 15:27:52,827 - MainThread - src.session.session_service - session_service.py 131 - ERROR - {'session_id': 'S99d663183d29408991896cb37b913f64', 'agent': 'output', 'id': 'run--17759891-b8a0-4def-b41b-91122e1fde97', 'role': 'assistant', 'content': 'xi', 'type': 'text', 'finish_reason': 'length'}

DeepSeek-R1 的服务端在流式输出时触发了「生成长度限制」,模型被强行截断,于是最后一段内容不完整,SDK/你的代码在收到非正常结束后又继续处理,导致最终抛异常。

建议:R1 至少 4096~8192 才不会被思考部分撑爆。

✔ 设置:

max_tokens = 8192

✔ 系统指令抑制思考过程(如你不需要):

只输出最终答案,不要输出推理过程。

✔ 代码层支持 finish_reason="length",不要抛异常

相关推荐
qq_321665333 小时前
验证centos 服务器(或其他linux服务器),443或80端口是否开通
linux·服务器·centos
java_logo3 小时前
TOMCAT Docker 容器化部署指南
java·linux·运维·docker·容器·tomcat
whb2341741243 小时前
测试linux删除Oracle文件,使用文件句柄恢复
linux·运维·oracle
令狐少侠20114 小时前
docker启动失败
运维·docker·容器
NKelly4 小时前
neovim等模态编辑器最优雅的输入法解决方案
运维·编辑器·vim·yaml
江公望4 小时前
流媒体,包含哪些技术?Zynq MP方案
linux·服务器
初学小白...5 小时前
JVM入门知识点
java·服务器·jvm
坚定信念,勇往无前5 小时前
基于rsync,局域网内,无需密码互传
服务器·网络·负载均衡
阿巴~阿巴~6 小时前
IPv4地址转换函数详解及C++容器安全删除操作指南
linux·服务器·c++·网络协议·算法·c++容器安全删除操作·ipv4地址转换函数