Qwen3-32B报错Invalid json output:{“type“: “1“}For troubleshooting, visit

vllm版本0.9.1

启动大模型没有添加--reasoning-parser qwen3参数

完整启动命令参考:

vllm serve /大模型路径/Qwen3-32B \

--served-model-name Qwen3-32B \

--host 0.0.0.0 \

--port 8001 \

--dtype float16 \

--tensor-parallel-size 1 \

--max-model-len 32768 \

--reasoning-parser qwen3 \

--enable-auto-tool-choice \

--tool-call-parser hermes

相关推荐
狂师1 小时前
AI Agent 评测:到底要测什么、新手怎么测?(附完整流程)
人工智能·llm·测试
lucas_AI1 小时前
不训扩散模型也能生成文本?BERT 本来就是半个去噪生成器,加个外置解码器就够
llm
lucas_AI1 小时前
单集群一天吐 155 万亿 token 的引擎开源了:DeepSeek 放出生产级推理框架 DeepInfer
llm
lucas_AI1 小时前
证不动的引理别再死拆了:Maestro 给 Lean 证明装上「总指挥」,研究级定理多证 63%
人工智能·llm
虎鲸不是鱼12 小时前
【虎鲸进化论 30】安全护栏:人类闸门、审计与爆炸半径
人工智能·自动化·大模型·llm·自进化agent
福兮说12 小时前
JSON 格式正确,数据就可靠吗?我用一份自编配置检查类型与空值
java·前端·json
方方洛14 小时前
ai-agent教程-18-附录E-推荐阅读与资源
人工智能·llm·agent
blackappleD15 小时前
DeepSeek 开源推理框架 DeepInfer:KVCache 存三天、投机解码少验 30% 是怎么做到的
llm·deepseek
用户97885870195015 小时前
本地 Agent 十次里有两次工具调用失败,原因是它吐出的 JSON 少了个括号——格式校验与有限重试我这样加
llm·agent