Qwen3-32B报错Invalid json output:{“type“: “1“}For troubleshooting, visit

vllm版本0.9.1

启动大模型没有添加--reasoning-parser qwen3参数

完整启动命令参考:

vllm serve /大模型路径/Qwen3-32B \

--served-model-name Qwen3-32B \

--host 0.0.0.0 \

--port 8001 \

--dtype float16 \

--tensor-parallel-size 1 \

--max-model-len 32768 \

--reasoning-parser qwen3 \

--enable-auto-tool-choice \

--tool-call-parser hermes

相关推荐
魔术师Grace3 小时前
大模型到底怎么分类?从“聊天模型”走到 Agent 模型选型
llm·agent
京东云开发者5 小时前
让AI真正参与工作!JoyDesk已上线京东云
llm·agent
XLYcmy6 小时前
小红书 算法一面 七
llm·transformer·encoder·decoder·自注意力·deepseek·深度思考
程序猿DD7 小时前
OctaFuse Gateway 2.6.0:完善 Vertex AI 鉴权、图片计费与日常调试
llm·agent
XLYcmy8 小时前
小红书 算法一面 八
深度学习·llm·sgd·adam·deepseek·mla·adamw
用户4585620682310 小时前
DeepSeek-Harness部署踩坑
llm
leeyi11 小时前
Langfuse 接入:给 Agent 加“行车记录仪“(第88篇-E74)
llm·aigc·agent
今日无bug11 小时前
Tool Use 工具调用 —— 让LLM缸中大脑突破物理限制的3个阶段
node.js·llm·agent
众人皆醒我独醉11 小时前
MLOps 流水线:从训练到推理的 CI/CD
面试·llm·gpu
shepherd11112 小时前
国产模型越来越强了:DeepSeek V4、Kimi K3 与 GLM 最新进展
人工智能·llm·ai编程