Qwen3-32B报错Invalid json output:{“type“: “1“}For troubleshooting, visit

vllm版本0.9.1

启动大模型没有添加--reasoning-parser qwen3参数

完整启动命令参考:

vllm serve /[大模型路径]/Qwen3-32B \

--served-model-name Qwen3-32B \

--host 0.0.0.0 \

--port 8001 \

--dtype float16 \

--tensor-parallel-size 1 \

--max-model-len 32768 \

--reasoning-parser qwen3 \

--enable-auto-tool-choice \

--tool-call-parser hermes

相关推荐
Trouvaille ~2 小时前
【Linux】应用层协议设计实战(二):Jsoncpp序列化与完整实现
linux·运维·服务器·网络·c++·json·应用层
七牛云行业应用4 小时前
1M上下文腐烂?实测Opus 4.6 vs GPT-5.3及MoA降本架构源码
人工智能·python·llm·架构设计·gpt-5·claude-opus
蛇皮划水怪10 小时前
深入浅出LangChain4J
java·langchain·llm
剩下了什么11 小时前
MySQL JSON_SET() 函数
数据库·mysql·json
梦帮科技17 小时前
Node.js配置生成器CLI工具开发实战
前端·人工智能·windows·前端框架·node.js·json
数据知道1 天前
PostgreSQL实战:详解如何用Python优雅地从PG中存取处理JSON
python·postgresql·json
组合缺一1 天前
Solon AI (Java) v3.9 正式发布:全能 Skill 爆发,Agent 协作更专业!仍然支持 java8!
java·人工智能·ai·llm·agent·solon·mcp
缘空如是2 天前
基础工具包之JSON 工厂类
java·json·json切换
ASS-ASH2 天前
AI时代之向量数据库概览
数据库·人工智能·python·llm·embedding·向量数据库·vlm