Qwen3-32B报错Invalid json output:{“type“: “1“}For troubleshooting, visit

vllm版本0.9.1

启动大模型没有添加--reasoning-parser qwen3参数

完整启动命令参考:

vllm serve /大模型路径/Qwen3-32B \

--served-model-name Qwen3-32B \

--host 0.0.0.0 \

--port 8001 \

--dtype float16 \

--tensor-parallel-size 1 \

--max-model-len 32768 \

--reasoning-parser qwen3 \

--enable-auto-tool-choice \

--tool-call-parser hermes

相关推荐
桦说编程9 分钟前
炮轰SDD:Spec驱动开发为何不适合绝大多数项目
llm·ai编程·代码规范
我是大卫2 小时前
【图】一图理解LLM、LangChain、RAG、AI Agent、MCP、token、context、prompt、tool概念
langchain·llm·agent
吴佳浩3 小时前
AI 核心技术解析|OPD:大模型开始复制的不再是知识,而是判断力
人工智能·深度学习·llm
就是一顿骚操作4 小时前
Agent Loop 入门到深入:从 ReAct 到 LangGraph、Agents SDK 与 MCP
人工智能·大模型·llm·论文解读·ai agent
AndrewHZ5 小时前
【LLM技术全景】多模态大模型:当语言模型学会“看“和“听“
人工智能·gpt·深度学习·语言模型·自然语言处理·llm·多模态
CodexDave7 小时前
Python 自动化接单实战(一):把 CSV 需求做成配置驱动解析器
java·python·自动化·json·数据清洗·python自动化·csv处理
玉鸯9 小时前
RAG 全链路调优指南:从 Chunking 到 Reranker
python·llm·agent
贵慜_Derek9 小时前
vLLM-05|MLA、Compressor、Indexer 与 SWA:Flash 注意力栈在 vLLM 里怎么落地
人工智能·算法·llm
Revolution6110 小时前
长命令运行时,Agent 怎样继续处理其他工作
人工智能·llm·claude