Qwen3-32B报错Invalid json output:{“type“: “1“}For troubleshooting, visit

vllm版本0.9.1

启动大模型没有添加--reasoning-parser qwen3参数

完整启动命令参考:

vllm serve /大模型路径/Qwen3-32B \

--served-model-name Qwen3-32B \

--host 0.0.0.0 \

--port 8001 \

--dtype float16 \

--tensor-parallel-size 1 \

--max-model-len 32768 \

--reasoning-parser qwen3 \

--enable-auto-tool-choice \

--tool-call-parser hermes

相关推荐
泯泷18 小时前
像项目经理一样指挥 AI 团队:管理者模式
人工智能·llm·agent
xbzb21 小时前
镜像到底存在哪:/var/lib/docker 的四级映射与 daemon.json 配置
docker·容器·json·镜像·daemon.json·四级
DigitalOcean1 天前
Kimi K3.1 Pro 现已上线 DigitalOcean 无服务器推理
llm
泯泷1 天前
AI 最坑的失败:不是不会做,而是"假装做完了"
人工智能·llm·agent
mantou1321 天前
只用 Cloudflare 全家桶,给游戏站做一个 RAG 搜索和问答
人工智能·llm
坤坤子吖1 天前
Linux网络编程:自定义应用层协议与 JSON 序列化
linux·服务器·网络·c++·笔记·json
泯泷1 天前
大模型会吃掉 Harness 吗?Agent 天空上的“两朵乌云”
人工智能·llm·agent
泯泷2 天前
一个小改动,让 Claude 在 SWE-bench 上刷新纪录:工具描述有多重要
llm·agent·claude
code2cat2 天前
【随笔】结构化输出:JSON格式过关,业务数据就能入库吗
json·大语言模型
泯泷2 天前
模型越聪明越健忘?“上下文腐烂”背后的 3 个解法
人工智能·llm·agent