技术栈

Qwen3-32B报错Invalid json output:{“type“: “1“}For troubleshooting, visit

bloglin999992026-02-08 10:36

vllm版本0.9.1

启动大模型没有添加--reasoning-parser qwen3参数

完整启动命令参考:

vllm serve /[大模型路径]/Qwen3-32B \

--served-model-name Qwen3-32B \

--host 0.0.0.0 \

--port 8001 \

--dtype float16 \

--tensor-parallel-size 1 \

--max-model-len 32768 \

--reasoning-parser qwen3 \

--enable-auto-tool-choice \

--tool-call-parser hermes

上一篇:【huawei】机考整理
下一篇:linux之信号量
相关推荐
学术阿凡提
1 小时前
Spring Boot 集成 Fastjson2 完整教程:从入门到避坑
spring boot·安全·json
LIUAWEIO
1 小时前
鸽鸽工具网:免费在线工具大全,打开网页即用
人工智能·安全·ai·json
Flynt
2 小时前
在K8s上部署vLLM的完整踩坑记录
llm
赵康
3 小时前
智人曾经这样灭绝猛犸象:AI入侵与行业灭绝
ai·llm
abigale03
4 小时前
LangChain:自定义模型・RAG 检索・Agent 原理笔记
langchain·llm·prompt·agent·rag·lcel
alwaysrun
6 小时前
LLM发展历程与自注意力简介
人工智能·llm
GoAI
6 小时前
《深入浅出Agent》:项目深度解析Autoresearch
人工智能·深度学习·大模型·llm·agent
半天法师
7 小时前
Bug 记录:UE 结构体转 JSON 时 Key 字段大小写异常 (Editor 与打包后表现不一致)
ai·ue5·json·bug
热门推荐
01GitHub 镜像站点022026年4月AI大事件深度解读:大模型竞争进入“深水区“03Codex 接入 DeepSeek API 完整配置文档04近期有什么ai的新消息,新动态? 2026.4月05【AI】2026 年具身智能模型和世界模型总结062026年AI编程工具终极横评:Cursor vs Claude Code vs Copilot07实测可用|小米 MiMo 百万亿 Token 免费领,开发者速冲08在Windows 11上安装Docker的踩坑记录09裂开!ChatGPT 居然开始要手机号验证,附详细解决方法10零基础教你claude code 接入 deepseek V4