技术栈
32b
Nicolas893
3 个月前
大模型
·
强化学习
·
千问
·
r1
·
推理模型
·
32b
【大模型实战篇】vllm本地部署阿里最新的QwQ-32B推理模型以及体验
3月6日凌晨，阿里巴巴发布并开源全新的推理模型通义千问QwQ-32B。通过大规模强化学习，千问QwQ-32B在数学、代码及通用能力上实现提升。在保持性能的同时，千问QwQ-32B还大幅降低部署使用成本，在消费级显卡上也能实现本地部署。