推理模型

Nicolas8933 天前
大模型·强化学习·千问·r1·推理模型·32b
【大模型实战篇】vllm本地部署阿里最新的QwQ-32B推理模型以及体验3月6日凌晨，阿里巴巴发布并开源全新的推理模型通义千问QwQ-32B。通过大规模强化学习，千问QwQ-32B在数学、代码及通用能力上实现提升。在保持性能的同时，千问QwQ-32B还大幅降低部署使用成本，在消费级显卡上也能实现本地部署。