阿里今天发布了 Qwen 家族的最新成员:Qwen2.5 ,包括语言模型 Qwen2.5 ,以及专门针对编程的 Qwen2.5-Coder 和数学的 Qwen2.5-Math模型。
所有开放权重的模型都是稠密的、decoder-only 的语言模型,提供多种不同规模的版本,包括:
- Qwen2.5: 0.5B, 1.5B, 3B, 7B, 14B, 32B, 以及 72B;
- Qwen2.5-Coder: 1.5B, 7B, 以及即将推出的 32B;
- Qwen2.5-Math: 1.5B, 7B, 以及 72B。
除了 3B 和 72B 的版本外,所有的开源模型都采用了 Apache 2.0 License。
Qwen2.5 主要升级内容
- Qwen2.5 获得了显著更多的知识,在编程能力和数学能力有大幅提升。
- 在指令执行、生成长文本、理解结构化数据以及生成结构化输出方面有显著改进。
- 对各种 system prompt 更具适应性,增强了角色扮演实现和聊天机器人的条件设置功能。
- Qwen2.5-Coder 使即使较小的编程专用模型也能在编程评估基准测试中表现出媲美大型语言模型的竞争力。
- Qwen2.5-Math 支持 中文 和 英文,并整合了多种推理方法,包括 CoT、PoT 和 TIR