openpangu - openpangu技术,学习,经验文章

wei_shuo

13 小时前

华为盘古 Ultra-MoE-718B-V1.1 正式开源：Pangu 超大稀疏架构的价值解码与技术剖析华为盘古Ultra-MoE-718B-V1.1的创新开源，独特的稀疏专家架构以仅39亿激活参数实现媲美传统7180亿参数模型的性能，在MMLU、C-Eval等核心基准测试中全面领先，通过快慢思考双模式设计与强化学习闭环训练，将推理能效提升18倍的同时把幻觉率降至3.85%，为开发者提供了一个能够直接部署、兼顾极致性能与部署效率的全新基座模型，大幅降低了前沿大模型技术的应用门槛。