混合专家系统里根本没专家?开源MoE模型论文引网友热议

实验发现专家分配与话题无关

克雷西 发自 凹非寺 量子位 | 公众号 QbitAI

红极一时的开源MoE模型Mixtral,论文终于新鲜出炉!

除了披露了更多技术细节,论文中还有一个结论引发了热烈讨论------

研究人员本想研究Mixtral是怎么根据话题分配专家的,结果发现专家的分配......和话题好像没什么关系。

而在大多数人的印象中,Mixtral里的8个专家,是分别负责处理不同领域的话题的......

论文的结论曝光后,不少网友开始认为"专家混合"这个说法,可能不那么贴切了:

于是,针对Mixtral真实的工作机制,有网友给出了这样的比喻:

所以,比起"专家的组合",这样的工作方式更像是一种硬盘阵列或者负载均衡?

但也有网友表示了不同意见:

这个问题并不根属于MoE,因为自己之前见过的MoE模型中,是发现了真·专家分工的现象的。

那么,这究竟是怎么一回事呢?

实验未发现专家按领域分布

在训练过程中,作者观察了Mixtral中是否有一些专家会针对某些特定领域进行专门化。

具体来说,作者计算了第0、15、31层在The Pile验证集的不同子集(包含不同领域的文档)上被选中的专家分布。

这些子集包括LaTeX格式的arXiv论文、生物学论文(PubMed摘要)、哲学论文(PhilPapers)和GitHub代码等。

结果发现,对这几个层而言,除了数学领域(DM Mathematics)数据集的专家选择略有不同外,其余数据集的专家分布都非常类似,并没有体现出领域间有什么差别。

而在数学问题上出现不同表现的原因,可能是由于其具有相对特殊的语法结构,进一步的探究也证实了这一想法。

他们发现,专家选择会被句子的语法结构所影响,一些语法关键词,比如英语中的"Question"或者代码中的"self",被分配到相同的专家的概率非常大。

此外,定量的分析结果还发现了另一个专家分配规律------相邻的token有很大概率被分配给同一专家。

作者比较了模型针对相邻token选择相同专家的概率,包括第一选择 一致率和第一二选择一致率。

第一二选择一致是指,模型针对两个token分别做出的第一和第二选择,只要存在交集即视为一致。

(比如第一个token的第一、二专家为分别为甲、乙,第二个token的第一、二专家分别为乙、丙,因为都包含了乙,就是一种第一二选择一致的情况)

因Mixtral中有8个专家,因此在全随机的选择方式下,第一选择一致率应为12.5%(1/8),第一二选择一致率应为1 -- (6/8) × (5/7),约为46%。

但实际测试发现,Mixtral第一和第一二选择一致率高于随机情况,特别是中间的第15层,说明了模型在专家选择上是具有倾向性的。

论文地址:
arxiv.org/abs/2401.04...

相关推荐
谢嘉伟3 分钟前
SuperClaude Framework 使用指南
人工智能
柴 基4 分钟前
PyTorch 使用指南
人工智能·pytorch·python
神经星星13 分钟前
估值准确率超99%!基于YOLOv11的陶瓷分类智能框架融合视觉建模与经济分析,实现文物分类及价值估测
人工智能·机器学习·开源
阿里云大数据AI技术29 分钟前
[VLDB 2025]面向云计算平台的多模态慢查询根因排序
大数据·数据库·人工智能
007tg33 分钟前
007TG洞察:GPT-5前瞻与AI时代竞争力构建:技术挑战与落地路径
人工智能·gpt·机器学习
nassi_33 分钟前
GPT Agent与Comet AI Aent浏览器对比横评
人工智能·gpt
不叫猫先生1 小时前
零基础部署网站?使用天翼云服务搭建语音听写应用系统
人工智能·语音识别·云服务器
Blossom.1181 小时前
基于深度学习的图像分类:使用ShuffleNet实现高效分类
人工智能·python·深度学习·目标检测·机器学习·分类·数据挖掘
徐礼昭|商派软件市场负责人1 小时前
数智驱动的「库存管理」:从风险系数、ABC分类到OMS和ERP系统的协同优化策略
大数据·人工智能·分类
AI视觉网奇1 小时前
语音识别指标计算 WER
人工智能·语音识别