MoE的痛点:离散路由

MoE 模型的核心痛点,硬 Top-K 选择操作不可微分,无法反向传播梯度

路由层计算每个专家的原始得分 h(x)=W_r ✖️ x,再选出得分最高的 K 个专家,但存在三大缺陷:

  • 被选中的专家仅能通过门控权重(选中专家内做 softmax)接收梯度
  • "选哪 K 个专家" 这个离散决策本身梯度为 0
  • 训练死锁风险:某个专家长期没被选中 → 永远接收不到梯度更新 → 永远不会被选中(专家坍缩)

    W_r 专家的打分权重

第一句 - 已被选择专家通过 gate weight(门控权重) (softmax 作用在已选择上面)更新梯度

梯度链式拆解,损失 L 对 W_r 的梯度链式法则(分两部分看,一部分是选中专家h1和h2,另一部分是未选中专家h3和h4):

第二句 - 选择决策本身(选哪k个专家)梯度恒为0

第三句 - 专家恶性循环

相关推荐
问天_观心9 分钟前
模型微调学习(二)
开发语言·人工智能·学习·语言模型·github
dadaobusi18 分钟前
学习:PCIe6.0 RS FEC
学习
_橙时_19 分钟前
【MOEA/D的学习小笔记】
笔记·学习·多目标优化·moea/d
kaixin_learn_qt_ing23 分钟前
QCommandLineParser 学习
学习
minglie11 小时前
幂电枢与幂剩余
学习
优化Henry2 小时前
5G站点AAS-3设备故障排查与处理
运维·学习·5g·信息与通信
andrsted2 小时前
练题簿在线免费刷题:个人备考,从练新题到模拟自测怎么用?
学习·微信小程序·小程序·学习方法·刷题
m0_646429973 小时前
BCrypt 与 JWT 认证流程学习笔记
笔记·学习
apple_692658853 小时前
QX 效率启动器安装包:开源生产力工具,快捷键统一入口Raycast免费开源平替版来啦
学习·开源·办公
一直C3 小时前
嵌入式 Linux 驱动开发学习笔记:中断、等待队列与工作队列
linux·驱动开发·嵌入式硬件·学习·imx6ull