技术栈
bert预训练
weixin_44021329
3 小时前
深度学习
·
自然语言处理
·
掩码
·
bert预训练
BERT预训练原理详解：MLM掩码预测 + NSP句子预测
很多初学者只知道 BERT 是双向预训练模型，但完全搞不懂：BERT 的权重是怎么从零训练出来的？MLM 掩码预测到底在做什么？
我是有底线的