作用：提取特征，把平平无奇的特征，输出为有特点的特征。
考虑全文，更新权重，添加语义信息
整体框架
注意力机制
利用权重更新特征
除以根号dk，消除特征维度对结果的影响
transformer要加位置编码
位置编码
相关推荐
风静如云11 分钟前
Claude Code：进入dash模式TM1Club18 分钟前
AI驱动的预测：新的竞争优势陈天伟教授21 分钟前
人工智能应用-机器听觉：15. 声纹识别的应用zhang1338308907521 分钟前
CG-09H 超声波风速风向传感器 加热型 ABS材质 重量轻 没有机械部件板面华仔44 分钟前
机器学习入门（三）——决策树（Decision Tree）GAOJ_K1 小时前
滚珠花键的无预压、间隙调整与过盈配合“场景适配型”ai_xiaogui1 小时前
【开源探索】Panelai：重新定义AI服务器管理面板，助力团队私有化算力部署与模型运维源于花海1 小时前
迁移学习的前沿知识（AI与人类经验结合、传递式、终身、在线、强化、可解释性等）机 ＿ 长1 小时前
YOLO26 改进 | 基于特征蒸馏 | 知识蒸馏 (Response & Feature-based Distillation)