作用：提取特征，把平平无奇的特征，输出为有特点的特征。
考虑全文，更新权重，添加语义信息
整体框架
注意力机制
利用权重更新特征
除以根号dk，消除特征维度对结果的影响
transformer要加位置编码
位置编码
相关推荐
机器懒得学习7 分钟前
基于YOLOv5的智能水域监测系统：从目标检测到自动报告生成QQ同步助手22 分钟前
如何正确使用人工智能：开启智慧学习与创新之旅AIGC大时代25 分钟前
如何使用ChatGPT辅助文献综述，以及如何进行优化？一篇说清楚流浪的小新29 分钟前
【AI】人工智能、LLM学习资源汇总martian6651 小时前
【人工智能数学基础篇】——深入详解多变量微积分：在机器学习模型中优化损失函数时应用人机与认知实验室2 小时前
人、机、环境中各有其神经网络系统黑色叉腰丶大魔王2 小时前
基于 MATLAB 的图像增强技术分享迅易科技5 小时前
借助腾讯云质检平台的新范式，做工业制造企业质检的“AI慧眼”古希腊掌管学习的神6 小时前
[机器学习]XGBoost（3）——确定树的结构ZHOU_WUYI7 小时前
4.metagpt中的软件公司智能体 (ProjectManager 角色)