作用：提取特征，把平平无奇的特征，输出为有特点的特征。
考虑全文，更新权重，添加语义信息
整体框架
注意力机制
利用权重更新特征
除以根号dk，消除特征维度对结果的影响
transformer要加位置编码
位置编码
相关推荐
JonaHu29 分钟前
5分钟搭建帮你赚钱的 AI API 网站：从品牌门户到客户 Key 交付Csvn44 分钟前
模型挂了全站 502？降级链让它先保住“有响应”（R04）isNotNullX1 小时前
仓储管理最全框架：6大流程、8项指标、10个管理动作、12个常见问题小白菜002 小时前
AI的理解科技苑2 小时前
C++ CAS与ABA问题详解，无锁编程的经典陷阱怎么解决？DFT计算杂谈2 小时前
可DIY布里渊区图像绘制编辑器国科安芯3 小时前
把接口变成观测量：CANFD收发器状态可观测性驱动的星上故障检测隔离与恢复方法7177773 小时前
企业研发平台选型指南：从代码托管到全流程研发管理的判断框架泯泷3 小时前
模型越聪明越健忘？“上下文腐烂”背后的 3 个解法