深度学习中“Transformer”怎么翻译为中文?

从功能来看,我觉得翻译成"归积"比较合适,与"卷积"对应

其中"归"指的是"归一化操作",例如LayerNorm、RMSNorm、GroupNorm,虽然最新有论文Transformers without Normalization,但这篇论文引入的DyT操作可以看成是一种简化的归一化操作;另外"归"还有一层含义是"归纳",而以Transformer为基础的大语言模型擅长对信息进行"归纳"

"积"类似"卷积"里的"积",泛指加权求和操作。Multi-Head Attention和FFN都可以看成是一种加权求和操作,前者作用于Time维度,后者作用于Channel维度。同时"积"还可以理解成积分,Transformer Decoder有点像t维度上的积分操作

相关推荐
甲维斯1 分钟前
OpenCode问题,让Kimi K3 也测一波吧!
人工智能
sanjiaomao3333 分钟前
从输入到校验:设计一个可复核的论文写作任务工作流
人工智能
阿甘编程点滴10 分钟前
AI配音软件技术评测|底层架构与功能能力对比
人工智能·架构
liuyunshengsir16 分钟前
在海光 DCU 上部署 Wan2.1:打造一套可落地的 AI 短剧生产流水线
人工智能·大模型·dcu
传说故事17 分钟前
【多篇论文阅读】Interactive World Models
论文阅读·人工智能·生成模型
2601_9640098320 分钟前
商业活动全案策划维度:苏州实体企业与政企单位的选择侧重点
人工智能·润博企业营销策划
用户3028225306821 分钟前
Agent 慢一点没关系?错,尾延迟会把一次工作变成两次事故
人工智能
一次旅行22 分钟前
2026‑08‑25 AI产业深度解读|Groq 3量产、MetaRoCE开源、CopilotOS曝光、大模型安全监管升级
人工智能·开源
AI导出鸭25 分钟前
ChatGPT的LaTeX生成PDF文件复制后数学公式乱码,怎样修改?苹果用户的底层逻辑与优雅解法
人工智能·chatgpt·pdf·ai导出鸭
故七月28 分钟前
基于FAQ结构化开发的区域GEO排名提升技术方案——以四川成都服务商万域智瞰场景为例
大数据·人工智能