Transformer - model architecture
flyfish
Transformer总体架构可分为四个部分:
输⼊部分
输出部分
编码器部分
解码器部分
输入部分
输出部分
输⼊部分包含:
源嵌⼊层和位置编码
⽬标嵌⼊层和位置编码
输出部分包含:
线性层
softmax处理器
左侧编码器部分和右侧解码器部分
编码器部分:
由N个编码器层堆叠⽽成
每个编码器层由两个⼦层连接结构组成
解码器部分:
由N个解码器层堆叠⽽成
每个解码器层由三个⼦层连接结构组成
Transformer - model architecture
西西弗Sisyphus2024-04-09 16:47
相关推荐
小鸡吃米…20 分钟前
机器学习 - K - 中心聚类好奇龙猫1 小时前
【AI学习-comfyUI学习-第三十节-第三十一节-FLUX-SD放大工作流+FLUX图生图工作流-各个部分学习】沈浩（种子思维作者）1 小时前
真的能精准医疗吗？癌症能提前发现吗？minhuan1 小时前
大模型应用：大模型越大越好？模型参数量与效果的边际效益分析.51Cherry的跨界思维1 小时前
28、AI测试环境搭建与全栈工具实战：从本地到云平台的完整指南MM_MS1 小时前
Halcon变量控制类型、数据类型转换、字符串格式化、元组操作ASF1231415sd1 小时前
【基于YOLOv10n-CSP-PTB的大豆花朵检测与识别系统详解】水如烟2 小时前
孤能子视角:“意识“的阶段性回顾，“感质“假说Carl_奕然2 小时前
【数据挖掘】数据挖掘必会技能之：A/B测试旅途中的宽~2 小时前
《European Radiology》：2024血管瘤分割—基于MRI T1序列的分割算法