技术栈
编码器解码器
胡牧之.
4 个月前
深度学习
·
transformer
·
入门
·
编码器解码器
Transformer总结(二):架构介绍(从seq2seq谈到Transformer架构)
在Transformer总结(一)中介绍了基础的注意力机制,接下来将结合具体的任务场景,介绍Transformer的整体架构,并简单探讨一下相应原理。其中涉及到的组件将在Transformer总结(三)中详细说明。
汀、人工智能
7 个月前
人工智能
·
深度学习
·
自然语言处理
·
llm
·
transformer
·
编码器解码器
·
attention机制
深度解析:从概念到变革——Transformer大模型的前世今生以及大模型预备知识讲解[知存科技]
知存科技是全球领先的存内计算芯片企业。针对AI应用场景,在全球率先商业化量产基于存内计算技术的神经网络芯片。凭借颠覆性的技术创新,知存科技突破传统计算架构局限,利用存储与计算的物理融合大幅减少数据搬运,在相同工艺条件下将AI计算效率提升2个数量级,充分满足快速发展的神经网络模型指数级增长的算力需求。
jieHeEternity
1 年前
人工智能
·
机器学习
·
对比学习
·
数据增广
·
编码器解码器
一文解释对比学习
对比学习是一种无监督学习技术,其核心思想是通过比较不同样本之间的相似性和差异性来学习数据的表示(features)。它不依赖于标签数据,而是通过样本之间的相互关系,使得模型能够学习到有意义的特征表示。