什么是注意力机制?
什么是加性注意力?
大致说一下流程:
对于一张特征图来说,对于这张图中的每一个像素向量(例如a),计算该向量与所有像素向量的相似度,对这些相似度进行激活函数处理得到注意力得分。对注意力得分进行归一化得到a向量对所有像素向量的注意力权重,然后a向量对每一个像素向量的注意力权重与对应的值向量(有可能是对应的像素向量)相乘并求和,得到最终的更新特征。
什么是注意力机制?
什么是加性注意力?
大致说一下流程:
对于一张特征图来说,对于这张图中的每一个像素向量(例如a),计算该向量与所有像素向量的相似度,对这些相似度进行激活函数处理得到注意力得分。对注意力得分进行归一化得到a向量对所有像素向量的注意力权重,然后a向量对每一个像素向量的注意力权重与对应的值向量(有可能是对应的像素向量)相乘并求和,得到最终的更新特征。