技术栈
公式解析
沉默媛
3 天前
人工智能
·
深度学习
·
公式解析
块三角掩码(Block-Triangular Masking)
在视频或时序数据(如帧序列)处理中,块三角掩码(Block-Triangular Masking) 是一种通过限制注意力机制的可视范围来强制实现 因果性(Causality) 的方法。其核心思想是:当前帧的查询(Query)只能关注到当前帧及之前帧的键(Key)和值(Value),而不能看到未来帧的信息。以下是具体实现原理和步骤的详细解释: