根号d

面试常问系列(二)-神经网络参数初始化之自注意力机制目录（一）、transformer中的自注意力机制为什么要除以根号d？1. 点积的方差问题2. 缩放的作用