
当卷积的步长就是块大小的时候,卷积就是全连接。
卷积和全连接的区别,卷积就是全连接。左上的三个白块是原始图像,红色的是卷积核。
将每个白块拉成长条,就是下面的,可以看到连线的w1代替了红色的卷积,也就是说卷积就是全连接。
而卷积移动时其实是全连接不停的换输入数据,这就可以解释为啥vit可以用卷积操作代替全连接,卷积核的输出维度,其实就是全连接的神经元的个数。

当卷积的步长就是块大小的时候,卷积就是全连接。
卷积和全连接的区别,卷积就是全连接。左上的三个白块是原始图像,红色的是卷积核。
将每个白块拉成长条,就是下面的,可以看到连线的w1代替了红色的卷积,也就是说卷积就是全连接。
而卷积移动时其实是全连接不停的换输入数据,这就可以解释为啥vit可以用卷积操作代替全连接,卷积核的输出维度,其实就是全连接的神经元的个数。