关于VIT为啥可以用卷积代替第一层嵌入层

当卷积的步长就是块大小的时候,卷积就是全连接。

卷积和全连接的区别,卷积就是全连接。左上的三个白块是原始图像,红色的是卷积核。

将每个白块拉成长条,就是下面的,可以看到连线的w1代替了红色的卷积,也就是说卷积就是全连接。

而卷积移动时其实是全连接不停的换输入数据,这就可以解释为啥vit可以用卷积操作代替全连接,卷积核的输出维度,其实就是全连接的神经元的个数。

相关推荐
小康小小涵2 小时前
改进型深度Q-网格DQN和蒙特卡洛树搜索MCTS以及模型预测控制MPC强化学习的机器人室内导航仿真
人工智能·机器人·自动驾驶
PNP机器人2 小时前
突破机器人操作瓶颈!接触感知神经动力学,让仿真与现实无缝对齐
人工智能·机器人
美狐美颜sdk2 小时前
直播美颜sdk与智能美妆技术解析:实时人脸算法如何驱动新一代互动体验
人工智能·音视频·美颜sdk·视频美颜sdk·美狐美颜sdk
hit56实验室2 小时前
【易经系列】《屯卦》:six four:乘马班如,求婚媾,往吉,无不利
人工智能
阿杰学AI2 小时前
AI核心知识80——大语言模型之Slow Thinking和Deep Reasoning(简洁且通俗易懂版)
人工智能·ai·语言模型·自然语言处理·aigc·慢思考·深度推理
qq_12498707532 小时前
基于协同过滤算法的运动场馆服务平台设计与实现(源码+论文+部署+安装)
java·大数据·数据库·人工智能·spring boot·毕业设计·计算机毕业设计
hit56实验室2 小时前
【易经系列】《屯卦》上六:乘马班如,泣血涟如。
人工智能
田里的水稻2 小时前
FA_拟合和插值(FI)-逼近样条03(准均匀B样条的计算)
人工智能·数学建模·机器人·自动驾驶