关于VIT为啥可以用卷积代替第一层嵌入层

当卷积的步长就是块大小的时候,卷积就是全连接。

卷积和全连接的区别,卷积就是全连接。左上的三个白块是原始图像,红色的是卷积核。

将每个白块拉成长条,就是下面的,可以看到连线的w1代替了红色的卷积,也就是说卷积就是全连接。

而卷积移动时其实是全连接不停的换输入数据,这就可以解释为啥vit可以用卷积操作代替全连接,卷积核的输出维度,其实就是全连接的神经元的个数。

相关推荐
1892280486121 小时前
NV086固态MT29F16T08EWLCHD8-TES:C
大数据·服务器·人工智能·科技·缓存
古月开发21 小时前
本地化 AI 论文查重与润色工具部署指南
人工智能·自动化
多年小白21 小时前
【周末消息复盘】2026年6月5日-7日——纳指暴跌1100点,明日A股如何开盘
人工智能·科技股
Sirius Wu21 小时前
Agent Skill能力建设
人工智能·深度学习·机器学习·ai·语言模型·aigc
腾讯云开发者21 小时前
从Agent浪潮到组织变革,共探OpenClaw 时代的安全边界与企业进化
人工智能
弱冠少年21 小时前
anthropics skill-creator入门
人工智能
攻城狮7号21 小时前
ChatGPT 全新 Dreaming 记忆系统详解
人工智能·chatgpt·dreaming 记忆系统·dreaming v3
m0_571186601 天前
第四十九周周报
人工智能
腾讯云开发者1 天前
从低谷到暴增 312.8%,增长背后的算法革命|专访中顺洁柔杨森林
人工智能
千云1 天前
ClaudeCode Skill生成教学培训文档,助力新人快速学习项目
人工智能·后端·ai编程