关于VIT为啥可以用卷积代替第一层嵌入层

当卷积的步长就是块大小的时候,卷积就是全连接。

卷积和全连接的区别,卷积就是全连接。左上的三个白块是原始图像,红色的是卷积核。

将每个白块拉成长条,就是下面的,可以看到连线的w1代替了红色的卷积,也就是说卷积就是全连接。

而卷积移动时其实是全连接不停的换输入数据,这就可以解释为啥vit可以用卷积操作代替全连接,卷积核的输出维度,其实就是全连接的神经元的个数。

相关推荐
CTA量化套保6 分钟前
新手学量化,先做能复查的小流程
人工智能·python
狂奔蜗牛(bradley)11 分钟前
RKNN Toolkit2开发环境搭建实操
人工智能
weixin_4462608534 分钟前
AutoDesign:面向长时序智能体设计的元调度优化框架
人工智能
Rocktech_ruixun41 分钟前
机器人端侧大模型部署对主板有哪些要求?瑞迅主控板分级方案对比
人工智能·嵌入式硬件·机器人
ZGi.ai42 分钟前
多模型回答不稳定:路由规则与评测方法
网络·人工智能·大模型评测·多模型·模型路由·zgi·模型网关
dogstarhuang43 分钟前
大模型 API 停服怎么办:用 API 网关实现多模型统一接入与可切换架构
人工智能·后端·架构·大模型·api·数字化转型·ai应用
紫禁玄科1 小时前
MCP协议安全深度剖析:AI Agent时代的隐形攻击面
人工智能
明航咨询_贾老师1 小时前
CISP-AISE知识体系大纲深度解读:6大模块,国内首个AI安全应用官方认证
人工智能·安全
weixin_397574091 小时前
当AI的思考过程第一次被看见
人工智能
北风toto1 小时前
从提示词到工程化:大模型时代的AI工程实战指南
人工智能