Convolutional Neural Networks

vector derivatives

Backprop with Vector

Jocobian用于输出输入均为向量的时候求导

注意方向问题

例子

如果只改变一个元素x影响y的什么

  • 改变 x1,2x_{1,2}x1,2

  • 只影响 y1,1,y1,2,y1,3,y1,4y_{1,1},y_{1,2},y_{1,3},y_{1,4}y1,1,y1,2,y1,3,y1,4

  • 所以只用 dL/dydL/dydL/dy 第一行回传

影响多少



Convolutional Neural Networks

Fully Connected Layer

Convolution Layer

Filter(卷积核)= 一小块可学习的权重参数

它是一个张量:

filter∈Rk×k×C\text{filter} \in \mathbb{R}^{k \times k \times C}filter∈Rk×k×C

  • k×k:空间大小(比如 3×3、5×5)

  • C:输入通道数

  • 里面全是可训练参数(weight)

Fully Connected Convolution
每个神经元看全图 每个神经元只看局部
参数巨大 参数很少
无空间结构 保留空间结构
无权重共享 权重共享

可视化

convolution(卷积)

  • 有 32 个 5×5 卷积核,一个卷积核是5* 5* 3

  • 每个卷积核都会在整张图上滑动(并行的)

  • 每个卷积核输出 一张特征图

  • 所以得到 32 张 activation maps

卷积的计算过程

步长为3

zero padding(零填充)

保持输出尺寸不变

padding = (F − 1) / 2 可以保持尺寸

计算维度

D:10个核 推出输出是10通道

参数数目

每个 filter 一个 bias

1* 1 filter

×1 卷积不会看空间,只在每个像素位置做通道线性组合,从而改变通道数并提升表达能力

Pooling layer

Pooling 对每张特征图独立做下采样,减小空间尺寸、降低计算量,并增强平移不变性

FC layer

相关推荐
万里侯39 分钟前
日志聚类之后别把 noise 扔掉:降噪应该改变视图,不抹掉证据
人工智能·微服务·ai·容器·k8s
澹锦汐42 分钟前
纯前端秋日银杏与枫叶落叶色板智能聚类器:基于 K-Means 色彩量化与直方图自动配方提取
前端·人工智能·ai·语言模型·vue·react·k-means
7177778 小时前
国内 AI 研发效能工具怎么选:2026 年基于公开信息的选型框架与 Gitee 实践
人工智能·gitee
Csvn9 小时前
换供应商要改一遍代码?把模型接入收进一层网关(C04)
人工智能·aigc·agent
孟健9 小时前
开源AutoClip切直播:1小时48分出19段,整月API只花0.08元
人工智能·开源·aigc
翰墨之道9 小时前
AI日报:豆包工作ARR超20亿,GPT-6.2跑分与实测割裂
人工智能·gpt·数据挖掘
Maynor99610 小时前
Trymodel 使用介绍:一个平台同时用 Claude、GPT、Gemini 和 Grok
人工智能·gpt·ai·程序员·教程·claude·语音
字节跳动视频云技术团队11 小时前
接大模型别再自己配 Key、搭代理了,火山引擎 IGA Pages 一步搞定
人工智能
阿里云大数据AI技术11 小时前
EMR Serverless StarRocks 产品介绍:从统一 OLAP 走向多模态分析与检索
人工智能
Forget the Dream12 小时前
Spring AI 2.0 系列(二):第一个 ChatClient——从注入到一次完整调用
java·人工智能·spring boot·ai·springai