DL Homework 8

目录

[习题5-2 证明宽卷积具有交换性, 即公式(5.13).](#习题5-2 证明宽卷积具有交换性, 即公式(5.13).)

[习题5-4 对于一个输入为100 × 100 × 256的特征映射组, 使用3 × 3的卷积核, 输出为100 × 100 × 256的特征映射组的卷积层, 求其时间和空间复杂度. 如果引入一个1 × 1卷积核, 先得到100 × 100 × 64的特征映射, 再进行3 × 3的卷积, 得到100 × 100 × 256的特征映射组, 求其时间和空间复杂度.](#习题5-4 对于一个输入为100 × 100 × 256的特征映射组, 使用3 × 3的卷积核, 输出为100 × 100 × 256的特征映射组的卷积层, 求其时间和空间复杂度. 如果引入一个1 × 1卷积核, 先得到100 × 100 × 64的特征映射, 再进行3 × 3的卷积, 得到100 × 100 × 256的特征映射组, 求其时间和空间复杂度.)

[习题5-5 对于一个二维卷积, 输入为3 × 3, 卷积核大小为2 × 2, 试将卷积操作重写为仿射变换的形式. 参见公式(5.45) .](#习题5-5 对于一个二维卷积, 输入为3 × 3, 卷积核大小为2 × 2, 试将卷积操作重写为仿射变换的形式. 参见公式(5.45) .)

​编辑

[习题5-7 忽略激活函数,分析卷积网络中卷积层的前向计算和反向传播是一种转置关系](#习题5-7 忽略激活函数,分析卷积网络中卷积层的前向计算和反向传播是一种转置关系)

[习题5-8 在空洞卷积中, 当卷积核大小为𝐾, 膨胀率为𝐷时, 如何设置零填充𝑃的值以使得卷积为等宽卷积 .](#习题5-8 在空洞卷积中, 当卷积核大小为𝐾, 膨胀率为𝐷时, 如何设置零填充𝑃的值以使得卷积为等宽卷积 .)


习题5-2 证明宽卷积具有交换性, 即公式(5.13).

给定图像和卷积核对图像X进行零填充,两端各补 个零,得到全填充图像

图像X和卷积核W的宽卷积定义为

图像X和卷积核W有固定长度时,它们的宽卷积具有交换性:
rot180()表示旋转180度

交换性证明:

同时推导一下,我们发现:

所以我们从证明变成证明即可

由此可见,交换性成立!照片感觉在这里展示不太好看,但是毕竟弄了大半天的东西。把照片源文件放进来可以自行下载观看

习题5-4 对于一个输入为100 × 100 × 256的特征映射组, 使用3 × 3的卷积核, 输出为100 × 100 × 256的特征映射组的卷积层, 求其时间和空间复杂度. 如果引入一个1 × 1卷积核, 先得到100 × 100 × 64的特征映射, 再进行3 × 3的卷积, 得到100 × 100 × 256的特征映射组, 求其时间和空间复杂度.

时间复杂度:因为映射后的图像的每一个像素都是经过卷积计算而来的,由这个想法开始,我们首先计算最后输出的图像像素点个数为个,并且卷积核大小为,卷积核组是由256个卷积核构成的,所以每个像素点需要经过次乘法运算(这里时间复杂度同代码,所以不考虑加法的效率)所以最好一共需要的时间效率为

空间复杂度为,因为这里考虑的都为代码过程的时间空间复杂度.

同理可以很容易求得另一组的答案如下:

时间复杂度:

空间复杂度:

习题5-5 对于一个二维卷积, 输入为3 × 3, 卷积核大小为2 × 2, 试将卷积操作重写为仿射变换的形式. 参见公式(5.45) .

关于这个问题之前的博客就提到过一些,但哪个时候就比较随性(不是好的习惯)了解的还不够透彻,经过老师上课的讲解对展开放射变化了解更为深刻了,首先引用鱼书中这一部分的讲解

鱼书很明确的指出了,将滤波器展开为1列,那矩阵到底怎么展开呢,通过题目就可以很容易的明确了。

经过卷积操作仿射变化后,X,W变为如下:

Y = X * W

这是鱼书中的例子,但是事实上还存在另一种放射变化,老师讲的不同于鱼书,将X拉成一列如下:


Y = W * X

两种仿射变化都是对的只是变现的形式不同罢了~

习题5-7 忽略激活函数,分析卷积网络中卷积层的前向计算和反向传播是一种转置关系

以一个3×3的卷积核为例,输入为X输出为Y

将4×4的输入特征展开为16×1的矩阵,y展开为4×1的矩阵,将卷积计算转化为矩阵相乘

因为:;并且

所以:

对比正向: ,所以两者是一种转置关系。

习题5-8 在空洞卷积中, 当卷积核大小为𝐾, 膨胀率为𝐷时, 如何设置零填充𝑃的值以使得卷积为等宽卷积 .

首先对于普通的卷积操作,输出特征图的大小由以下公式给出:

而在空洞卷积中,由于引入了膨胀率,上述公式需要做相应调整。空洞卷积的输出特征图大小的计算公式如下:

现在我们来解决问题,假设我们希望进行等宽卷积,即输入特征图的大小与输出特征图的大小相同。因此,我们可以令输出特征图的大小等于输入特征图的大小:

将这个等式代入空洞卷积的输出特征图大小计算公式中,可以得到:

接下来,我们可以解出零填充P的值:

PS:这两周大作业有点多,选修课还都结课,反向传播算法的手推,不太想随便糊弄一个,抄一抄没啥效果,所以手推的过程放在下周赶时间做一个,单独会再发个博客~

相关推荐
一切皆是因缘际会5 分钟前
AI数字分身的底层原理:破解意识、自我与人格复刻的核心难题
大数据·人工智能·ai·架构
翔云1234568 分钟前
vLLM全解析:定义、用途与竞品对比
人工智能·ai·大模型
ASKED_201931 分钟前
KDD Cup 2026 腾讯算法广告大赛赛题解读: UNI-REC (统一序列建模与特征交叉)
人工智能
fpcc36 分钟前
AI和大模型——Fine-tuning
人工智能·深度学习
爱问的艾文1 小时前
八周带你手搓AI应用-Day4-赋予你的AI“记忆力”
人工智能
ACP广源盛139246256731 小时前
IX8024与科学大模型的碰撞@ACP#筑牢科研 AI 算力高速枢纽分享
运维·服务器·网络·数据库·人工智能·嵌入式硬件·电脑
向量引擎1 小时前
向量引擎接入 GPT Image 2 和 deepseek v4:一个 api key 把热门模型串起来,开发者终于不用深夜修接口了
人工智能·gpt·计算机视觉·aigc·api·ai编程·key
努力努力再努力FFF1 小时前
医生对AI辅助诊断感兴趣,作为临床人员该怎么了解和学习?
人工智能·学习
AI医影跨模态组学2 小时前
如何将纵向MRI深度学习特征与局部晚期直肠癌新辅助放化疗后的免疫微环境建立关联,并解释其对pCR及预后的机制
人工智能·深度学习·论文·医学·医学影像·影像组学
Empty-Filled2 小时前
AI生成测试用例功能怎么测:一个完整实战案例
网络·人工智能·测试用例