PyTorch 深度学习之卷积神经网络(高级篇)Advanced CNN(十)

0. Revision

前面讲的比较简单的是 串行网络结构

1. GoogLeNet

1.1 Inception module

w h 要一致

what is 1×1 convolution?

信息融合-eg.高中各门学科成绩比较(总分)

最主要工作:改变通道数量

why is 1×1 convolution?

减少10倍

1.2 implementation of inception module

拼接

第一个维度拼接-C 输出24*3+16=88个通道数

1.3 Using Inception Module

Results

2. Go deeper

stacking layers 反而error增加了

2.1 Deep Residual Learning

解决梯度消失问题

2.2 Residual Network

Implementation of Simple Residual Network

保证残差模块前后不变

2.3 Implementation of Simple Residual Block

增量开发

3. Exercise

exercise1: reading paper and implementing

exercise2: reading paper and implementing DenseNet

4. 以后怎么走

现在讲了实现

以后怎么走

  1. 理论 深度学习

  2. 阅读pytorch的文档 通读一遍

  3. 复现经典工作-代码下载-跑通

读代码-自己来写(循环来写, 学习过程)

  1. 扩充视野-->知识盲点
相关推荐
意念回复8 小时前
从 RNN 到 GQA:自注意力与多头注意力机制全解析
人工智能·rnn·深度学习
哈尔滨张谦蛋1 天前
兰州大学 · 甘肃省可穿戴装备重点实验室 · 2027年博士招生
人工智能·深度学习
chh5632 天前
从 BERT 到大模型:让模型从“会接龙”到“会回答
人工智能·深度学习·bert
汤姆宝库2 天前
RoPE旋转位置编码的实现与长上下文外推
python·深度学习·机器学习
tellmewhoisi2 天前
深度学习0:数学知识:(L1正则化和L2正则化)
人工智能·深度学习
AI小怪兽2 天前
你的视觉基础模型会说“植物语“吗?面向目标检测的视觉基础模型植物语法
人工智能·深度学习·机器学习
罗西的思考3 天前
【轻量化复现大模型 / KIMI K3】MTP / EAGLE‑3 模块交互式演示
人工智能·深度学习·算法
Be for thing3 天前
Pytorch【12】transforms进阶|图像数据增强实战,提升模型泛化能力
人工智能·pytorch·机器学习
tellmewhoisi3 天前
深度学习0:数学知识:(雅可比矩阵)
人工智能·深度学习·矩阵