1.8.1 卷积神经网络近年来在结构设计上的主要发展和变迁——AlexNet

1.8.1 卷积神经网络近年来在结构设计上的主要发展和变迁------AlexNet

(从AlexNet到ResNet系列)

AlexNet 首次亮相是在2012 年的ILSVRC大规模视觉识别竞赛上,它将图像分类任务的Top-5错误率 降低到15.3% ,大幅领先于其他传统方法。AlexNet是首个实用性很强的卷积神经网络(在此之前的LeNet-5网络一般用于手写字符识别),其主要网络结构是堆砌的卷积层和池化层 ,最后在网络末端加上全连接层和Softmax层以处理多分类任务。在具体实现中,AlexNet还做了一些细节上的改进。

  • 采用修正线性单元(Rectified Linear Unit, ReLU )作为激活函数 (替换了之前常用的Sigmoid函数),缓解了深层网络训练时的梯度消失问题
  • 引入了局部响应归一化 (Local Response Normalization,LRN)模块。
  • 应用了Dropout和数据扩充(data augmentation)技术来提升训练效果。
  • 分组卷积来突破当时GPU的显存瓶颈。

想要详细了解AlexNet网络,点这里:AlexNet网络(2012年提出)

下集预告:1.8.2 卷积神经网络近年来在结构设计上的主要发展和变迁------VGGNet
分享一个好用的读论文的网站

点击下面链接即可使用:

可以自动生成论文概要,想要快速了解论文全貌的话,这个很好用:

https://www.aminer.cn/chat/share/6541f27c7d4ea98387f98836
参考文献:

《百面深度学习》 诸葛越 江云胜主编

出版社:人民邮电出版社(北京)

ISBN:978-7-115-53097-4

2020年7月第1版(2020年7月北京第二次印刷)

相关推荐
a cool fish(无名)4 分钟前
8.1-使用向量存储值列表
人工智能·python·算法
LONGZETECH13 分钟前
【龙泽科技】汽车维护与底盘拆装检修仿真教学软件【风光580】
人工智能·科技·汽车·汽车仿真教学软件·汽车教学软件
美团技术团队16 分钟前
ACL 2025 | 美团技术团队论文精选
人工智能·算法
AI视觉网奇18 分钟前
OWSM v4 语音识别学习笔记
人工智能·语音识别
Stuomasi_xiaoxin27 分钟前
YOLOv13 汉化优化部署版本:超图增强自适应视觉感知的目标检测系统
人工智能·yolo·目标检测·计算机视觉·目标跟踪
TinTin Land39 分钟前
从黑客松出发,AI + Web3 项目怎么打磨成产品?
人工智能·web3
竹子_231 小时前
《零基础入门AI:传统机器学习核心算法(决策树、随机森林与线性回归)》
人工智能·算法·机器学习
Blossom.1181 小时前
基于深度学习的医学图像分析:使用BERT实现医学文本分类
人工智能·深度学习·机器学习·3d·分类·cnn·bert
Ms_lan1 小时前
邢台市某区人民医院智慧康养平台建设项目案例研究
大数据·人工智能·物联网·蓝牙网关·桂花网
m0_642330471 小时前
【人工智能-15】OpenCV直方图均衡化,模板匹配,霍夫变换,图像亮度变换,形态学变换
人工智能·opencv·计算机视觉