1.8.1 卷积神经网络近年来在结构设计上的主要发展和变迁——AlexNet

1.8.1 卷积神经网络近年来在结构设计上的主要发展和变迁------AlexNet

(从AlexNet到ResNet系列)

AlexNet 首次亮相是在2012 年的ILSVRC大规模视觉识别竞赛上,它将图像分类任务的Top-5错误率 降低到15.3% ,大幅领先于其他传统方法。AlexNet是首个实用性很强的卷积神经网络(在此之前的LeNet-5网络一般用于手写字符识别),其主要网络结构是堆砌的卷积层和池化层 ,最后在网络末端加上全连接层和Softmax层以处理多分类任务。在具体实现中,AlexNet还做了一些细节上的改进。

  • 采用修正线性单元(Rectified Linear Unit, ReLU )作为激活函数 (替换了之前常用的Sigmoid函数),缓解了深层网络训练时的梯度消失问题
  • 引入了局部响应归一化 (Local Response Normalization,LRN)模块。
  • 应用了Dropout和数据扩充(data augmentation)技术来提升训练效果。
  • 分组卷积来突破当时GPU的显存瓶颈。

想要详细了解AlexNet网络,点这里:AlexNet网络(2012年提出)

下集预告:1.8.2 卷积神经网络近年来在结构设计上的主要发展和变迁------VGGNet
分享一个好用的读论文的网站

点击下面链接即可使用:

可以自动生成论文概要,想要快速了解论文全貌的话,这个很好用:

https://www.aminer.cn/chat/share/6541f27c7d4ea98387f98836
参考文献:

《百面深度学习》 诸葛越 江云胜主编

出版社:人民邮电出版社(北京)

ISBN:978-7-115-53097-4

2020年7月第1版(2020年7月北京第二次印刷)

相关推荐
Jay Kay31 分钟前
TensorFlow源码深度阅读指南
人工智能·python·tensorflow
FF-Studio35 分钟前
【硬核数学 · LLM篇】3.1 Transformer之心:自注意力机制的线性代数解构《从零构建机器学习、深度学习到LLM的数学认知》
人工智能·pytorch·深度学习·线性代数·机器学习·数学建模·transformer
会的全对٩(ˊᗜˋ*)و44 分钟前
【数据挖掘】数据挖掘综合案例—银行精准营销
人工智能·经验分享·python·数据挖掘
云渚钓月梦未杳1 小时前
深度学习03 人工神经网络ANN
人工智能·深度学习
在美的苦命程序员1 小时前
中文语境下的视频生成革命:百度 MuseSteamer 的“产品级落地”启示录
人工智能·百度
kngines1 小时前
【字节跳动】数据挖掘面试题0007:Kmeans原理,何时停止迭代
人工智能·数据挖掘·kmeans
Kali_071 小时前
使用 Mathematical_Expression 从零开始实现数学题目的作答小游戏【可复制代码】
java·人工智能·免费
贾全1 小时前
第十章:HIL-SERL 真实机器人训练实战
人工智能·深度学习·算法·机器学习·机器人
每日摸鱼大王1 小时前
互联网摸鱼日报(2025-07-01)
人工智能
GIS小天2 小时前
AI+预测3D新模型百十个定位预测+胆码预测+去和尾2025年7月4日第128弹
人工智能·算法·机器学习·彩票