神经网络的基础

序言,本文讲解了一些神经网络的基础知识以及基本简单,卷积网络模块例如VGG,Resnet等等

卷积神经网络:

CNN本质特征:局部感知,权重共享,平移不变性。

但是①细微特征(例如颜色)获取不了,②长距离以来问题

图片特征:包括轮廓,纹理,颜色,大小。

卷积擅长提取:图片特征

LeNet5网络

深度卷积神经网络AlexNet

VGG网络

GoogleNet网络

合并连接网络GoogleNet

网络的中间层特征对学习是有益的,GoogleNet多尺度损失头结合loss =0.3*loss_one + 0.3loss_two + 1.2*loss_main

浅层--->提取几何特征 深层-->提取语义特征

tips: 调整多头loss的惩罚系数比例有利于提升准确率,系数越大学习的越多(有概率只留mian头反而效果更好)

残差网络ResNet

ResNet解决了网络退化问题,不是解决了梯度消失的问题,可以缓解梯度消失

目的:再加一层不会让上一层的特征变得更差。

做法:H(x) = X:上一层输出 +F(x):中间网络层

残差的模式

其他补充:

神经元一定是要经过线性变换和非线性变换两种变换的

相关推荐
Ronin-Lotus1 小时前
深度学习篇--- ResNet-18
人工智能·深度学习·resnet
说私域2 小时前
基于开源 AI 智能名片链动 2+1 模式 S2B2C 商城小程序的新开非连锁品牌店开业引流策略研究
人工智能·小程序·开源
moonsims3 小时前
无人机和无人系统的计算机视觉-人工智能无人机
人工智能·计算机视觉·无人机
钓了猫的鱼儿3 小时前
无人机航拍数据集|第27期 无人机交通目标检测YOLO数据集3717张yolov11/yolov8/yolov5可训练
人工智能·yolo·目标检测
tzc_fly3 小时前
rbio1:以生物学世界模型为软验证器训练科学推理大语言模型
人工智能·语言模型·自然语言处理
北方有星辰zz4 小时前
语音识别:概念与接口
网络·人工智能·语音识别
阿里-于怀4 小时前
携程旅游的 AI 网关落地实践
人工智能·网关·ai·旅游·携程·higress·ai网关
赴3354 小时前
神经网络和深度学习介绍
人工智能·深度学习·反向传播
爱看科技5 小时前
英伟达新架构9B模型引领革命,谷歌/阿里/微美全息AI多维布局锻造底座竞争力
人工智能·架构
2501_924878596 小时前
强光干扰下漏检率↓78%!陌讯动态决策算法在智慧交通违停检测的实战优化
大数据·深度学习·算法·目标检测·视觉检测