神经网络的基础

序言,本文讲解了一些神经网络的基础知识以及基本简单,卷积网络模块例如VGG,Resnet等等

卷积神经网络:

CNN本质特征:局部感知,权重共享,平移不变性。

但是①细微特征(例如颜色)获取不了,②长距离以来问题

图片特征:包括轮廓,纹理,颜色,大小。

卷积擅长提取:图片特征

LeNet5网络

深度卷积神经网络AlexNet

VGG网络

GoogleNet网络

合并连接网络GoogleNet

网络的中间层特征对学习是有益的,GoogleNet多尺度损失头结合loss =0.3*loss_one + 0.3loss_two + 1.2*loss_main

浅层--->提取几何特征 深层-->提取语义特征

tips: 调整多头loss的惩罚系数比例有利于提升准确率,系数越大学习的越多(有概率只留mian头反而效果更好)

残差网络ResNet

ResNet解决了网络退化问题,不是解决了梯度消失的问题,可以缓解梯度消失

目的:再加一层不会让上一层的特征变得更差。

做法:H(x) = X:上一层输出 +F(x):中间网络层

残差的模式

其他补充:

神经元一定是要经过线性变换和非线性变换两种变换的

相关推荐
skywalk81634 分钟前
Ubuntu24.04的VSCode中安装MoonBit和MoonBit Toolchain(moon-pilot)
ide·人工智能·vscode·编辑器·moonbit·pilot
居然JuRan23 分钟前
解锁17种RAG秘籍,大模型生成质量狂飙之路
人工智能
机器之心1 小时前
谷歌约战,DeepSeek、Kimi都要上,首届大模型对抗赛明天开战
人工智能
POLOAPI1 小时前
告别敲代码?Claude Code 让命令行自己 “写指令”,AI 正在重构程序员的双手
人工智能·api
俞凡1 小时前
IDE 革命:超越自动完成
人工智能
AI松子6661 小时前
Sparse4D系列算法:迈向长时序稀疏化3D目标检测的新实践
人工智能·算法·目标检测
数据知道1 小时前
使用GPT机器翻译详解,及对应实现翻译的3个案例
人工智能·gpt·机器翻译
陈哥聊测试1 小时前
Coze开源了!意味着什么
人工智能·开源·资讯
懒麻蛇1 小时前
用大语言模型(LLMs)生成心理学范式
人工智能·语言模型·自然语言处理
athink_cn1 小时前
Vibe Coding:AI驱动开发的安全暗礁与防护体系
人工智能·安全·ai·ai编程