| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
m0_678693333 分钟前
深度学习笔记29-RNN实现阿尔茨海默病诊断(Pytorch)胡耀超15 分钟前
标签体系设计与管理：从理论基础到智能化实践的综合指南开-悟19 分钟前
嵌入式编程-使用AI查找BUG的启发Ailerx20 分钟前
YOLOv13震撼发布：超图增强引领目标检测新纪元大咖分享课40 分钟前
开源模型与商用模型协同开发机制设计你不知道我是谁？1 小时前
AI 应用于进攻性安全reddingtons1 小时前
Adobe高阶技巧与设计师创意思维的进阶指南机器之心1 小时前
刚刚，Grok4跑分曝光：「人类最后考试」拿下45%，是Gemini 2.5两倍，但网友不信蹦蹦跳跳真可爱5892 小时前
Python----大模型（使用api接口调用大模型）小爷毛毛_卓寿杰2 小时前
突破政务文档理解瓶颈：基于多模态大模型的智能解析系统详解