| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
新知图书几秒前
第13章 数据分析智能体（垂类智能体实现案例）QCodingDev9 分钟前
Spring AI 2.0企业级RAG实战：引用校验、无依据拒答与知识治理怎么做？新知图书10 分钟前
第13章 从一句话需求到上线“续费管家”小程序m0_5474866611 分钟前
《计算机视觉实践》全套PPT课件2026tachibana211 分钟前
Embedding 有哪几种算法？PFFstronger12 分钟前
Code Diff 测试覆盖分析工具 — 开发提测后，自动发现遗漏的测试点小小工匠13 分钟前
Open WebUI 深度解析：把大模型装进自己机房的那一层「AI 操作系统」minhuan15 分钟前
基于Playwright数据采集，大模型对接Flask+SQLite，平滑升级向量库与分布式微服务26.5动物园猫17 分钟前
驾驶员危险行为目标检测数据集：3类别、14,000张图像 | 目标检测AI的探索之旅17 分钟前
97 个 OpenCV 实例（二十一）：音频进阶，音视频同抽与麦克风采集