| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
程序员爱德华5 分钟前
镜面检测 Mirror Detection_codemonster15 分钟前
计算机视觉入门到实战系列（九） SIFT算法（尺度空间、极值点判断）莫非王土也非王臣24 分钟前
TensorFlow中卷积神经网络相关函数焦耳热科技前沿24 分钟前
西华大学Adv. Sci.：超高温焦耳热冲击制备拓扑缺陷碳，用于催化碳纳米管可控生长亿坊电商30 分钟前
AI数字人开发框架如何实现多模态交互？GOSIM 全球开源创新汇1 小时前
科班出身+跨界双轨：陈郑豪用 AI 压缩技术，让 4K 游戏走进普通设备｜Open AGI Forumsinat_286945191 小时前
AI Coding LSPIT_陈寒1 小时前
Java并发编程实战：从入门到精通的5个关键技巧，让我薪资涨了40%码上宝藏1 小时前
ComfyUI新插件上线！多模态多视角生成，中文场景适配拉满——手把手教你玩转ComfyUI-qwenmultiangle故乡de云1 小时前
Google Cloud与AWS大数据AI服务对比：2026年企业选型指南