| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
janeboe3 分钟前
抖音黑科技兵马俑总站源头简博科技 | 抖音锚点不合规挂载新规今日生效，短视频引流直播间迈入三端全链路监管时代lialaka5 分钟前
「未来星途（Future_Odyssey）」——全语音_3D_AI_具身交互智能数字教官与全双工星际科普沉浸舱[1]hongmai6668886 分钟前
ESP32-C61-WROOM-1-N8R2：Wi-Fi 6与RISC-V融合的中坚力量正在走向自律9 分钟前
用豆包Seed Evolving打造全功能【AI智能记账】小程序，开源可落地小保CPP17 分钟前
OpenCV C++提取webp动图里的图片B8017913Y17 分钟前
手动整理录音太慢错漏多？2026专业AI录音可高效整理内容梦想的颜色20 分钟前
AI Agent 可观测性：破解多步推理黑盒｜从概念、架构、指标到生产落地图鉴IT智慧客073123 分钟前
Harness 到底指什么大模型任我行31 分钟前
阿里：端到端文档解析模型OvisOCR2aixingkong92132 分钟前
Atlas 950 1024卡SuperPoD推测分析