| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
Learn Forever7 分钟前
由ChatGPT 的记忆系统谈及如何构建一个对话应用智能体哥布林学者12 分钟前
吴恩达深度学习课程四：计算机视觉 第二周：经典网络结构 （二）残差网络资深低代码开发平台专家19 分钟前
GPT-5.2与Gemini 3.0终极抉择：谁更适配你的需求？得贤招聘官38 分钟前
AI招聘的核心破局：从“流程装饰”到“决策引擎”一水鉴天1 小时前
整体设计 定稿 之26 重构和改造现有程序结构 之2 (codebuddy）cici158741 小时前
二值化断裂裂缝的智能拼接算法裤裤兔1 小时前
医学影像深度学习知识点总结free-elcmacom1 小时前
机器学习进阶＜8＞PCA主成分分析亚马逊云开发者1 小时前
Q CLI助力合合信息实现Aurora的升级运营涛涛北京2 小时前
【强化学习实验】- 策略梯度算法