| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
量化君也2 分钟前
桥水基金全天候策略拆解，构建中国ETF躺平版策略仙女修炼史3 分钟前
初代词向量：A Neural Probabilistic Language ModelLaughingZhu6 分钟前
Product Hunt 每日热榜 | 2026-06-10小糖学代码6 分钟前
机器学习：6.卷积神经网络与循环神经网络DataX_ruby826 分钟前
2026年数据中台平台成熟度排名呆呆敲代码的小Y7 分钟前
CodeGraph 使用教程：专为代码库打造的知识图谱AI科技星8 分钟前
数术工坊：投影秘籍qcx239 分钟前
【AI daily 2026-06-10】RAG 2026 已进入“Agentic RAG“时代十六年开源服务商11 分钟前
2026数字艺术展示网站策划全攻略有Li12 分钟前
HOI-Brain：从fMRI中准确提取带符号高阶交互用于脑疾病诊断的多通道