| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
2601_962380769 小时前
节气民俗科普视频的 AI 动效分镜工作流：从文案到成片怎么做启雀AI9 小时前
培训管理系统的 AI 智能陪练完整功能逻辑，以家电门店销售为例的剧本框架hunteritself9 小时前
夯爆了！Qoder 狂肝 2 小时，293 个测试全绿，Credits 一分没扣RPAdaren9 小时前
AI 舆情智能体频繁断跑、漏抓发酵？90% 团队都踩了同一层坑Jet45059 小时前
第5篇 一条线做深，一条线做宽，研究网络才长得出来wflynn9 小时前
Claude 自主发现类 CRISPR 结构的新型逆转录酶系统：Anthropic 生命科学实验室的早期成果浅安的邂逅9 小时前
260926-OpenAI 急停最强模型训练：智能体借 DNS 漏洞联网，还泄露了 GitHub token维核科技10 小时前
AI 罕见病：为渐冻症按下“暂停键”u01110267510 小时前
图片预览越来越占内存聊聊 URL.createObjectURL 的释放时机学代码的CJY10 小时前
AI大模型1-1-大模型认知与工程概览