| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
驴友花雕8 小时前
【花雕动手做】行空板 K10 系列实验之人工智能语音识别小车的10个参考案例火山引擎开发者社区9 小时前
DeepSeek-V4 Pro 发布，veStack Day 0 完成模型适配2501_926978339 小时前
AGI 的四种瓶颈：资源型还是发现型--以及DSH的位置Q463913499 小时前
线下销售复盘难落地，AI 会话设备能帮上啥忙ebok.9 小时前
国产大模型落地业务系统的优选载体：京微智枢信创 AI 业务支撑平台wujian831110 小时前
怎么用文心生成word文档？从格式错乱到智能导出，AI导出鸭让创作再无后顾之忧动物园猫10 小时前
猪危险行为目标检测数据集：3类别、5,000+张图像 | 目标检测ai产品老杨10 小时前
AI视频分析并发优化完整流程：解决多路视频并发不足与高延迟排查指南why技术11 小时前
AI 写的文章，可能都带着手敲一遍都去不掉的“隐形水印”。罗西的思考11 小时前
【Agent OS / AIOS】AOHP 深度解读：当 OS 开始为 Agent 而设计