| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
星越华夏4 小时前
计算机视觉：YOLOv12安装环境Yolanda946 小时前
【人工智能】《从零搭建AI问答助手项目（九）：Prompt优化》wj3055853786 小时前
课程 9：模型测试记录与 Prompt 策略小和尚同志6 小时前
深入使用 skill-creator：结合真实生产级实践DevSecOps选型指南6 小时前
安全419专访悬镜安全 | 穿越周期在 AI 浪潮中定义数字供应链安全新范式沪漂阿龙6 小时前
面试题详解：GraphRAG 全面解析——知识图谱增强 RAG、Local Search、Global Search、社区摘要、工程落地与评估指标一次讲透WangN26 小时前
Unitree RL Lab 学习笔记【通识】haina20196 小时前
海纳AI亮相《科创中国》，解码招聘“智”变之路阿星AI工作室6 小时前
刘润年中大课笔记：一句话说清AI落地之战的本质qingfeng154157 小时前
企业微信机器人开发：如何实现自动化与智能运营？