| 神经网络类型 | 层 | 创新 | 问题 | 备注 |
|---|---|---|---|---|
| 感知器 | 单层 | 误差反馈学习 | 阈值函数不可导，构造学习规则 | 与感知器准则等价 |
| 线性神经元 | 单层 | 梯度下降法训练参数 | 线性函数，多层仍是线性变换 | 本质上是最小二乘准则 |
| 浅层神经网络（早期） | 多层 | Sigmoid、非线性、BP算法 | 一般单个隐含层、多层梯度消失 | 多元复合函数求导的链式法则 |
| 深层神经网络（现代） | 多层 | ReLU、学习算法、参数初始化 | ------ | 更好的神经层激活函数（如ReLU） 更好的权重初始化方案 更好的梯度下降法（如RMSprop和Adam） |
神经网络发展的时间线——积跬步至千里
phoenix@Capricornus2025-05-06 20:11
相关推荐
小杨勇敢飞17 小时前
UNBIASED WATERMARK：大语言模型的无偏差水印m0_6038887117 小时前
Delta Activations A Representation for Finetuned Large Language Models金融小师妹17 小时前
基于哈塞特独立性表态的AI量化研究：美联储政策独立性的多维验证qinyia18 小时前
Wisdom SSH 是一款创新性工具，通过集成 AI 助手，为服务器性能优化带来极大便利。昨日之日200620 小时前
Wan2.2-S2V - 音频驱动图像生成电影级质量的数字人视频 ComfyUI工作流 支持50系显卡 一键整合包下载SEO_juper1 天前
大型语言模型SEO（LLM SEO）完全手册：驾驭搜索新范式攻城狮7号1 天前
腾讯混元翻译模型Hunyuan-MT-7B开源，先前拿了30个冠军zezexihaha1 天前
从“帮写文案”到“管生活”：个人AI工具的边界在哪？算家云1 天前
nano banana官方最强Prompt模板来了！六大场景模板详解暴躁的大熊1 天前
AI助力决策：告别生活与工作中的纠结，明析抉择引领明智选择