神经网络发展的时间线——积跬步至千里

神经网络类型 创新 问题 备注
感知器 单层 误差反馈学习 阈值函数不可导,构造学习规则 与感知器准则等价
线性神经元 单层 梯度下降法训练参数 线性函数,多层仍是线性变换 本质上是最小二乘准则
浅层神经网络(早期) 多层 Sigmoid、非线性、BP算法 一般单个隐含层、多层梯度消失 多元复合函数求导的链式法则
深层神经网络(现代) 多层 ReLU、学习算法、参数初始化 ------ 更好的神经层激活函数(如ReLU) 更好的权重初始化方案 更好的梯度下降法(如RMSprop和Adam)
相关推荐
白-胖-子1 小时前
深入剖析大模型在文本生成式 AI 产品架构中的核心地位
人工智能·架构
想要成为计算机高手2 小时前
11. isaacsim4.2教程-Transform 树与Odometry
人工智能·机器人·自动驾驶·ros·rviz·isaac sim·仿真环境
静心问道3 小时前
InstructBLIP:通过指令微调迈向通用视觉-语言模型
人工智能·多模态·ai技术应用
宇称不守恒4.03 小时前
2025暑期—06神经网络-常见网络2
网络·人工智能·神经网络
小楓12014 小时前
醫護行業在未來會被AI淘汰嗎?
人工智能·醫療·護理·職業
数据与人工智能律师4 小时前
数字迷雾中的安全锚点:解码匿名化与假名化的法律边界与商业价值
大数据·网络·人工智能·云计算·区块链
chenchihwen4 小时前
大模型应用班-第2课 DeepSeek使用与提示词工程课程重点 学习ollama 安装 用deepseek-r1:1.5b 分析PDF 内容
人工智能·学习
说私域4 小时前
公域流量向私域流量转化策略研究——基于开源AI智能客服、AI智能名片与S2B2C商城小程序的融合应用
人工智能·小程序
Java樱木4 小时前
AI 编程工具 Trae 重要的升级。。。
人工智能
码字的字节4 小时前
深度学习损失函数的设计哲学:从交叉熵到Huber损失的深入探索
深度学习·交叉熵·huber