pytorch反向传播算法

目录

  • [1. 链式法则复习](#1. 链式法则复习)
  • [2. 多输出感知机](#2. 多输出感知机)
  • [3. 多层感知机](#3. 多层感知机)
  • [4. 多层感知机梯度推导](#4. 多层感知机梯度推导)
  • [5. 反向传播的总结](#5. 反向传播的总结)

1. 链式法则复习

2. 多输出感知机

3. 多层感知机

如图:

4. 多层感知机梯度推导

简化式子把( O k O_k Ok - t k t_k tk) O k O_k Ok(1 - O k O_k Ok)起个别名叫 δ k K \delta^K_k δkK


5. 反向传播的总结


个人认为所谓的反向传播就是从输出层->到第一层输入一层一层计算梯度的过程,然后不断迭代达到优化W的目的。注意输出层和隐藏层是不一样的。

相关推荐
柴 基9 小时前
Visual Studio Code 使用指南 (2025年版)
人工智能·pytorch·python
z are17 小时前
PyTorch 生态四件套:从图片、视频到文本、语音的“开箱即用”实践笔记
人工智能·pytorch·笔记·深度学习
Ly2020Wj17 小时前
pytorch入门:利用pytorch进行线性预测
人工智能·pytorch·python
chxin1401620 小时前
循环神经网络——动手学深度学习7
人工智能·pytorch·rnn·深度学习
W.KN21 小时前
PyTorch 数据类型和使用
人工智能·pytorch·python
点云SLAM1 天前
PyTorch中flatten()函数详解以及与view()和 reshape()的对比和实战代码示例
人工智能·pytorch·python·计算机视觉·3d深度学习·张量flatten操作·张量数据结构
爱分享的飘哥1 天前
第三篇:VAE架构详解与PyTorch实现:从零构建AI的“视觉压缩引擎”
人工智能·pytorch·python·aigc·教程·生成模型·代码实战
DAWN_T171 天前
关于网络模型的使用和修改/保存和读取
网络·人工智能·pytorch·python·深度学习·神经网络·机器学习
F_D_Z2 天前
【PyTorch】图像多分类项目部署
人工智能·pytorch·python·深度学习·分类
柴 基3 天前
PyTorch 使用指南
人工智能·pytorch·python