深度学习pytorch——多层感知机反向传播(持续更新)

在讲解多层感知机反向传播之前,先来回顾一下多输出感知机的问题,下图是一个多输出感知机模型:
课时44 反向传播算法-1_哔哩哔哩_bilibili

根据上一次的分析深度学习pytorch------感知机(Perceptron)(持续更新)-CSDN博客我们得出来了如下的结论,即损失对参数的导数只与这条线(蓝绿色的)有关:

多层感知机就是在原来多输出感知机的基础上增加了中间层,如下图所示:
课时44 反向传播算法-1_哔哩哔哩_bilibili

我们将前面的层次都盖住,从最后一层来看:
课时44 反向传播算法-1_哔哩哔哩_bilibili

这时O就成为了输入,根据多输出感知机的结论,只需要将x变为O,我们可以得到最后一层的计算公式,如下图:

为了是我们的公式更加简单,我们对公式进行了替换(只是改变了公式的表达形式,其内涵并没有改变),如下图所示:

分析求导过程,求导的时候记得我们求的时最后一层,并且注意各下角标的含义(都在深度学习pytorch------感知机(Perceptron)(持续更新)-CSDN博客说明):

求导结果:

总结一下感知机的问题:
课时44 反向传播算法-1_哔哩哔哩_bilibili

pytorch公式的推导到这里基本结束了。经过每一次的公式的推导,我们发现公式都是通过求导问题来分析的,其中不仅含有基本数学公式的求导,还联系到链式法则,如果高数学的还不错,我相信这些都不是问题。

在以后的实践,理解基本原理有助于我们更好的编写深度学习的代码。而且随着人工智能的发展,AI安全问题随之出现,想要做出更棒的智能产品,理解其内部原理,将会更好帮助我们的前进。

相关推荐
www_pp_1 分钟前
# 利用OpenCV和Dlib实现疲劳检测:守护安全与专注
人工智能·opencv·计算机视觉
xcLeigh8 分钟前
计算机视觉中的数学:几何变换与矩阵运算详解
人工智能·计算机视觉·矩阵
37手游后端团队17 分钟前
李飞飞团队重磅发布《2025年AI指数报告》:一场重构人类社会的技术奇点
人工智能·后端·程序员
沛沛老爹18 分钟前
研发效能实践:技术评审会生存指南
人工智能·研发效能·技术评审·designsprint·亚马逊逆向工作法·职场硬核
新智元23 分钟前
勇克 FPGA 难题!UCLA 丛京生教授斩获 2024 年 ACM 计算突破奖
人工智能·openai
新智元29 分钟前
谷歌最强 AI 芯片狙击英伟达 B200,性能狂飙 3600 倍!谷歌版 MCP 一统 AI 智能体宇宙
人工智能·openai
机器之心33 分钟前
MoE 模型已成新风口,AI 基础设施竞速升级
人工智能·openai
哥谭市情歌王36 分钟前
基于OpenCV的图像处理程序设计实践
图像处理·人工智能·opencv
qq_5704163040 分钟前
opencv中mat深拷贝和浅拷贝
人工智能·opencv·计算机视觉
多巴胺与内啡肽.41 分钟前
OpenCV摄像头人脸识别
人工智能·opencv·计算机视觉