嵌入式学习-(李宏毅)机器学习(4)-day31

如果我们都知道所有的weight和bias

那这就是一个function

如果我们只是定出了这个structure ,只是有一个架构,都不知道里面的参数的话,那就是一个function set

Backpropagation

有效率的演算法,是比较有效率的把这个vector计算出来

Chain Rule 链式法则

Backward pass

我们要计算weight对C的偏微分,那么我们拆成两项,前一项很好算,后一项比较麻烦, 前一项也叫做forward pass,后一项也叫做backward pass

先计算z5,z6,再计算z4,z3,。。。

summary

首先先做一个forward pass 前向传播 然后再计算backward pass

在乘起来就知道哪一个weight 对哪一个C的偏微分是什么了

相关推荐
拾贰_C2 小时前
【pycharm---pytorch】pycharm配置以及pytorch学习
pytorch·学习·pycharm
向阳花开_miemie2 小时前
Android音频学习(二十一)——ALSA简介
学习·音视频
come112342 小时前
ptyhon 基础语法学习(对比php)
android·学习
倔强菜鸟3 小时前
2025.8.10-学习C++(一)
开发语言·c++·学习
蓝桉~MLGT3 小时前
Python学习历程——组织结构(包含for、if、while等等)
开发语言·python·学习
西猫雷婶4 小时前
pytorch基本运算-torch.normal()函数生成的随机数据添加噪声
人工智能·pytorch·python·深度学习·学习·线性代数·机器学习
Rousson4 小时前
硬件学习笔记--78 MCU复位电路简介
笔记·学习
chengooooooo4 小时前
微服务架构:从单机到分布式的革命性升级
学习·微服务·架构
小狗爱吃黄桃罐头5 小时前
正点原子【第四期】Linux之驱动开发学习笔记-5.1 设备树下的LED驱动实验
linux·驱动开发·学习
LFly_ice5 小时前
学习React-19-useDebugValue
javascript·学习·react.js