嵌入式学习-(李宏毅)机器学习(4)-day31

如果我们都知道所有的weight和bias

那这就是一个function

如果我们只是定出了这个structure ,只是有一个架构,都不知道里面的参数的话,那就是一个function set

Backpropagation

有效率的演算法,是比较有效率的把这个vector计算出来

Chain Rule 链式法则

Backward pass

我们要计算weight对C的偏微分,那么我们拆成两项,前一项很好算,后一项比较麻烦, 前一项也叫做forward pass,后一项也叫做backward pass

先计算z5,z6,再计算z4,z3,。。。

summary

首先先做一个forward pass 前向传播 然后再计算backward pass

在乘起来就知道哪一个weight 对哪一个C的偏微分是什么了

相关推荐
禹中一只鱼1 小时前
【力扣热题100学习笔记】 - 哈希
java·学习·leetcode·哈希算法
SteveSenna2 小时前
项目:Trossen Arm MuJoCo
人工智能·学习·算法
m0_747304162 小时前
GNN学习
学习
Sagittarius_A*3 小时前
监督学习(Supervised Learning)
人工智能·学习·机器学习·监督学习
qqty12174 小时前
Java进阶学习之路
java·开发语言·学习
WHS-_-20224 小时前
Python 算法题学习笔记一
python·学习·算法
_李小白4 小时前
【OSG学习笔记】Day 22: StateSet 与 StateAttribute (渲染状态)
笔记·学习
TorrieLeung5 小时前
碎片学习|外贸tob 一手交钱一手交货
学习·tob·外贸销售·工地英语
丝斯20116 小时前
AI学习笔记整理(79)——Python学习8
人工智能·笔记·学习
啥咕啦呛7 小时前
java打卡学习5:java基础学习
java·开发语言·学习