嵌入式学习-(李宏毅)机器学习(4)-day31

如果我们都知道所有的weight和bias

那这就是一个function

如果我们只是定出了这个structure ,只是有一个架构,都不知道里面的参数的话,那就是一个function set

Backpropagation

有效率的演算法,是比较有效率的把这个vector计算出来

Chain Rule 链式法则

Backward pass

我们要计算weight对C的偏微分,那么我们拆成两项,前一项很好算,后一项比较麻烦, 前一项也叫做forward pass,后一项也叫做backward pass

先计算z5,z6,再计算z4,z3,。。。

summary

首先先做一个forward pass 前向传播 然后再计算backward pass

在乘起来就知道哪一个weight 对哪一个C的偏微分是什么了

相关推荐
数智工坊5 小时前
机器人运动控制:采样、优化与学习三大流派深度对比与实战
android·学习·机器人
ZC跨境爬虫5 小时前
跟着 MDN 学JavaScript day_7:数学运算与逻辑判断实战测试
开发语言·前端·javascript·学习·ecmascript
MartinYeung58 小时前
[论文学习]隐私保护联邦特徵选择与差分隐私的的工程实践框架
学习
qeen878 小时前
【C++】类与对象之类的默认成员函数(二)
android·c语言·开发语言·c++·笔记·学习
Flandern11119 小时前
Pull Requests(PR)
学习·github·pr
nashane9 小时前
HarmonyOS 6学习:JsCrash“闪退”法医指南——从FaultLog堆栈还原崩溃现场的终极手册
学习·华为·harmonyos
for_ever_love__9 小时前
UI学习:UICollectionView瀑布流
学习·ui·ios·objective-c·cocoa
AOwhisky10 小时前
MySQL 学习笔记(第六期):MySQL 备份与恢复
运维·数据库·笔记·学习·mysql·云计算
_李小白10 小时前
【android opencv学习笔记】Day 32:直线检测之霍夫变换
android·opencv·学习
提子拌饭13311 小时前
Column 嵌套布局:多级 Column 实现复杂纵向结构——鸿蒙 HarmonyOS ArkTS 原生学习应用
学习·华为·harmonyos·鸿蒙·鸿蒙系统