嵌入式学习-(李宏毅)机器学习(4)-day31

如果我们都知道所有的weight和bias

那这就是一个function

如果我们只是定出了这个structure ,只是有一个架构,都不知道里面的参数的话,那就是一个function set

Backpropagation

有效率的演算法,是比较有效率的把这个vector计算出来

Chain Rule 链式法则

Backward pass

我们要计算weight对C的偏微分,那么我们拆成两项,前一项很好算,后一项比较麻烦, 前一项也叫做forward pass,后一项也叫做backward pass

先计算z5,z6,再计算z4,z3,。。。

summary

首先先做一个forward pass 前向传播 然后再计算backward pass

在乘起来就知道哪一个weight 对哪一个C的偏微分是什么了

相关推荐
b***666117 小时前
【golang学习之旅】使用VScode安装配置Go开发环境
vscode·学习·golang
越努力越幸运50819 小时前
webpack的学习打包工具
前端·学习·webpack
韩曙亮20 小时前
【人工智能】AI 人工智能 技术 学习路径分析 ② ( 深度学习 -> 机器视觉 )
人工智能·深度学习·学习·ai·机器视觉
九千七52620 小时前
sklearn学习(3)数据降维
人工智能·python·学习·机器学习·sklearn
写点什么呢21 小时前
使用PE安装Win10系统
学习
('-')21 小时前
《从根上理解MySQL是怎样运行的》第十二章学习笔记
笔记·学习·mysql
摆烂积极分子1 天前
安卓开发学习-安卓版本
android·学习
2***s6721 天前
【Go】Go语言基础学习(Go安装配置、基础语法)
服务器·学习·golang
韩曙亮1 天前
【人工智能】AI 人工智能 技术 学习路径分析 ① ( Python语言 -> 微积分 / 概率论 / 线性代数 -> 机器学习 )
人工智能·python·学习·数学·机器学习·ai·微积分