先回顾一下正向传播的公式:
化简一下:
反向传播从下到上逐步求偏导:
对zt求偏导(预测值和标签值相减):
zt对未知数wt,ht,bt分别求偏导:
ht对ot,Ct求偏导:
ot对Net0求偏导:
Net0对w0,b0求偏导:
....
总体的思路就是那个公式从下到上逐步对未知数求偏导:
下面是总体的流程
对应的代码为:
相关推荐
ChatPPT_YOO8 小时前
智能演示时代：8款免费AI PPT生成工具全面评测却道天凉_好个秋8 小时前
OpenCV(二十一)：图像的放大与缩小风暴之零9 小时前
卡尔曼滤波学习DatGuy9 小时前
Week 24: 深度学习补遗：Vision Transformer (ViT) 复现A尘埃10 小时前
项目三：信息抽取与图谱问答（医疗科研文献知识图谱与智能问答平台）鹿鸣悠悠10 小时前
AI测试（含大模型）与普通测试的区别及实施方法闲看云起10 小时前
一文了解RoPE（旋转位置编码）机器学习之心10 小时前
BKA-Transformer-LSTM多变量时间序列预测Matlab实现whaosoft-14310 小时前
51c视觉~合集50金紫火10 小时前
美团CatPaw：一款AI驱动的编程工具解析