LSTM反向传播及公式推导

先回顾一下正向传播的公式:

化简一下:

反向传播从下到上逐步求偏导:

对zt求偏导(预测值和标签值相减):

zt对未知数wt,ht,bt分别求偏导:

ht对ot,Ct求偏导:

ot对Net0求偏导:

Net0对w0,b0求偏导:

....

总体的思路就是那个公式从下到上逐步对未知数求偏导:

下面是总体的流程

对应的代码为:

相关推荐
AI人工智能+4 分钟前
发票识别技术:结合OCR与AI技术,实现纸质票据高效数字化,推动企业智能化转型
人工智能·nlp·ocr·发票识别
用户51914958484510 分钟前
Aniyomi扩展开发指南与Google Drive集成方案
人工智能·aigc
ezl1fe13 分钟前
第零篇:把 Agent 跑起来的最小闭环
人工智能·后端·agent
说私域16 分钟前
开源链动2+1模式AI智能名片S2B2C商城小程序在竞争激烈的中低端面膜服装行业中的应用与策略
大数据·人工智能·小程序
佛喜酱的AI实践17 分钟前
Claude Code配置魔法:从单人编程到专属AI团队协作
人工智能·claude
文心快码BaiduComate20 分钟前
文心快码Comate3.5S更新,用多智能体协同做个健康管理应用
前端·人工智能·后端
叶楊21 分钟前
PEFT适配器加载
人工智能·深度学习·机器学习
Tezign_space28 分钟前
AI用户洞察新纪元:atypica.AI如何重塑商业决策逻辑
人工智能·ai智能体·atypica
却道天凉_好个秋29 分钟前
OpenCV(十一):色彩空间转换
人工智能·opencv·计算机视觉
ezl1fe40 分钟前
RAG 每日一技(二十一):让证据“会算账”——差异对照与可核验公式的最小闭环
人工智能·后端·程序员