LSTM反向传播及公式推导

先回顾一下正向传播的公式:

化简一下:

反向传播从下到上逐步求偏导:

对zt求偏导(预测值和标签值相减):

zt对未知数wt,ht,bt分别求偏导:

ht对ot,Ct求偏导:

ot对Net0求偏导:

Net0对w0,b0求偏导:

....

总体的思路就是那个公式从下到上逐步对未知数求偏导:

下面是总体的流程

对应的代码为:

相关推荐
卷卷说风控14 小时前
重新认知AI Agent
人工智能
生命是有光的14 小时前
【深度学习】卷积神经网络CNN
人工智能·深度学习·cnn
后端小肥肠14 小时前
Hermes Agent喂饭级教程:安装、迁移 OpenClaw、接入飞书全流程
人工智能·agent
拥抱AI的猿14 小时前
AI提示词
人工智能
henrylin999914 小时前
Hermes Agent 核心运行系统调用流程--源码分析
开发语言·人工智能·python·机器学习·hermesagent
IT_陈寒14 小时前
Python多进程共享变量那个坑,我差点没爬出来
前端·人工智能·后端
泰恒14 小时前
国内外大模型的区别与差距
人工智能·深度学习·yolo·机器学习·计算机视觉
javaDocker14 小时前
基于Hermes Agent 的 AI 可视化协同研发流水线—实现机制与实现逻辑
人工智能
北京耐用通信14 小时前
耐达讯自动化CAN转EtherCAT网关:3步配置,赋能电机启动器智能化升级
人工智能·物联网·网络协议·自动化·信息与通信
GISer_Jing15 小时前
AI资源白嫖——Trae国际版一周年福利,免费用一个月600次快速请求
人工智能·prompt·aigc