先回顾一下正向传播的公式:
化简一下:
反向传播从下到上逐步求偏导:
对zt求偏导(预测值和标签值相减):
zt对未知数wt,ht,bt分别求偏导:
ht对ot,Ct求偏导:
ot对Net0求偏导:
Net0对w0,b0求偏导:
....
总体的思路就是那个公式从下到上逐步对未知数求偏导:
下面是总体的流程
对应的代码为:
相关推荐
薛定谔的猫19823 分钟前
二十一、基于 Hugging Face Transformers 实现中文情感分析情感分析发哥来了11 分钟前
《AI视频生成技术原理剖析及金管道·图生视频的应用实践》数智联AI团队22 分钟前
AI搜索引领开源大模型新浪潮，技术创新重塑信息检索未来格局不懒不懒36 分钟前
【线性 VS 逻辑回归：一篇讲透两种核心回归模型】冰西瓜6001 小时前
从项目入手机器学习——（四）特征工程（简单特征探索）Ryan老房1 小时前
未来已来-AI标注工具的下一个10年丝斯20112 小时前
AI学习笔记整理（66）——多模态大模型MOE-LLAVA小鸡吃米…2 小时前
机器学习中的代价函数chatexcel3 小时前
元空AI+Clawdbot：7×24 AI办公智能体新形态详解（长期上下文/自动化任务/工具粘合）All The Way North-3 小时前
彻底掌握 RNN（实战）：PyTorch API 详解、多层RNN、参数解析与输入机制