神经网络基础

1.反向传播(这边推荐买鱼书)补充:反向传播就是求偏导

(1)加法门单元:均等分配

z=x+y

z对x求偏导:得到1

z对y求偏导:得到1

也就是均等分配

(2)MAX门单元:给最大的

(3)乘法门单元:互换

z=xy
z对x求偏导:得到y
z对y求偏导:得到x

绿色是前向传播:
输入x=3 , y=-4 ,通过乘法门单元,得到x
y=-12。

输入x=2 , y=0 ,通过max门单元,得到结果2。

-12+2=-10 ,-10*2=-20.

红色是反向传播:

输入1,12=2 ,如何加法门单元求偏导,所以上下都是2
然后2
3=6 ,乘法门单元进行互换。

然后2*(-4)=-8门单元。

2通过max门单元,给原本绿色值比较大的z, 所以z=2;所以w=0.

2.


相关推荐
沪漂阿龙在努力2 分钟前
深度拆解LangChain Chains与LCEL:从Runnable到生产级AI工作流
人工智能
AI专业测评5 分钟前
2026网文圈大地震:顶配AI写作神器实测,这几款让“代练”彻底失业
人工智能·算法·aigc·ai写作
_寒潭雁影10 分钟前
NeRF论文复现2 --- 原理及源码解析
神经网络·三维重建·nerf·神经辐射场·三维表达
七月稻草人11 分钟前
ToClaw炒股个人踩坑实录:我实盘 2 个月踩过的坑、避坑指南与真实使用感受
大数据·人工智能·toclaw
慕容卡卡12 分钟前
你所不知道的RAG那些事
java·开发语言·人工智能·spring boot·spring cloud
砍材农夫15 分钟前
spring-ai 第十二mcp server调用入门(http协议)
人工智能·spring·http
大数据魔法师15 分钟前
AI Agent(三)- Ollama安装与使用
人工智能
safety_140417 分钟前
智驾传感器十问——激光雷达和毫米波雷达的作用(1)
人工智能
沪漂阿龙19 分钟前
从输入到输出:一文搞懂 LangChain Model I/O 的核心玩法
人工智能·langchain
nashane20 分钟前
HarmonyOS 6学习:界面布局“消消乐”——实战拆解组件遮挡与快照技术
深度学习·学习·harmonyos·harmony app