神经网络基础

1.反向传播(这边推荐买鱼书)补充:反向传播就是求偏导

(1)加法门单元:均等分配

z=x+y

z对x求偏导:得到1

z对y求偏导:得到1

也就是均等分配

(2)MAX门单元:给最大的

(3)乘法门单元:互换

z=xy
z对x求偏导:得到y
z对y求偏导:得到x

绿色是前向传播:
输入x=3 , y=-4 ,通过乘法门单元,得到x
y=-12。

输入x=2 , y=0 ,通过max门单元,得到结果2。

-12+2=-10 ,-10*2=-20.

红色是反向传播:

输入1,12=2 ,如何加法门单元求偏导,所以上下都是2
然后2
3=6 ,乘法门单元进行互换。

然后2*(-4)=-8门单元。

2通过max门单元,给原本绿色值比较大的z, 所以z=2;所以w=0.

2.


相关推荐
AppOS4 分钟前
手把手教你 Openclaw 在 Mac 上本地化部署,保姆级教程!接入飞书打造私人 AI 助手
人工智能·macos·飞书
workflower11 分钟前
AI制造-推荐初始步骤
java·开发语言·人工智能·软件工程·制造·需求分析·软件需求
wukangjupingbb11 分钟前
解析Computational driven drug discovery: from structure to clinic
人工智能·机器学习
tctasia13 分钟前
TCT Asia 2026现场观察:中国增材制造,已经进入“规模化时刻”(上)
大数据·人工智能·制造
AI周红伟15 分钟前
AI自动盯盘与定时行情分析:OpenClaw股票辅助Agent集成完整使用指南-周红伟
运维·服务器·人工智能·音视频·火山引擎
Legend NO2435 分钟前
大模型与知识图谱的协同技术体系
人工智能·自然语言处理·知识图谱
fuquxiaoguang38 分钟前
MetaClaw:让AI在对话中悄悄变强,不用GPU也能持续进化
人工智能·metaclaw
ai大模型中转api测评43 分钟前
谷歌Gemma 4突袭发布:开源大模型端侧智能体时代来了
人工智能·自动化·api
ai大模型中转api测评1 小时前
GPT-5.4 vs Gemini 3.1 Pro vs Qwen3.5-Omni:谁才是2026年最强的全能大模型?
人工智能·gpt