神经网络基础

1.反向传播(这边推荐买鱼书)补充:反向传播就是求偏导

(1)加法门单元:均等分配

z=x+y

z对x求偏导:得到1

z对y求偏导:得到1

也就是均等分配

(2)MAX门单元:给最大的

(3)乘法门单元:互换

z=xy
z对x求偏导:得到y
z对y求偏导:得到x

绿色是前向传播:
输入x=3 , y=-4 ,通过乘法门单元,得到x
y=-12。

输入x=2 , y=0 ,通过max门单元,得到结果2。

-12+2=-10 ,-10*2=-20.

红色是反向传播:

输入1,12=2 ,如何加法门单元求偏导,所以上下都是2
然后2
3=6 ,乘法门单元进行互换。

然后2*(-4)=-8门单元。

2通过max门单元,给原本绿色值比较大的z, 所以z=2;所以w=0.

2.


相关推荐
大囚长4 分钟前
openclaw终归昙花一现
人工智能
jkyy20145 分钟前
健康有益AI营养师:智能营养管家赋能新零售营养服务升级
人工智能·健康医疗·零售
Agent产品评测局8 分钟前
制造业考勤智能管理系统,主流AI Agent方案横评:2026年企业级自动化选型深度指南
运维·人工智能·ai·chatgpt·自动化
极光代码工作室8 分钟前
基于NLP的智能问答系统设计
python·深度学习·自然语言处理·nlp
我没胡说八道12 分钟前
毕业论文降 AI 率工具横评:谁才是 AI 检测的 “破局者”?
人工智能·经验分享·深度学习·考研·论文
lbb 小魔仙16 分钟前
Python 多模态 AI 应用开发实战:用 GPT-4o + LangChain 构建智能视觉助手
人工智能·python·langchain
AI科技星20 分钟前
卷十二:奔跑吧水轮·环境能捕获与全域熵源 (正式典籍版)
人工智能·线性代数·机器学习·量子计算·agi
GEO从入门到精通22 分钟前
GEO课程的学习路径应该怎么规划?
人工智能·学习
陈老老老板30 分钟前
Bright Data Web Scraping 实战:用 MCP + Dify 构建 eBay 商品详情采集 AI 工作流(2026)
前端·人工智能
onlyOne在掘金5980631 分钟前
AI 编程助手打造(五):扒开底裤看真相!逆天神技 READ_FILE 协议解析
人工智能·程序员