感知机:单层,多层(二分类,多分类)

单层感知机:输入层→输出层"(输出层 1 个神经元)

1.P为间隔,r代表数据的大小,r数据多则收敛变慢。

2.对 "理想分类参数w,b进行**归一化,**限制参数的 "规模"

无论怎么切都不能分割这两类别

多层感知机:输入层→隐藏层→输出层

回到xor问题,如何解决?

x,y代表样本的两个维度,中间层记录样本分类结果,输出层也为样本分类结果;类似于两个函数相加得到的结果

输入维度,隐层一个节点代表一个函数,输出为类别;

单分类:输出层用 1 个神经元 +激活

参数解释如下:

当西格玛为线性时

常用激活函数

一个指数运算

两个指数运算

不用指数运算(快,省)

多分类:输出层用N个神经元 +激活

所有输入拉到0-1范围,使得y相加得到1(概率)

参数解释如下:

理解:多维数据输入,数据结果为类别则相较输入的维度数量较少,一般来说需要慢慢压缩维度,既使用多隐藏层;类似于右边网络变(大,小,小,不变)。

多层感知机从零实现

李沐深度学习35号视频Q&A

相关推荐
飞哥数智坊7 小时前
我的“龙虾”罢工了!正好对比下GLM、MiniMax、Kimi 3家谁更香
人工智能
风象南8 小时前
很多人说,AI 让技术平权了,小白也能乱杀老师傅 ?
人工智能·后端
董董灿是个攻城狮9 小时前
大模型连载1:了解 Token
人工智能
RoyLin11 小时前
沉睡三十年的标准:HTTP 402、生成式 UI 与智能体原生软件的时代
人工智能
灵感__idea12 小时前
Hello 算法:众里寻她千“百度”
前端·javascript·算法
needn14 小时前
TRAE为什么要发布SOLO版本?
人工智能·ai编程
毅航14 小时前
自然语言处理发展史:从规则、统计到深度学习
人工智能·后端
前端付豪14 小时前
LangChain链 写一篇完美推文?用SequencialChain链接不同的组件
人工智能·python·langchain
ursazoo14 小时前
写了一份 7000字指南,让 AI 帮我消化每天的信息流
人工智能·开源·github
_志哥_18 小时前
Superpowers 技术指南:让 AI 编程助手拥有超能力
人工智能·ai编程·测试