感知机:单层,多层(二分类,多分类)

单层感知机:输入层→输出层"(输出层 1 个神经元)

1.P为间隔,r代表数据的大小,r数据多则收敛变慢。

2.对 "理想分类参数w,b进行**归一化,**限制参数的 "规模"

无论怎么切都不能分割这两类别

多层感知机:输入层→隐藏层→输出层

回到xor问题,如何解决?

x,y代表样本的两个维度,中间层记录样本分类结果,输出层也为样本分类结果;类似于两个函数相加得到的结果

输入维度,隐层一个节点代表一个函数,输出为类别;

单分类:输出层用 1 个神经元 +激活

参数解释如下:

当西格玛为线性时

常用激活函数

一个指数运算

两个指数运算

不用指数运算(快,省)

多分类:输出层用N个神经元 +激活

所有输入拉到0-1范围,使得y相加得到1(概率)

参数解释如下:

理解:多维数据输入,数据结果为类别则相较输入的维度数量较少,一般来说需要慢慢压缩维度,既使用多隐藏层;类似于右边网络变(大,小,小,不变)。

多层感知机从零实现

李沐深度学习35号视频Q&A

相关推荐
地平线开发者1 小时前
J6B vio scenario sample
算法
冬奇Lab4 小时前
Workflow 系列(04):Multi-Agent 协调——编排器边界、并发控制与上下文隔离
人工智能·工作流引擎
冬奇Lab4 小时前
每日一个开源项目(第147篇):HyperGraphRAG - 用超图表示 N 元关系,RAG 的第三代范式
人工智能·开源·graphql
甲维斯4 小时前
Github + 阿里云oss实现类似codex的自动更新!
人工智能
阿里云大数据AI技术6 小时前
光轮智能 × 阿里云:共建 Physical AI 云上数据、评测与持续学习基础设施
人工智能·机器学习
机器之心6 小时前
实锤了:Claude Code偷查用户,时区、中国AI实验室全是关键词
人工智能·openai
网易云信6 小时前
Cursor点燃个人开发者,企业级AI为何频频受挫?Agent工厂从提效工具到AI员工的跃迁
人工智能·开源
网易云信6 小时前
解锁触手可及的温暖:网易智企 x Wander Puffs AI 云游泡芙
人工智能