感知机:单层,多层(二分类,多分类)

单层感知机:输入层→输出层"(输出层 1 个神经元)

1.P为间隔,r代表数据的大小,r数据多则收敛变慢。

2.对 "理想分类参数w,b进行**归一化,**限制参数的 "规模"

无论怎么切都不能分割这两类别

多层感知机:输入层→隐藏层→输出层

回到xor问题,如何解决?

x,y代表样本的两个维度,中间层记录样本分类结果,输出层也为样本分类结果;类似于两个函数相加得到的结果

输入维度,隐层一个节点代表一个函数,输出为类别;

单分类:输出层用 1 个神经元 +激活

参数解释如下:

当西格玛为线性时

常用激活函数

一个指数运算

两个指数运算

不用指数运算(快,省)

多分类:输出层用N个神经元 +激活

所有输入拉到0-1范围,使得y相加得到1(概率)

参数解释如下:

理解:多维数据输入,数据结果为类别则相较输入的维度数量较少,一般来说需要慢慢压缩维度,既使用多隐藏层;类似于右边网络变(大,小,小,不变)。

多层感知机从零实现

李沐深度学习35号视频Q&A

相关推荐
龙文浩_几秒前
AI NLP核心技术指南
人工智能·pytorch·深度学习·神经网络·自然语言处理
血小溅1 分钟前
大脑与双手的分离:Claude Code vs Managed Agents 深度对比指南
人工智能
星爷AG I3 分钟前
19-4 模糊语言学(AGI基础理论)
人工智能·agi
格林威5 分钟前
工业相机 SDK 在 Docker 容器中的部署与权限配置(含 USB/GigE)
开发语言·人工智能·数码相机·计算机视觉·docker·容器·工业相机
哎嗨人生公众号8 分钟前
手写求导公式,让轨迹优化性能飞升,150ms变成9ms
开发语言·c++·算法·机器人·自动驾驶
SkyXZ~10 分钟前
从零开始的双臂具身VLA起源及现阶段发展综述
人工智能·机械臂·具身智能·vla·openvla·双臂具身·具身智能综述
foundbug99912 分钟前
STM32 内部温度传感器测量程序(标准库函数版)
stm32·单片机·嵌入式硬件·算法
Hello.Reader12 分钟前
为什么学线性代数(一)
线性代数·算法·机器学习
AIData搭子13 分钟前
高并发场景下,如何让你的向量语义检索快人一步?
人工智能
江南月13 分钟前
让智能体边想边做:从 0 理解 ReActAgent 的工作方式
前端·人工智能