感知机:单层,多层(二分类,多分类)

单层感知机:输入层→输出层"(输出层 1 个神经元)

1.P为间隔,r代表数据的大小,r数据多则收敛变慢。

2.对 "理想分类参数w,b进行**归一化,**限制参数的 "规模"

无论怎么切都不能分割这两类别

多层感知机:输入层→隐藏层→输出层

回到xor问题,如何解决?

x,y代表样本的两个维度,中间层记录样本分类结果,输出层也为样本分类结果;类似于两个函数相加得到的结果

输入维度,隐层一个节点代表一个函数,输出为类别;

单分类:输出层用 1 个神经元 +激活

参数解释如下:

当西格玛为线性时

常用激活函数

一个指数运算

两个指数运算

不用指数运算(快,省)

多分类:输出层用N个神经元 +激活

所有输入拉到0-1范围,使得y相加得到1(概率)

参数解释如下:

理解:多维数据输入,数据结果为类别则相较输入的维度数量较少,一般来说需要慢慢压缩维度,既使用多隐藏层;类似于右边网络变(大,小,小,不变)。

多层感知机从零实现

李沐深度学习35号视频Q&A

相关推荐
敏叔V5872 分钟前
AI智能体的工具学习进阶:零样本API理解与调用
人工智能·学习
徐小夕@趣谈前端11 分钟前
拒绝重复造轮子?我们偏偏花365天,用Vue3写了款AI协同的Word编辑器
人工智能·编辑器·word
vortex511 分钟前
几种 dump hash 方式对比分析
算法·哈希算法
阿里云大数据AI技术12 分钟前
全模态、多引擎、一体化,阿里云DLF3.0构建Data+AI驱动的智能湖仓平台
人工智能·阿里云·云计算
陈天伟教授12 分钟前
人工智能应用- 语言理解:05.大语言模型
人工智能·语言模型·自然语言处理
池央14 分钟前
CANN GE 深度解析:图编译器的核心优化策略、执行流调度与模型下沉技术原理
人工智能·ci/cd·自动化
七月稻草人16 分钟前
CANN ops-nn:AIGC底层神经网络算力的核心优化引擎
人工智能·神经网络·aigc·cann
种时光的人17 分钟前
CANN仓库核心解读:ops-nn打造AIGC模型的神经网络算子核心支撑
人工智能·神经网络·aigc
晚霞的不甘19 分钟前
守护智能边界:CANN 的 AI 安全机制深度解析
人工智能·安全·语言模型·自然语言处理·前端框架
谢璞21 分钟前
中国AI最疯狂的一周:50亿金元肉搏,争夺未来的突围之战
人工智能