【西瓜书机器学习】第五章 神经网络

一起啃西瓜书(5)-神经网络《机器学习-周志华》 - 知乎 (zhihu.com)参考进行自我复习整理,侵删!

1、神经元模型
  1. 神经网络定义:神经网络是由 具有适应性简单单元 组成的广泛 并行互连 的网络。
  2. M-P神经元模型:输入、处理、输出

第二步超过阈值则兴奋(做出反应),否则不兴奋(没反应) ,通过f(x)阶跃函数实现,但阶跃函数不连续,使用sigmoid函数。

2、感知机
  1. 组成:两层,输入层 接受外界信号、输出层是"M-P神经元"。

  2. 明确:输入层 的神经元不是"M-P神经元",他们**没有"阈值"**可言,无激活函数

  3. 把阈值转换为类似权重*输入值 的形式:

  4. 学习规则:对于一个样例(x,y),当前感知机的输出为 𝑦^,也就是y为根据x得到的真实的y,也是我们期望感知机能得到的y,但是感知机实际输出的为 𝑦^,两者之间的差距为y- 𝑦^,为了使输出更接近,也就是使y- 𝑦^最小化,我们需要调整感知机参数(所有权重及阈值,阈值已经被转换为了权重形式),调整公式如下:

    也就是学习率越大,调整幅度越大;感知机输出与实际之间的差距越大,调整幅度越大;该神经元的输入值越大,调整幅度越大。同时我们也可以得到如下结论:

  • 若感知机预测正确,不需要调整
  • w向着预测正确的方向调整
  • 根据错误的程度对参数进行调
  1. 可解决问题:线性可分问题。也就是在坐标系中两种类型之间可以用一条线划分开,比如与或非问题可划分如下,其中蓝色为正样本,绿色为负样本。

但是异或问题至少要用两条线才可分割开,如下图所示,这也就意味着感知机无法解决该问题,需要引入两层感知机来解决。

相关推荐
撞南墙者2 分钟前
OpenCV自学系列(1)——简介和GUI特征操作
人工智能·opencv·计算机视觉
OCR_wintone4213 分钟前
易泊车牌识别相机,助力智慧工地建设
人工智能·数码相机·ocr
王哈哈^_^25 分钟前
【数据集】【YOLO】【VOC】目标检测数据集,查找数据集,yolo目标检测算法详细实战训练步骤!
人工智能·深度学习·算法·yolo·目标检测·计算机视觉·pyqt
一者仁心31 分钟前
【AI技术】PaddleSpeech
人工智能
是瑶瑶子啦39 分钟前
【深度学习】论文笔记:空间变换网络(Spatial Transformer Networks)
论文阅读·人工智能·深度学习·视觉检测·空间变换
EasyCVR43 分钟前
萤石设备视频接入平台EasyCVR多品牌摄像机视频平台海康ehome平台(ISUP)接入EasyCVR不在线如何排查?
运维·服务器·网络·人工智能·ffmpeg·音视频
柳鲲鹏1 小时前
OpenCV视频防抖源码及编译脚本
人工智能·opencv·计算机视觉
西柚小萌新1 小时前
8.机器学习--决策树
人工智能·决策树·机器学习
向阳12181 小时前
Bert快速入门
人工智能·python·自然语言处理·bert
jndingxin1 小时前
OpenCV视觉分析之目标跟踪(8)目标跟踪函数CamShift()使用
人工智能·opencv·目标跟踪