(统计学习方法|李航)第一章统计学习方法概论七八九十节——生成模型与判别模型,分类问题,标注问题,回归问题

目录

一,生成模型与判别模型

二,分类问题

三,标注问题

四,回归问题


一,生成模型与判别模型

P(X,Y)是联合概率分布

只要是出现联合概率分布,就一定是生成模型

这里的P(Y|X)表示的是以X为条件Y的概率分布

隐马尔可夫模型时间上是一个时间序列的生成模型

判别方法就是直接去求概率

生成模型VS判别模型

  • 生成模型需要大量的数据将小狗和大象进行分类
  • 判别模型只需要利用差别去分类就可以了

比如说:

可以用特征鼻子的长度去判断是大象还是小狗------生成模型

需要收集耳朵,尾巴,脚等一系列特征去判断是大象还是小狗------判别模型

监督学习的应用:分类问题,标注问题,回归问题

二,分类问题

当输入变量和输出变量

  • 均为离散变量为分类问题
  • 均为变量序列为标注问题
  • 均为连续变量为回归问题

输出的类别(class)

评估分类器性能的指标一般是分类准确率

其定义是:对于给定的测试数据集,分类器正确分类的样本数和总样本数之比,也就是损失函数是0-1损失时候,测试数据集上的准确率。

true positive

false negative

前面的TF(代表的是预测正确与否)

后面的PN(代表的是预测数是正类数还是负类数)

画图更好记:
background:

根据特征值预测是否会被女孩子喜欢,

  • 结果中预测正确的就是predict(精确率)(预测正确里面有多少是正确的)
  • 在被女孩子喜欢的人中被预测出来的就是true(召回率)(所有正确的人里面召回了多少)

三,标注问题

标注问题也是一个监督学习问题。可以认为标记问题是分类问题的一个推广。

标注问题的输入是一个观测序列,输出的是一个标记序列或状态序列。也就是说,分类问题的输出是一个值,而标注问题输出是一个向量,向量的每个值属于一种标记类型。

标注常用的机器学习方法有:隐性马尔可夫模型、条件随机场。

模型可以是条件概率的形式也可以是决策函数的形式

  • 输入与输出均为22个序列
  • 名词标注为E,形容词标注为B,其他标注为O

四,回归问题

回归用于预测输入变量和输出变量之间的关系:

特别是当输入变量的值发生变化时,输出变量的值随之发生的变化。

回归模型正是表示从输入变量到输出变量之间映射的函数。

回归问题的学习等价于函数拟合:

  • 选择一条函数曲线使得很好地拟合已知数据且很好地拟合已知数据且很好地预测未知数据。
  • 回归问题按照输入变量的个数,分为一元回归和多元回归;
  • 按照输入变量和输出变量之间关系的类型即模型的类型,分为线性回归和非线性回归。

回归学习最常用的损失函数是平方损失函数,在此情况下,回归问题可以用最小二乘法求解。

相关推荐
轻赚时代4 小时前
新手做国风视频难?AI + 敦煌美学高效出片教程
人工智能·经验分享·笔记·创业创新·课程设计·学习方法
小龙报2 天前
《彻底理解C语言指针全攻略(3)》
c语言·开发语言·windows·git·创业创新·学习方法·visual studio
li星野2 天前
打工人日报#20251010
笔记·程序人生·fpga开发·学习方法
jyan_敬言2 天前
【Docker】docker存储配置与管理
docker·容器·dubbo·学习方法
自我陶醉@2 天前
计算机组成原理---计算机系统概述
考研·学习方法·408·计算机组成原理·计算机硬件
xwz小王子3 天前
Science Robotics 研究综述:基于学习方法的机器人操作动力学模型
机器人·学习方法
小龙报3 天前
《彻底理解C语言指针全攻略(2)》
c语言·开发语言·c++·visualstudio·github·学习方法
破晓之翼3 天前
控制论的定义、工程意义及系统功能整合
设计模式·软件工程·产品经理·学习方法
峰顶听歌的鲸鱼4 天前
38.Shell脚本编程2
linux·运维·服务器·笔记·学习方法
LXS_3574 天前
Day 09(下) B2a实例解说----exampleB2a.cc+ActionInitialization+PrimaryGeneratorAction
笔记·学习方法·改行学it·geant4·b2a