机器学习-线性判别函数

简单来说这节就是线性分类器,从基于概率密度估计的分类器设计到直接基于样本的直接分类器设计;

首先选定判别函数类和一定的目标,利用样本集确定出函数类中的某些未知参数,使所选的准则最好。

一、直接确定判别函数

设定判别函数形式,用样本集确定参数,使用准则函数,表达分类器应该满足的要求,这些准则的最优并不一定于错误率最小相一致:次优分类器。

广义线性判别函数是形式最简单的判别函数,但是不能用于复杂情况:

二、Fisher Linear Discriminant analysis

理论上可以证明,PCA在数据单个高斯分布是最佳的,有利于与表示数据,在分类问题中,不同类别的分布不能相同

PCA的核心思想是方差最大+相互正交,两个均值之间的距离,和两个标准差。

FDA的出发点是把所有样本投影到一维,使在投影线上最易于分类

三、感知机 Perceptron

最小平方误差MSE准则函数

相关推荐
全栈小精灵3 分钟前
Winform入门
开发语言·机器学习·c#
txinyu的博客5 分钟前
map和unordered_map的性能对比
开发语言·数据结构·c++·算法·哈希算法·散列表
万行15 分钟前
机器学习&第四章支持向量机
人工智能·机器学习·支持向量机
幻云201019 分钟前
Next.js之道:从入门到精通
人工智能·python
搞笑症患者20 分钟前
压缩感知(Compressed Sensing, CS)
算法·最小二乘法·压缩感知·正交匹配追踪omp·迭代阈值it算法
im_AMBER24 分钟前
Leetcode 101 对链表进行插入排序
数据结构·笔记·学习·算法·leetcode·排序算法
予枫的编程笔记24 分钟前
【Java集合】深入浅出 Java HashMap:从链表到红黑树的“进化”之路
java·开发语言·数据结构·人工智能·链表·哈希算法
llddycidy26 分钟前
峰值需求预测中的机器学习:基础、趋势和见解(最新文献)
网络·人工智能·深度学习
larance26 分钟前
机器学习的一些基本知识
人工智能·机器学习
l1t31 分钟前
利用DeepSeek辅助拉取GitHub存储库目录跳过特定文件方法
人工智能·github·deepseek