机器学习-线性判别函数

简单来说这节就是线性分类器,从基于概率密度估计的分类器设计到直接基于样本的直接分类器设计;

首先选定判别函数类和一定的目标,利用样本集确定出函数类中的某些未知参数,使所选的准则最好。

一、直接确定判别函数

设定判别函数形式,用样本集确定参数,使用准则函数,表达分类器应该满足的要求,这些准则的最优并不一定于错误率最小相一致:次优分类器。

广义线性判别函数是形式最简单的判别函数,但是不能用于复杂情况:

二、Fisher Linear Discriminant analysis

理论上可以证明,PCA在数据单个高斯分布是最佳的,有利于与表示数据,在分类问题中,不同类别的分布不能相同

PCA的核心思想是方差最大+相互正交,两个均值之间的距离,和两个标准差。

FDA的出发点是把所有样本投影到一维,使在投影线上最易于分类

三、感知机 Perceptron

最小平方误差MSE准则函数

相关推荐
Master_oid几秒前
机器学习35:元学习的应用
人工智能·学习·机器学习
Echo_NGC22374 分钟前
【卷积神经网络 CNN】一文讲透卷积神经网络CNN的核心概念与演进历程
人工智能·深度学习·神经网络·目标检测·机器学习·自然语言处理·cnn
achi0106 分钟前
Ubuntu 24 Desktop LTS 部署 AI 智能体 OpenClaw
人工智能·ai agent·openclaw·openclaw 安装·openclaw 部署·ubuntu openclaw·agent 部署
野犬寒鸦6 分钟前
JVM垃圾回收机制面试常问问题及详解
java·服务器·开发语言·jvm·后端·算法·面试
吴佳浩 Alben9 分钟前
CUDA_VISIBLE_DEVICES、多进程与容器化陷阱
人工智能·pytorch·语言模型·transformer
风酥糖12 分钟前
Godot游戏练习01-第16节-游戏中的状态机
算法·游戏·godot
budingxiaomoli16 分钟前
优选算法--优先级队列(堆)
算法
Trouvaille ~17 分钟前
【优选算法篇】哈希表——空间换时间的极致艺术
c++·算法·leetcode·青少年编程·蓝桥杯·哈希算法·散列表
bbbb36518 分钟前
算法调优的多目标优化与性能平衡模型的技术8
算法
用户27042728381218 分钟前
排查 OpenClaw token 暴涨:MEMORY.md 藏了83行废话,3个Cron任务静默失败
人工智能