机器学习-线性判别函数

简单来说这节就是线性分类器,从基于概率密度估计的分类器设计到直接基于样本的直接分类器设计;

首先选定判别函数类和一定的目标,利用样本集确定出函数类中的某些未知参数,使所选的准则最好。

一、直接确定判别函数

设定判别函数形式,用样本集确定参数,使用准则函数,表达分类器应该满足的要求,这些准则的最优并不一定于错误率最小相一致:次优分类器。

广义线性判别函数是形式最简单的判别函数,但是不能用于复杂情况:

二、Fisher Linear Discriminant analysis

理论上可以证明,PCA在数据单个高斯分布是最佳的,有利于与表示数据,在分类问题中,不同类别的分布不能相同

PCA的核心思想是方差最大+相互正交,两个均值之间的距离,和两个标准差。

FDA的出发点是把所有样本投影到一维,使在投影线上最易于分类

三、感知机 Perceptron

最小平方误差MSE准则函数

相关推荐
会周易的程序员10 分钟前
唯识学架构的AI:Agent个体意识与佛陀出现可能性的推演
人工智能
白狐_79821 分钟前
408 数据结构算法题 01:线性表暴力求解保分指南
java·数据结构·算法
weixin_7275356226 分钟前
Loop 已死,Graph 新生:AI 工作流的范式革命
android·人工智能·rxjava
乐观勇敢坚强的老彭34 分钟前
C++信奥:开关门、开关灯问题
开发语言·c++·算法
冻柠檬飞冰走茶34 分钟前
PTA基础编程题目集 7-31 字符串循环左移(C语言实现)
c语言·开发语言·数据结构·算法
abcefg_h39 分钟前
Agent Skill 体系全解:从渐进式披露到生产级管控
人工智能·microsoft
KaneLogger40 分钟前
一套系统,让 AI 写代码的速度变成生产力
人工智能·程序员·代码规范
Hi李耶1 小时前
【LeetCode】4-寻找两个正序数组的中位数
算法·leetcode·职场和发展
眼泪划过的星空1 小时前
LangChain 两大基础提示词模板:PromptTemplate 与 ChatPromptTemplate 详解
人工智能·python·langchain
小码哥哥1 小时前
如何评价“构建企业级 AI 知识库“这一趋势?从技术架构到落地实践的完整分析
人工智能·架构