Fisher准则例题——给定类内散度矩阵和类样本均值

设有两类样本,两类样本的类内散度矩阵分别为

S 1 = ( 1 1 / 2 1 / 2 1 ) , S 2 = ( 1 − 1 / 2 − 1 / 2 1 ) S_1 = \begin{pmatrix} 1 & 1/2 \\ 1/2 & 1 \end{pmatrix}, \quad S_2 = \begin{pmatrix} 1 & -1/2 \\ -1/2 & 1 \end{pmatrix} S1=(11/21/21),S2=(1−1/2−1/21)

各类样本均值分别为

μ 1 = ( 2 , 0 ) ⊤ 和 μ 2 = ( 2 , 2 ) ⊤ \mu_1 = (2, 0)^\top \text{ 和 } \mu_2 = (2, 2)^\top μ1=(2,0)⊤ 和 μ2=(2,2)⊤

利用 Fisher 准则求其决策面方程(假定分类阈值点为均值),并求新样本 ( 1 , 1 ) ⊤ (1, 1)^\top (1,1)⊤ 属于哪类?


解:

S w = S 1 + S 2 = ( 2 0 0 2 ) S_{\bm w} = S_1 + S_2 = \begin{pmatrix} 2 & 0 \\ 0 & 2 \end{pmatrix} Sw=S1+S2=(2002)

S w − 1 = ( 1 / 2 0 0 1 / 2 ) S_{\bm w}^{-1} = \begin{pmatrix} 1/2 & 0 \\ 0 & 1/2 \end{pmatrix} Sw−1=(1/2001/2)

w = S w − 1 ( μ 1 − μ 2 ) = ( 0 , − 1 ) ⊤ {\bm w} = S_{\bm w}^{-1} (\mu_1 - \mu_2) = (0, -1)^\top w=Sw−1(μ1−μ2)=(0,−1)⊤

y 0 ∗ = w ⊤ μ 1 + μ 2 2 = ( 0 , − 1 ) ( 2 , 1 ) ⊤ = − 1 y_0^* = {\bm w}^\top \frac{\mu_1 + \mu_2}{2} = (0, -1)(2, 1)^\top = -1 y0∗=w⊤2μ1+μ2=(0,−1)(2,1)⊤=−1

w ⊤ ( 1 , 1 ) ⊤ = − 1 = y 0 ∗ {\bm w}^\top (1, 1)^\top = -1 = y_0^* w⊤(1,1)⊤=−1=y0∗

相关推荐
半兽先生2 小时前
大模型技术开发与应用——5.大模型Agent开发(CrewAI)
大数据·人工智能·python·机器学习·ai
hhzz3 小时前
机器学习-算法模型系列文章:07-SVM 一巴掌拍出来的超平面:SVM核函数选错,再干净的数据也救不了你
算法·机器学习·支持向量机
qq_22589174664 小时前
基于Python的中药药材数据可视化分析系统
python·机器学习·数据分析·django
栈溢出的浪漫4 小时前
码界领航:Python拓界-机器学习Web跨平台
python·机器学习·跨平台·web开发·个人项目
小飞猪。。7 小时前
笔记十四:从零开始搞懂 DPO——大模型偏好对齐的“直球”方案
人工智能·深度学习·机器学习
江畔柳前堤14 小时前
信号的本质——从模拟波形到AI中的数据张量
人工智能·深度学习·机器学习·计算机视觉·数据挖掘·语音识别
江畔柳前堤16 小时前
系统的本质——从LTI系统到神经网络
人工智能·深度学习·神经网络·机器学习·计算机视觉·数据挖掘·语音识别
databook18 小时前
用相关性分析消除“冗余特征”
python·机器学习·scikit-learn
SomeB1oody18 小时前
【RustyML入门】1.0. 快速上手
开发语言·后端·机器学习·rust·教程
布鲁飞丝20 小时前
彩笔运维勇闯机器学习--cpu与qps的线性关系
运维·人工智能·机器学习