文章目录
- [Generate Model](#Generate Model)
Generate Model
![](https://file.jishuzhan.net/article/1796362953151221762/a16e6e792c0b67096db1846745e576a0.webp)
假设样本符合高斯分布
即找 μ \mu μ和 σ \sigma σ
优化
共用 Σ \Sigma Σ减少参数,降低过拟合
也称linear model
边界为线性证明
![](https://file.jishuzhan.net/article/1796362953151221762/e3d25552fa588587fdb7db65bd295715.webp)
损失函数
比较
逻辑回归不能用均方误差
Generative v.s. Discriminative
Multi-class Classification
![](https://file.jishuzhan.net/article/1796362953151221762/f82c5ef6520fa8b4db86cf14b483c71b.webp)
逻辑回归的限制
![](https://file.jishuzhan.net/article/1796362953151221762/485454904a7498777eaddf5ebeacb01c.webp)
做不了,因为边界是一条直线
可以通过线性变换到另一个线性空间中,重新定义特征向量
自己找线性变换
![](https://file.jishuzhan.net/article/1796362953151221762/365d38b966e24003d601b5bb8cf95a51.webp)