06.逻辑回归

文章目录

• [Generate Model](#Generate Model)
• • 优化
  • 边界为线性证明
  • 损失函数
  • 比较
  • 逻辑回归不能用均方误差
  • [Generative v.s. Discriminative](#Generative v.s. Discriminative)
  • [Multi-class Classification](#Multi-class Classification)
  • 逻辑回归的限制
  • • 自己找线性变换

Generate Model

假设样本符合高斯分布

即找 μ \mu μ和 σ \sigma σ

优化

共用 Σ \Sigma Σ减少参数，降低过拟合

也称linear model

边界为线性证明

损失函数

比较

逻辑回归不能用均方误差

Generative v.s. Discriminative

Multi-class Classification

逻辑回归的限制

做不了，因为边界是一条直线

可以通过线性变换到另一个线性空间中，重新定义特征向量

自己找线性变换