贝叶斯学习
文章目录
贝叶斯学习主要是依靠先验概率来推出后验概率，然后更具后验概率去验证。其主流分为朴素贝叶斯和高斯分布下的贝叶斯估计。
相关概率知识
**先验概率：**指根据以往经验和分析。在实验或采样前就可以得到的概率。
**后验概率：**指某件事已经发生，想要计算这件事发生的原因是由某个因素引起的概率。
**联合概率：**指是事件同时发生的概率，例如现在A,B两个事件同时发生的概率，记为P(A,B)、P(A∩B)、P(AB)。
若A、B事件相互独立，则存在
P ( A B ) = P ( A ) P ( B ) P(AB)=P(A)P(B) P(AB)=P(A)P(B)
条件概率 ：指一个事件发生后另一个事件发生的概率，一般情况下B表示某一个因素，A表示结果，P(A|B)表示在因素B的条件下A发生的概率，即由因求果，其计算公式如下：
P ( B ∣ A ) = P ( A B ) P ( A ) P(B|A)=\frac{P(AB)}{P(A)} P(B∣A)=P(A)P(AB)
若A、B事件相互独立，则存在
P ( B ∣ A ) = P ( A B ) P ( A ) = P ( A ) P ( B ) P ( A ) = P ( B ) P(B|A)=\frac{P(AB)}{P(A)}=\frac{P(A)P(B)}{P(A)}=P(B) P(B∣A)=P(A)P(AB)=P(A)P(A)P(B)=P(B)
全概率公式：
P ( A ) = ∑ i = 1 n P ( B i ) P ( A ∣ B i ) P(A)=\sum_{i=1}^nP(B_i)P(A|B_i) P(A)=i=1∑nP(Bi)P(A∣Bi)
贝叶斯公式：
P ( B i ∣ A ) = P ( B i A ) P ( A ) = P ( A ∣ B i ) P ( B ) P ( A ) = P ( A ∣ B i ) P ( B ) ∑ i = 1 n P ( B i ) P ( A ∣ B i ) P(B_i|A)=\frac{P(B_iA)}{P(A)}=\frac{P(A|B_i)P(B)}{P(A)}=\frac{P(A|B_i)P(B)}{\sum_{i=1}^nP(B_i)P(A|B_i)} P(Bi∣A)=P(A)P(BiA)=P(A)P(A∣Bi)P(B)=∑i=1nP(Bi)P(A∣Bi)P(A∣Bi)P(B)
高斯分布：
若随机变量 X X X满足 X ∼ N ( μ , σ 2 ) X\sim N(\mu,\sigma^2) X∼N(μ,σ2)，其中 μ \mu μ与 σ \sigma σ分别为均值与标准差
f ( x ) = 1 2 π σ e − ( x − μ ) 2 2 σ 2 f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}} f(x)=2π σ1e−2σ2(x−μ)2
标准差：
S = ∑ ( x i − x ‾ ) 2 m − 1 S=\sqrt{\frac{\sum (x_i-\overline{x})^2}{m-1}} S=m−1∑(xi−x)2
协方差：
E = ∑ ( x i − x ‾ ) ( y i − y ‾ ) m − 1 E=\frac{\sum(x_i-\overline x)(y_i-\overline y)}{m-1} E=m−1∑(xi−x)(yi−y)
协方差矩阵：
[ E 11 E 12 ⋯ E 1 n E 21 E 22 ⋯ E 2 n ⋮ ⋮ ⋱ ⋮ E m 1 E m 2 ⋯ E m n ] \begin{bmatrix} E_{11}&E_{12}&{\cdots}&E_{1n}\\ E_{21}&E_{22}&{\cdots}&E_{2n}\\ {\vdots}&{\vdots}&{\ddots}&{\vdots}\\ E_{m1}&E_{m2}&{\cdots}&E_{mn}\\ \end{bmatrix} E11E21⋮Em1E12E22⋮Em2⋯⋯⋱⋯E1nE2n⋮Emn
朴素贝叶斯
对于 x i x_i xi离散样本的情况下，其中 D c D_c Dc为对样本 c c c的数目统计：
P ( c ) = ∣ ∣ D c ∣ ∣ ∣ ∣ D ∣ ∣ P(c)=\frac{||D_c||}{||D||} P(c)=∣∣D∣∣∣∣Dc∣∣
P ( x i ∣ c ) = ∣ D x i , c ∣ ∣ D c ∣ P(x_{i}|c)=\frac{|D_{x_i,c}|}{|D_c|} P(xi∣c)=∣Dc∣∣Dxi,c∣
对于 x i x_i xi为连续样本的情况下：
P ( x i ∣ c ) = 1 2 π σ c , j e − ( x i − μ c ; i ) 2 2 σ c , i 2 P(x_i|c)=\frac{1}{\sqrt{2\pi}\sigma_{c,j}}e^{-\frac{(x_i-\mu_{c;i})^2}{2\sigma_{c,i}^2}} P(xi∣c)=2π σc,j1e−2σc,i2(xi−μc;i)2
在对于多特征的样本，朴素贝叶斯假设各个特征独立，即特征A与B满足
P ( A B ) = P ( A ) P ( B ) P(AB)=P(A)P(B) P(AB)=P(A)P(B)
其中 c c c为结果， x \pmb x x为特征
P ( c ∣ x ) = P ( c ) P ( x ∣ c ) P ( x ) ∝ P ( c ) P ( x ∣ c ) = P ( c ) Π i = 1 d P ( x i ∣ c ) P(c|\pmb x)=\frac{P(c)P(\pmb x|c)}{P(\pmb x)}\propto P(c)P(\pmb x|c)=P(c)\Pi_{i=1}^{d}P(x_i|c) P(c∣x)=P(x)P(c)P(x∣c)∝P(c)P(x∣c)=P(c)Πi=1dP(xi∣c)
为了避免出现出现 P ( c ) = 0 P(c)=0 P(c)=0的情况，采用拉普拉斯平滑进行处理
P ( c ) = ∣ ∣ D c ∣ ∣ + 1 ∣ ∣ D ∣ ∣ + N N 为类别数 P(c)=\frac{||D_c||+1}{||D||+N} \ \ \ N为类别数 P(c)=∣∣D∣∣+N∣∣Dc∣∣+1 N为类别数
P ( x i ∣ c ) = ∣ ∣ D c , i ∣ ∣ + 1 ∣ ∣ D c ∣ ∣ + N i N i 为 x i 可能取的类别数 P(x_i |c)=\frac{||D_{c,i}||+1}{||D_c||+N_i} \ \ \ N_i为x_i可能取的类别数 P(xi∣c)=∣∣Dc∣∣+Ni∣∣Dc,i∣∣+1 Ni为xi可能取的类别数
多维正态密度贝叶斯
多维正态分布的概率密度 N ∼ ( μ , Σ ) N\sim(\mu,\Sigma) N∼(μ,Σ)， μ \mu μ， Σ \Sigma Σ分别为正态分布的均值与协方差矩阵
P ( x ) = 1 ( 2 π ) d / 2 ∣ Σ ∣ e − 1 2 ( x − μ ) T Σ − 1 ( x − μ ) P(x)=\frac{1}{(2\pi)^{d/2}|\Sigma|}e^{-\frac{1}{2}(x-\mu)^T\Sigma^{-1}(x-\mu)} P(x)=(2π)d/2∣Σ∣1e−21(x−μ)TΣ−1(x−μ)
