下面我们将通过全概率公式引出贝叶斯公式。
1 理解全概率公式

图1 全概率公式的图示
如图1所示, A 1 , A 2 , . . . , A n A_{1},A_{2},...,A_{n} A1,A2,...,An构成了一个完备事件组,即:
A 1 ∪ A 2 ∪ . . . ∪ A n = A , A i ∩ A j = ∅ ( i ≠ j ) A_{1} \cup A_{2} \cup ... \cup A_{n} = A,\ A_{i} \cap A_{j} = \varnothing(i \neq j) A1∪A2∪...∪An=A, Ai∩Aj=∅(i=j)
B 1 ∪ B 2 ∪ . . . ∪ B n = B , B i ∩ B j = ∅ ( i ≠ j ) B_{1} \cup B_{2} \cup ... \cup B_{n} = B,\ B_{i} \cap B_{j} = \varnothing(i \neq j) B1∪B2∪...∪Bn=B, Bi∩Bj=∅(i=j)
其中, A A A表示全集,在左上图中, A = Ω A = \Omega A=Ω;在左下图中, A = Ω 1 A = \Omega_{1} A=Ω1。请注意, B 1 , B 2 , . . . , B n B_{1},B_{2},...,B_{n} B1,B2,...,Bn没有构成一个完备事件组。左上图和左下图的区别就是:左上图中的A和B处在同一个全集中;左下图中的A和B独立。在计算左下图的 A ∩ B A \cap B A∩B时,因 A 1 , A 2 , . . . , A n A_{1},A_{2},...,A_{n} A1,A2,...,An而形成了 B 1 , B 2 , . . . , B n B_{1},B_{2},...,B_{n} B1,B2,...,Bn,即:
A 1 ∩ B = B 1 A_{1} \cap B = B_{1} A1∩B=B1
不论是左上图的情况(A和B不独立),还是左下图的情况(A和B独立),都可以得到右图,可见:
A 1 B ∪ A 2 B ∪ . . . ∪ A n B = A B = B A_{1}B \cup A_{2}B \cup ... \cup A_{\ n}B = AB = B A1B∪A2B∪...∪A nB=AB=B
由右图,进一步可得:
P ( B ) = P ( A 1 B ∪ A 2 B ∪ . . . ∪ A n B ) = P ( A B ) = P ( A 1 B ) + P ( A 2 B ) + ⋯ + P ( A n B ) P(B) = P\left( A_{1}B \cup A_{2}B \cup ... \cup A_{\ n}B \right) = P(AB) = P\left( A_{1}B \right) + P\left( A_{2}B \right) + \cdots + P\left( A_{n}B \right) P(B)=P(A1B∪A2B∪...∪A nB)=P(AB)=P(A1B)+P(A2B)+⋯+P(AnB)
要想打好概率统计基础,大家可以参见清华大学出版社的《人人可懂的概率统计》。
答疑解惑:
**学生问:**老师,由图1中的左下图和右图结合来看,已经有等式 A B = B AB = B AB=B,那是否可以得到 P ( A B ) = P ( B ) P(AB) = P(B) P(AB)=P(B)?
**老师答:**可以。因为根据左下图,A和B独立,必有 P ( A B ) = P ( A ) P ( B ) P(AB) = P(A)P(B) P(AB)=P(A)P(B)。而此前说过的已知条件中, A = Ω 1 A = \Omega_{1} A=Ω1,故 P ( A ) = 1 P(A) = 1 P(A)=1,从而可得到 P ( A B ) = P ( B ) P(AB) = P(B) P(AB)=P(B)。
总结前述的两种情况来看,如果我们实在混淆不清,就只看图3-4中的右图,可明确的得出:
P ( B ) = P ( A 1 B ∪ A 2 B ∪ . . . ∪ A n B ) = P ( A 1 B ) + P ( A 2 B ) + ⋯ + P ( A n B ) P(B) = P\left( A_{1}B \cup A_{2}B \cup ... \cup A_{\ n}B \right) = P\left( A_{1}B \right) + P\left( A_{2}B \right) + \cdots + P\left( A_{n}B \right) P(B)=P(A1B∪A2B∪...∪A nB)=P(A1B)+P(A2B)+⋯+P(AnB)
如果用累加符号∑来表示, P ( B ) P(B) P(B)可简化表达为:
P ( B ) = P ( A 1 B ) + P ( A 2 B ) + ⋯ + P ( A n B ) = ∑ i = 1 n P ( A i B ) P(B) = P\left( A_{1}B \right) + P\left( A_{2}B \right) + \cdots + P\left( A_{n}B \right) = \sum_{i = 1}^{n}{P\left( A_{i}B \right)} P(B)=P(A1B)+P(A2B)+⋯+P(AnB)=i=1∑nP(AiB)
根据条件概率公式,可得:
P ( B ) = ∑ i = 1 n P ( A i B ) = ∑ i = 1 n P ( B ∣ A i ) P ( A i ) P(B) = \sum_{i = 1}^{n}{P\left( A_{i}B \right)} = \sum_{i = 1}^{n}\left\lbrack P\left( B|A_{i} \right)P\left( A_{i} \right) \right\rbrack P(B)=i=1∑nP(AiB)=i=1∑nP(B∣Ai)P(Ai)
这就是全概率公式。
2 关于必然事件和不可能事件的独立性
从这次的分析中,我们可以引申出两条推论:
(1)必然事件 Ω \Omega Ω**,与任意事件都相互独立。因为: P ( A Ω ) = P ( A ) P ( Ω ) = P ( A ) P(A\Omega) = P(A)P(\Omega) = P(A) P(AΩ)=P(A)P(Ω)=P(A)。
(2)不可能事件 ∅ \varnothing ∅ ,与任意事件都相互独立。**因为: P ( A ∅ ) = P ( A ) P ( ∅ ) = 0 P(A\varnothing) = P(A)P(\varnothing) = 0 P(A∅)=P(A)P(∅)=0。
这也进一步说明了为什么我们在讨论事件的独立性时,要特别注意必然事件和不可能事件。要想打好概率统计基础,大家可以参见清华大学出版社的《人人可懂的概率统计》。
3 引出贝叶斯公式
继续看图1中的右图,根据条件概率公式和全概率公式,可以得到:
P ( A i ∣ B ) = P ( A i B ) P ( B ) = P ( B ∣ A i ) P ( A i ) ∑ i = 1 n P ( B ∣ A i ) P ( A i ) P\left( A_{i}|B \right) = \frac{P\left( A_{i}B \right)}{P(B)} = \frac{P\left( B|A_{i} \right)P\left( A_{i} \right)}{\sum_{i = 1}^{n}\left\lbrack P\left( B|A_{i} \right)P\left( A_{i} \right) \right\rbrack} P(Ai∣B)=P(B)P(AiB)=∑i=1nP(B∣Ai)P(Ai)P(B∣Ai)P(Ai)
这个贝叶斯公式看起来有点复杂,整一个这么复杂的公式出来有什么用呢?可以在已知事件 B B B发生的前提下,用来求完备事件组中 A i A_{i} Ai的概率。公式右边是已知的完备事件组中 A i A_{i} Ai的概率,以及已知事件 A i A_{i} Ai发生的条件下, B B B发生的概率。公式是不是有点记不住?后续我们再一起来做练习加深印象。
贝叶斯公式都听懂了吧?不管有没有听懂,都来评论区说说你的想法、问题你的疑问吧。