贝叶斯入门:由全概率公式引出贝叶斯公式

下面我们将通过全概率公式引出贝叶斯公式。

1 理解全概率公式

图1 全概率公式的图示

如图1所示, A 1 , A 2 , . . . , A n A_{1},A_{2},...,A_{n} A1,A2,...,An构成了一个完备事件组,即:

A 1 ∪ A 2 ∪ . . . ∪ A n = A , A i ∩ A j = ∅ ( i ≠ j ) A_{1} \cup A_{2} \cup ... \cup A_{n} = A,\ A_{i} \cap A_{j} = \varnothing(i \neq j) A1∪A2∪...∪An=A, Ai∩Aj=∅(i=j)

B 1 ∪ B 2 ∪ . . . ∪ B n = B , B i ∩ B j = ∅ ( i ≠ j ) B_{1} \cup B_{2} \cup ... \cup B_{n} = B,\ B_{i} \cap B_{j} = \varnothing(i \neq j) B1∪B2∪...∪Bn=B, Bi∩Bj=∅(i=j)

其中, A A A表示全集,在左上图中, A = Ω A = \Omega A=Ω;在左下图中, A = Ω 1 A = \Omega_{1} A=Ω1。请注意, B 1 , B 2 , . . . , B n B_{1},B_{2},...,B_{n} B1,B2,...,Bn没有构成一个完备事件组。左上图和左下图的区别就是:左上图中的A和B处在同一个全集中;左下图中的A和B独立。在计算左下图的 A ∩ B A \cap B A∩B时,因 A 1 , A 2 , . . . , A n A_{1},A_{2},...,A_{n} A1,A2,...,An而形成了 B 1 , B 2 , . . . , B n B_{1},B_{2},...,B_{n} B1,B2,...,Bn,即:

A 1 ∩ B = B 1 A_{1} \cap B = B_{1} A1∩B=B1

不论是左上图的情况(A和B不独立),还是左下图的情况(A和B独立),都可以得到右图,可见:

A 1 B ∪ A 2 B ∪ . . . ∪ A n B = A B = B A_{1}B \cup A_{2}B \cup ... \cup A_{\ n}B = AB = B A1B∪A2B∪...∪A nB=AB=B

由右图,进一步可得:

P ( B ) = P ( A 1 B ∪ A 2 B ∪ . . . ∪ A n B ) = P ( A B ) = P ( A 1 B ) + P ( A 2 B ) + ⋯ + P ( A n B ) P(B) = P\left( A_{1}B \cup A_{2}B \cup ... \cup A_{\ n}B \right) = P(AB) = P\left( A_{1}B \right) + P\left( A_{2}B \right) + \cdots + P\left( A_{n}B \right) P(B)=P(A1B∪A2B∪...∪A nB)=P(AB)=P(A1B)+P(A2B)+⋯+P(AnB)

要想打好概率统计基础,大家可以参见清华大学出版社的《人人可懂的概率统计》。

答疑解惑:

**学生问:**老师,由图1中的左下图和右图结合来看,已经有等式 A B = B AB = B AB=B,那是否可以得到 P ( A B ) = P ( B ) P(AB) = P(B) P(AB)=P(B)?

**老师答:**可以。因为根据左下图,A和B独立,必有 P ( A B ) = P ( A ) P ( B ) P(AB) = P(A)P(B) P(AB)=P(A)P(B)。而此前说过的已知条件中, A = Ω 1 A = \Omega_{1} A=Ω1,故 P ( A ) = 1 P(A) = 1 P(A)=1,从而可得到 P ( A B ) = P ( B ) P(AB) = P(B) P(AB)=P(B)。

总结前述的两种情况来看,如果我们实在混淆不清,就只看图3-4中的右图,可明确的得出:

P ( B ) = P ( A 1 B ∪ A 2 B ∪ . . . ∪ A n B ) = P ( A 1 B ) + P ( A 2 B ) + ⋯ + P ( A n B ) P(B) = P\left( A_{1}B \cup A_{2}B \cup ... \cup A_{\ n}B \right) = P\left( A_{1}B \right) + P\left( A_{2}B \right) + \cdots + P\left( A_{n}B \right) P(B)=P(A1B∪A2B∪...∪A nB)=P(A1B)+P(A2B)+⋯+P(AnB)

如果用累加符号∑来表示, P ( B ) P(B) P(B)可简化表达为:

P ( B ) = P ( A 1 B ) + P ( A 2 B ) + ⋯ + P ( A n B ) = ∑ i = 1 n P ( A i B ) P(B) = P\left( A_{1}B \right) + P\left( A_{2}B \right) + \cdots + P\left( A_{n}B \right) = \sum_{i = 1}^{n}{P\left( A_{i}B \right)} P(B)=P(A1B)+P(A2B)+⋯+P(AnB)=i=1∑nP(AiB)

根据条件概率公式,可得:

P ( B ) = ∑ i = 1 n P ( A i B ) = ∑ i = 1 n P ( B ∣ A i ) P ( A i ) P(B) = \sum_{i = 1}^{n}{P\left( A_{i}B \right)} = \sum_{i = 1}^{n}\left\lbrack P\left( B|A_{i} \right)P\left( A_{i} \right) \right\rbrack P(B)=i=1∑nP(AiB)=i=1∑nP(B∣Ai)P(Ai)

这就是全概率公式。

2 关于必然事件和不可能事件的独立性

从这次的分析中,我们可以引申出两条推论:

(1)必然事件 Ω \Omega Ω**,与任意事件都相互独立。因为: P ( A Ω ) = P ( A ) P ( Ω ) = P ( A ) P(A\Omega) = P(A)P(\Omega) = P(A) P(AΩ)=P(A)P(Ω)=P(A)。
(2)不可能事件 ∅ \varnothing ∅
,与任意事件都相互独立。**因为: P ( A ∅ ) = P ( A ) P ( ∅ ) = 0 P(A\varnothing) = P(A)P(\varnothing) = 0 P(A∅)=P(A)P(∅)=0。

这也进一步说明了为什么我们在讨论事件的独立性时,要特别注意必然事件和不可能事件。要想打好概率统计基础,大家可以参见清华大学出版社的《人人可懂的概率统计》。

3 引出贝叶斯公式

继续看图1中的右图,根据条件概率公式和全概率公式,可以得到:

P ( A i ∣ B ) = P ( A i B ) P ( B ) = P ( B ∣ A i ) P ( A i ) ∑ i = 1 n P ( B ∣ A i ) P ( A i ) P\left( A_{i}|B \right) = \frac{P\left( A_{i}B \right)}{P(B)} = \frac{P\left( B|A_{i} \right)P\left( A_{i} \right)}{\sum_{i = 1}^{n}\left\lbrack P\left( B|A_{i} \right)P\left( A_{i} \right) \right\rbrack} P(Ai∣B)=P(B)P(AiB)=∑i=1nP(B∣Ai)P(Ai)P(B∣Ai)P(Ai)

这个贝叶斯公式看起来有点复杂,整一个这么复杂的公式出来有什么用呢?可以在已知事件 B B B发生的前提下,用来求完备事件组中 A i A_{i} Ai的概率。公式右边是已知的完备事件组中 A i A_{i} Ai的概率,以及已知事件 A i A_{i} Ai发生的条件下, B B B发生的概率。公式是不是有点记不住?后续我们再一起来做练习加深印象。

贝叶斯公式都听懂了吧?不管有没有听懂,都来评论区说说你的想法、问题你的疑问吧。

相关推荐
叼烟扛炮1 小时前
Linux 学习笔记(四十七):TCP 状态机与 tcpdump 抓包排雷实战
linux·网络·笔记·学习·tcp/ip·tcpdump
蒸蒸yyyyzwd2 小时前
从面经中学到的 5 个知识
笔记
東隅已逝,桑榆非晚2 小时前
红黑树:从概念到实现
数据结构·c++·笔记·学习
ljt27249606612 小时前
Python笔记(十三)--异常
笔记·python
动词ing2 小时前
【学习笔记】动态数码管显示
笔记·学习
陈年老古董2 小时前
ClickHouse 单机搭建记录
hive·笔记·学习·clickhouse·硬件架构
一级新生3 小时前
LLM _ Agent _ Skill _ 专家 的关系与选型笔记
java·开发语言·人工智能·笔记·大模型·智能体·skill
2603_969694853 小时前
【MySQL学习笔记】DQL(基础查询/条件/聚合/分组/排序/分页)与 DCL(用户权限)全解析
数据库·笔记·学习·mysql·学习方法
computersciencer3 小时前
应用贝叶斯公式:迟到了,那坐的是哪种交通工具呢?
算法·机器学习·概率论