统计学:条件概率模型

照片由Edge2Edge MediaUnsplash上拍摄

一、介绍

在概率的许多应用中,不可能直接观察实验的结果;而是观察与结果相关的事件。因此,条件概率模型对于考虑和利用从观察到的事件中获得的信息至关重要。此外,条件概率模型与贝叶斯定理非常相关。在这篇博客中,我将介绍条件概率模型的基础知识,并使用参考文献 [1] 解答一些测验以熟悉该概念。

概念表

  1. 条件概率
  2. 条件期望值和条件方差
  3. 回顾条件概率的练习

二、条件概率

条件概率听起来很吓人,但它仅仅是指在事件 B 下事件 A 发生的概率的比例。理论上,当我们有样本空间 S 时,条件概率可以描述为在事件 B 已经发生的条件下,事件 A 发生的概率。

条件概率可视化

当我们改变边际概率值时,条件概率会如何变化?可视化如下图所示。从图中可以看出,联合概率越大,A占B的比例就越大。

当边际概率改变时,条件概率如何变化?

条件概率定理适用于离散型随机变量和连续型随机变量这两类随机变量。当我们将样本空间定义为 S,且事件 B ⊂ S 时,离散型随机变量和连续型随机变量的条件概率描述为:

两个随机变量的条件概率公式

从上面的方程中,我们可以推导出边际概率的公式。

边际概率公式

边际概率是单个事件发生的概率。上面的公式意味着,如果我们知道与单个事件相关的所有其他事件以及它占其他事件的比例,我们就可以知道单个事件的概率。接下来,让我们解决以下问题来检查我们对条件概率的理解。

测验 1.1

测验 1.1 答案

测验 1.2

测验 1.2 答案

三、条件期望值和条件方差

条件期望值和条件方差也是重要的概念。获得具有特定条件的统计数据可以帮助我们深入了解给定的数据。在本节中,我们将深入研究条件期望值和方差,以从数学上理解它们。

3.1 条件期望值

条件期望值与非条件概率的期望值类似,它用条件概率代替期望值中的非条件概率部分。

条件期望值定理

给定分区 Bᵢ 的条件概率模型,我们可以根据条件预期值 E[X|Bᵢ] 计算预期值 E[X]。

上述公式类似于事件有分区时条件概率与边际概率的关系。如果我们将所有分区事件的概率与它们的条件期望值相加,它就变成了期望值。我们可以得出这个公式如下:

条件概率与边际概率关系的推导

3.2 条件方差

条件方差也与非条件概率的方差类似。条件标准差可以描述为:

条件方差定理

您可以得出条件方差公式如下:

条件方差的推导

为了熟悉这些概念,让我们解决下面的问题。

测验 2.1

测验 2.1 答案

测验 2.2

测验 2.2 答案

四、 回顾条件概率的练习

在最后的部分,我将使用书中[1]的一些测验来理解条件概率和相关理论的概念。

测验 3.1

测验 3.1 答案 1

测验 3.1 答案 2

测验 3.2

测验 3.2 答案 1

测验 3.2 答案 2

测验 3.3

测验 3.3 答案 1

测验 3.3 答案 2
在这篇博客中,我们讨论了条件概率定理。这个概念对于理解贝叶斯定理和应用机器学习(例如自然语言处理)至关重要。感谢您的阅读!

相关推荐
SweetCode几秒前
裴蜀定理:整数解的奥秘
数据结构·python·线性代数·算法·机器学习
程序员Linc13 分钟前
写给新人的深度学习扫盲贴:向量与矩阵
人工智能·深度学习·矩阵·向量
xcLeigh21 分钟前
OpenCV从零开始:30天掌握图像处理基础
图像处理·人工智能·python·opencv
果冻人工智能24 分钟前
如何有效应对 RAG 中的复杂查询?
人工智能
2305_7978820933 分钟前
AI识图小程序的功能框架设计
人工智能·微信小程序·小程序
果冻人工智能34 分钟前
向量搜索中常见的8个错误(以及如何避免它们)
人工智能
databook35 分钟前
不平衡样本数据的救星:数据再分配策略
python·机器学习·scikit-learn
碳基学AI40 分钟前
哈尔滨工业大学DeepSeek公开课:探索大模型原理、技术与应用从GPT到DeepSeek|附视频与讲义免费下载方法
大数据·人工智能·python·gpt·算法·语言模型·集成学习
补三补四43 分钟前
机器学习-聚类分析算法
人工智能·深度学习·算法·机器学习
果冻人工智能1 小时前
法官们终于似乎明白了:如果没有复制,那就没有版权
人工智能