统计学:条件概率模型

照片由Edge2Edge MediaUnsplash上拍摄

一、介绍

在概率的许多应用中,不可能直接观察实验的结果;而是观察与结果相关的事件。因此,条件概率模型对于考虑和利用从观察到的事件中获得的信息至关重要。此外,条件概率模型与贝叶斯定理非常相关。在这篇博客中,我将介绍条件概率模型的基础知识,并使用参考文献 [1] 解答一些测验以熟悉该概念。

概念表

  1. 条件概率
  2. 条件期望值和条件方差
  3. 回顾条件概率的练习

二、条件概率

条件概率听起来很吓人,但它仅仅是指在事件 B 下事件 A 发生的概率的比例。理论上,当我们有样本空间 S 时,条件概率可以描述为在事件 B 已经发生的条件下,事件 A 发生的概率。

条件概率可视化

当我们改变边际概率值时,条件概率会如何变化?可视化如下图所示。从图中可以看出,联合概率越大,A占B的比例就越大。

当边际概率改变时,条件概率如何变化?

条件概率定理适用于离散型随机变量和连续型随机变量这两类随机变量。当我们将样本空间定义为 S,且事件 B ⊂ S 时,离散型随机变量和连续型随机变量的条件概率描述为:

两个随机变量的条件概率公式

从上面的方程中,我们可以推导出边际概率的公式。

边际概率公式

边际概率是单个事件发生的概率。上面的公式意味着,如果我们知道与单个事件相关的所有其他事件以及它占其他事件的比例,我们就可以知道单个事件的概率。接下来,让我们解决以下问题来检查我们对条件概率的理解。

测验 1.1

测验 1.1 答案

测验 1.2

测验 1.2 答案

三、条件期望值和条件方差

条件期望值和条件方差也是重要的概念。获得具有特定条件的统计数据可以帮助我们深入了解给定的数据。在本节中,我们将深入研究条件期望值和方差,以从数学上理解它们。

3.1 条件期望值

条件期望值与非条件概率的期望值类似,它用条件概率代替期望值中的非条件概率部分。

条件期望值定理

给定分区 Bᵢ 的条件概率模型,我们可以根据条件预期值 E[X|Bᵢ] 计算预期值 E[X]。

上述公式类似于事件有分区时条件概率与边际概率的关系。如果我们将所有分区事件的概率与它们的条件期望值相加,它就变成了期望值。我们可以得出这个公式如下:

条件概率与边际概率关系的推导

3.2 条件方差

条件方差也与非条件概率的方差类似。条件标准差可以描述为:

条件方差定理

您可以得出条件方差公式如下:

条件方差的推导

为了熟悉这些概念,让我们解决下面的问题。

测验 2.1

测验 2.1 答案

测验 2.2

测验 2.2 答案

四、 回顾条件概率的练习

在最后的部分,我将使用书中[1]的一些测验来理解条件概率和相关理论的概念。

测验 3.1

测验 3.1 答案 1

测验 3.1 答案 2

测验 3.2

测验 3.2 答案 1

测验 3.2 答案 2

测验 3.3

测验 3.3 答案 1

测验 3.3 答案 2
在这篇博客中,我们讨论了条件概率定理。这个概念对于理解贝叶斯定理和应用机器学习(例如自然语言处理)至关重要。感谢您的阅读!

相关推荐
飞哥数智坊11 小时前
GPT-5-Codex 发布,Codex 正在取代 Claude
人工智能·ai编程
倔强青铜三11 小时前
苦练Python第46天:文件写入与上下文管理器
人工智能·python·面试
虫无涯12 小时前
Dify Agent + AntV 实战:从 0 到 1 打造数据可视化解决方案
人工智能
Dm_dotnet14 小时前
公益站Agent Router注册送200刀额度竟然是真的
人工智能
算家计算14 小时前
7B参数拿下30个世界第一!Hunyuan-MT-7B本地部署教程:腾讯混元开源业界首个翻译集成模型
人工智能·开源
机器之心14 小时前
LLM开源2.0大洗牌:60个出局,39个上桌,AI Coding疯魔,TensorFlow已死
人工智能·openai
Juchecar15 小时前
交叉熵:深度学习中最常用的损失函数
人工智能
林木森ai15 小时前
爆款AI动物运动会视频,用Coze(扣子)一键搞定全流程(附保姆级拆解)
人工智能·aigc
聚客AI16 小时前
🙋‍♀️Transformer训练与推理全流程:从输入处理到输出生成
人工智能·算法·llm
BeerBear17 小时前
【保姆级教程-从0开始开发MCP服务器】一、MCP学习压根没有你想象得那么难!.md
人工智能·mcp