随机过程笔记

概率空间和随机对象

概率空间

Borel集

样本空间的某些子集组成的一个集合,记作。若满足:

是定义在样本空间上的集。

例子

  • 样本空间 : {1, 2, 3, 4, 5, 6}

  • 一个 : { Ø, S, {1}, {2, 3, 4, 5, 6} }

    • Ø 代表空集。

    • S 代表整个样本空间。

    • {1} 代表一个事件(抛出1点)。

    • {2, 3, 4, 5, 6} 代表事件 {1} 的补集(抛出不是1的点)。

验证它是否是Borel事件集:

  1. 包含全集和空集SØ 都在里面。 ✅

  2. 对补集封闭

    • {1} 的补集是 {2,3,4,5,6},它在集合里。 ✅

    • {2,3,4,5,6} 的补集是 {1},它在集合里。 ✅

    • S 的补集是 Ø,它在集合里。 ✅

    • Ø 的补集是 S,它在集合里。 ✅

  3. 对可数并封闭

    • 任意取集合里的事件做并集,结果都仍然在这个集合里。

    • 例如:{1} ∪ Ø = {1}

    • {1} ∪ {2,3,4,5,6} = S

    • {1} ∪ S = S

    • ...所有可能组合都满足。

验证通过,{ Ø, S, {1}, {2, 3, 4, 5, 6} } 是一个合法的Borel事件集


最小Borel事件集:

  • 样本空间 : {1, 2, 3, 4, 5, 6}

  • : { Ø, S }

    • 这是最小的Borel事件集,永远成立。

    • 只包含必然事件和不可能事件。


最大Borel事件集:

  • 样本空间 : {1, 2, 3, 4, 5, 6}

  • : P(S),即 所有子集的集合。

    • 例如,{1}, {2}, {1,2}, {1,3,5}, {2,4,6}等等,所有64个可能的子集都是这个σ代数的元素。

    • 这是最大的Borel事件集

概率集函数

,且

, 则

条件概率的定义

独立性

,称事件相互独立。

独立性与互斥性

独立表示没有关系,而互斥是一种对立关系,即发生则不能发生,是有影响的,反之亦然。所以互斥事件一定不独立。独立事件一定不互斥。

全概率公式

在连续条件下的推广:

贝叶斯公式

:后验概率

:先验概率

随机变量

随机对象

当样本空间为一维实数集合时,则称该一维实变量为随机变量。

当样本空间为高维实数空间时,则称该高维实数变量为随机向量。

当样本空间为定义于某个数集上的函数组成,则称该函数集合为随机过程。

概率质量函数

任何一种离散型随机变量都可以统一地用概率质量函数表示。

其他事件的概率通过概率质量函数计算得到

连续型随机变量 不可以用概率质量函数表示

概率生成函数

设随机变量的取值和概率分别为,则

X的概率生成函数为****


展开生成函数:

求一阶导数

现在,令 ,所有包含的项都变为 0:

求 k 阶导数

z = 0代入:


例子泊松分布

概率生成函数:

用生成函数求概率:

得到:

概率分布函数

单调递增,若,则

右连续,即

概率密度函数

对任意实数

概率特征函数


例子:

分布函数:

时:

时:

特征函数:

:

,复指数的模始终为1

:

因此:

数字特征

随机变量的某个函数的期望被定义为该随机变量的一个数字特征。设是随机变量的一个函数, 的 期 望 定 义 为:

数字特征通常反映了随机变量某个方面的统计特征,如平均取值,离散程度,信息量。

特征函数可以尤其表示:

离散型随机变量的数学期望(均值)定义

其中的可能取值,

连续型随机变量的数学期望定义

其中 是概率密度函数 (PDF)。

方差(常用符号是)的计算公式:

这里

为一维随机变量,特征函数为,设阶矩存在,则


推导:

特征函数:

泰勒展开:

与这个泰勒展开进行对比:

泰勒展开具有唯一性:


是样本空间的离散型随机变量,若其概率生成函数为,


推导:

离散型随机变量的特征函数:

离散随机变量概率生成函数:



推导:



推导:


作业

2025.9.19

2.5

2.10

四分之一

2.16

相关推荐
橙狮科技1 天前
2014-2024高考真题考点分布详细分析(另附完整高考真题下载)
概率论·高考
jie*2 天前
小杰机器学习(six)——概率论——1.均匀分布2.正态分布3.数学期望4.方差5.标准差6.多维随机变量及其分布
人工智能·机器学习·概率论
、水水水水水3 天前
p-value与e-value
概率论·数理统计
明月照山海-13 天前
机器学习周报十三
人工智能·机器学习·概率论
北京地铁1号线14 天前
概率统计面试题1:随机抛掷的点到圆心距离的期望
概率论
ratbag67201314 天前
概率论与数理统计专业重点学哪些知识?
概率论
Yingjun Mo15 天前
1. 统计推断-基于神经网络与Langevin扩散的自适应潜变量建模与优化
人工智能·神经网络·算法·机器学习·概率论
图先15 天前
概率论第五讲—大数定律与中心极限定理
概率论
图先18 天前
概率论第六讲—数理统计
概率论