文章目录
- [🍋1. 随机变量的数学期望](#🍋1. 随机变量的数学期望)
-
- [🍋1.1 离散型随机变量的数学期望](#🍋1.1 离散型随机变量的数学期望)
- [🍋1.2 连续型随机变量的数学期望](#🍋1.2 连续型随机变量的数学期望)
- [🍋2. 随机变量函数的数学期望](#🍋2. 随机变量函数的数学期望)
-
- [🍋2.1 一维随机变量函数的数学期望](#🍋2.1 一维随机变量函数的数学期望)
- [🍋2.2 二维随机变量函数的数学期望](#🍋2.2 二维随机变量函数的数学期望)
- [🍋3. 数学期望的性质](#🍋3. 数学期望的性质)
- [🍋4. 方差的定义](#🍋4. 方差的定义)
- [🍋5. 方差的性质](#🍋5. 方差的性质)
- [🍋6. 协方差与相关系数](#🍋6. 协方差与相关系数)
🍋1. 随机变量的数学期望
🍋1.1 离散型随机变量的数学期望
- 0-1分布
0-1分布是一种二值分布,表示事件发生与否的概率,通常用p表示成功的概率,1-p表示失败的概率。其数学期望为E(X) = p。
- 二项分布
二项分布描述了n次独立重复的二值试验,其中每次试验成功的概率为p。其数学期望为E(X) = np。
- 泊松分布
泊松分布适用于描述单位时间或空间内随机事件发生的次数,如电话呼叫、到达客户等。其数学期望为E(X) = λ,其中λ表示单位时间或空间内平均发生的次数。
- 几何分布
几何分布用于描述在n次独立重复的伯努利试验中首次成功发生的次数。其数学期望为E(X) = 1/p,其中p表示每次试验成功的概率。
🍋1.2 连续型随机变量的数学期望
- 均匀分布
均匀分布在区间[a, b]内等可能地取任何值。其数学期望为E(X) = (a + b) / 2。
- 指数分布
指数分布描述了连续事件发生的时间间隔,其数学期望为E(X) = 1/λ,其中λ为事件发生率。
- 正态分布
正态分布是自然界中最常见的分布之一,其数学期望为E(X) = μ,其中μ为均值。
🍋2. 随机变量函数的数学期望
🍋2.1 一维随机变量函数的数学期望
假设我们有一个一维随机变量 X,以及一个实值函数 g(X)。一维随机变量函数 g(X) 的数学期望,通常表示为 E[g(X)],是对该函数在随机变量 X 上的期望值。具体计算方法如下:
对于离散型随机变量 XX,数学期望 E[g(X)]E[g(X)] 的计算方法为:
E[g(X)]=x∑g(x)P(X=x)
其中,∑x表示对所有可能的取值 x 求和,P(X=x) 是 X 等于 x 的概率质量函数。
对于连续型随机变量 X,数学期望 E[g(X)] 的计算方法为:
E[g(X)]=∫g(x)f(x)dx
其中,∫ 表示对所有可能的取值 x 进行积分,f(x) 是 X 的概率密度函数。
🍋2.2 二维随机变量函数的数学期望
对于二维随机变量,我们可以考虑一个函数 g(X,Y),其中 X 和 Y 是两个随机变量。二维随机变量函数 g(X,Y) 的数学期望,通常表示为 E[g(X,Y)],是对该函数在随机变量 X 和 Y 上的期望值。具体计算方法如下:
对于离散型随机变量 X 和 Y,数学期望E[g(X,Y)] 的计算方法为:
E[g(X,Y)]=x∑y∑g(x,y)P(X=x,Y=y)
其中,∑x 和 ∑y 分别表示对所有可能的取值 x 和 y 求和,P(X=x,Y=y) 是联合概率质量函数。
对于连续型随机变量 X 和 Y,数学期望 E[g(X,Y)] 的计算方法为:
E[g(X,Y)]=∬g(x,y)f(x,y)dxdy
其中,∬ 表示对所有可能的取值 x和 y 进行二重积分,f(x,y) 是 X 和 Y 的联合概率密度函数。
🍋3. 数学期望的性质
-
线性性质:数学期望具有线性性质,即对于任意常数 aa 和 bb 以及随机变量 XX 和 YY,有以下公式:
E(aX+bY)=aE(X)+bE(Y)E(aX+bY)=aE(X)+bE(Y)
-
常数性质:如果 cc 是一个常数,那么对于任何随机变量 XX,都有:
E©=cE©=c
-
独立性质:如果 XX 和 YY 是独立的随机变量,那么它们的联合数学期望等于各自数学期望的乘积:
E(XY)=E(X)E(Y)E(XY)=E(X)E(Y)
-
非负性质:对于任何非负随机变量 XX,其数学期望也是非负的:
如果 X≥0X≥0,则 E(X)≥0E(X)≥0
-
单调性质:如果对于所有的样本点, XX 总是小于等于 YY,则 E(X)≤E(Y)E(X)≤E(Y)。
-
凹凸性质:对于任意函数 g(X)g(X),有以下凹凸性质:
如果 g(X)g(X) 是凸函数,则 E[g(X)]≥g(E(X))E[g(X)]≥g(E(X))
如果 g(X)g(X) 是凹函数,则 E[g(X)]≤g(E(X))E[g(X)]≤g(E(X))
-
数学期望的绝对值性质:对于任何随机变量 XX,有:
∣E(X)∣≤E(∣X∣)∣E(X)∣≤E(∣X∣)
-
常见分布的数学期望:对于特定的常见分布,数学期望具有相应的性质。例如,正态分布的数学期望等于其均值,指数分布的数学期望等于其倒数的平均,等等。
🍋4. 方差的定义
方差是用来衡量随机变量数据分散程度的统计量。它衡量了随机变量的取值在其数学期望周围的离散程度。方差的定义如下:
对于一个随机变量 X,其数学期望为 E(X),则它的方差 Var(X) 定义为:
Var(X)=E[(X−E(X))^2]
其中,X−E(X) 表示随机变量 XX 的每个取值与其数学期望 E(X) 之间的差距,然后将这些差距平方,再计算其数学期望。
方差的计算步骤如下:
- 对于每个随机变量 X 的取值 x,计算其与数学期望 E(X) 的差值:X−E(X)。
- 将每个差值平方:(X−E(X))^2。
- 对所有这些平方差值求期望值,即对所有可能的 x 进行加权平均。
方差表示了随机变量数据分布的离散程度。如果方差较小,意味着数据点较接近数学期望,分布较集中;如果方差较大,说明数据点相对较远离数学期望,分布较分散。
🍋5. 方差的性质
方差(Variance)是一个重要的统计量,用于衡量随机变量的离散程度。它具有一些重要的性质,这些性质在统计分析和概率论中经常用于推导和计算。以下是方差的主要性质:
-
非负性:方差始终是非负数。
Var(X)≥0
-
方差与数学期望的关系:方差可以通过数学期望来表示。
Var(X)=E[(X−E(X))^2]
-
常数倍性质:如果 a 是一个常数,那么随机变量 aX 的方差是 a^2 乘以 X 的方差。
Var(aX)=a^2Var(X)
-
加法性质:对于两个随机变量 X 和 Y,它们的和 X+Y 的方差等于它们各自方差的和,加上它们的协方差(如果有)。
Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y)
-
常数的方差为零:对于任何常数 c,Var©=0。
Var©=0
-
独立性质:如果随机变量 X 和 Y 独立,它们的和 X+Y 的方差等于它们各自的方差之和。
如果 X 和 Y 独立,那么 Var(X+Y)=Var(X)+Var(Y)
-
常见分布的方差:对于某些常见的概率分布,方差具有特定的表达式,例如:
对于二项分布:Var(X)=np(1−p),其中 n 是试验次数,p 是成功的概率。
对于泊松分布:Var(X)=λ,其中 λ 是泊松分布的均值和方差。
对于正态分布:Var(X)=σ^2,其中 σ 是标准差。
-
方差的非负性证明:方差的非负性是方差的基本性质,可以通过方差的定义以及平方的非负性证明得出。证明中使用了 E[(X−E(X))^2] 的平方永远是非负的性质。
分布 | 期望 | 方差 |
---|---|---|
0-1分布 | p | p(1-p) |
二项分布 | np | np(1-p) |
泊松分布 | λ | λ |
几何分布 | 1/p | (1-p)/p^2 |
均匀分布 | (a+b)/2 | (b-a)^2/12 |
指数分布 | 1/λ | 1/λ^2 |
正态分布 | μ | σ^2 |
🍋6. 协方差与相关系数
协方差(Covariance):
协方差用于衡量两个随机变量的变化趋势是否一致。具体而言,协方差测量了两个随机变量(假设为 X 和 Y)之间的线性关系。协方差的定义如下:
对于两个随机变量 X 和 Y,其协方差 Cov(X,Y) 定义为:
其中,E(X)和 E(Y) 分别是 X 和 Y 的数学期望。
协方差的性质如下:
- 如果 X 和 Y 之间存在正相关关系(即一个变量增加,另一个也增加),则协方差为正数。
- 如果 X 和 Y 之间存在负相关关系(即一个变量增加,另一个减少),则协方差为负数。
- 如果 X 和 Y 之间没有线性关系,协方差可能接近于零,但不能得出它们之间没有关系的结论。
然而,协方差的取值范围没有上限或下限,因此很难对其大小进行直观解释。为了更好地理解两个随机变量之间的关系,通常使用相关系数。
相关系数(Correlation Coefficient):
相关系数是协方差的标准化版本,它将协方差除以两个随机变量的标准差,从而使其取值范围在 -1 到 1 之间。相关系数表示了两个随机变量之间的线性关系强度和方向。最常见的相关系数是皮尔逊相关系数(Pearson Correlation Coefficient)。
皮尔逊相关系数(ρρ)的定义如下:
其中,Cov(X,Y) 是 X 和 Y 的协方差,σX 和 σY 分别是 X 和 Y 的标准差。
皮尔逊相关系数的性质如下:
- ρ 的取值范围在 -1 到 1 之间。当 ρ=1 时,表示完全正相关;当 ρ=−1 时,表示完全负相关;当 ρ=0 时,表示没有线性关系。
- ρ 的符号表示变量之间的关系方向。正值表示正相关,负值表示负相关。
- 皮尔逊相关系数对线性关系敏感,如果关系是非线性的,它可能无法准确捕捉到这种关系。
总之,协方差和相关系数是用于描述随机变量之间关系的重要工具。协方差衡量了变量之间的总体关联性,而相关系数则在协方差的基础上提供了标准化的度量,更容易理解和解释。在数据分析中,它们通常用于研究变量之间的关系,特别是在回归分析和多元统计中。
挑战与创造都是很痛苦的,但是很充实。