概率论和数理统计(二) 数字特征与大数定律

前言

有了"概率"数据,怎么反应情况.数学期望与方差,大数,极限

数学期望

期望是数字特征之一,其描述的是随机试验在同样的机会下重复多次,所有那些可能状态的平均结果.

平均数和加权平均数

离散型随机变量期望

连续型随机变量期望

随机变量函数的期望

g ( x , y ) g(x,y) g(x,y)是要求期望的表达式,即E(Y),表达式为 0 ∗ X + Y 0*X+Y 0∗X+Y

二维随机变量函数的期望

期望的性质

从1,2可以推出 E ( C X + b ) = C E ( X ) + b E(CX+b) = CE(X) + b E(CX+b)=CE(X)+b

条件期望

方差

方差是数字特征之一,方差用来度量随机变量和其数学期望(即均值)之间的偏离程度,即稳定性

公式及性质


标准化随机变量

变量的标准化是处理数据时的一个常用技巧,我们希望可以对随机变量的分布进行简化,而标准化变量提供了一条解决途径

根据随机变量期望与方差的性质,E(X*)=0,D(X*)=1,所以我们称随机变量X*为X的标准化变量

常见分布的期望与方差

  • 离散型(0-1分布、二项分布、几何分布、泊松分布、超几何分布)
  • 连续型(均匀分布、指数分布、正态分布)

协方差

协方差用来刻画两个随机变量 X X X, Y Y Y 之间的相关性

  • 如果两个变量的变化趋势一致,也就是说如果其中一个大于自身的期望值,另外一个也大于自身的期望值,那么两个变量之间的协方差就是正值。
  • 如果两个变量的变化趋势相反,即其中一个大于自身的期望值,另外一个却小于自身的期望值,那么两个变量之间的协方差就是负值。

通过化简推出

  1. C o v ( X , Y ) = C o v ( Y , X ) Cov(X,Y)=Cov(Y,X) Cov(X,Y)=Cov(Y,X)
  2. C o v ( C , X ) = 0 , C 为常数 Cov(C,X)=0, C为常数 Cov(C,X)=0,C为常数
  3. C o v ( X , Y ) = 0 , X , Y 相互独立 Cov(X,Y)=0, X,Y相互独立 Cov(X,Y)=0,X,Y相互独立

离散型协方差

连续型协方差

相关系数

协方差反应方向,程度由相关系数确定.

关于公式 p x y p_{xy} pxy的理解


相关系数定理证明


矩函数

矩的本质是描述物体的形状------更进一步的来说------就是在描述质点的分布.即是重要的数字特征.

期望值是原点矩,二除中心矩则是方差

大数定律



伯努利大数定律

切比雪夫大数定律

中心极限定理

在统计活动中,人们发现,在相同条件下大量重复进行一种随机实验时,一件事情发生的次数与实验次数的比值,即该事件发生的频率值会趋近于某一数值。重复次数多了,这个结论越来越明显。这个就是最早的大数定律。一般大数定律讨论的是n个随机变量平均值的稳定性。

而中心极限定理则是证明了在很一般的条件下,n个随即变量的和当n趋近于正无穷时的极限分布是正态分布。

一句话解释:大数定律讲的是样本均值收敛到总体均值 ,说白了就是期望,而中心极限定理告诉我们,当样本足够大时,样本均值的分布会慢慢变成正态分布

林德贝格-列维中心极限定理

棣莫弗-拉普拉斯中心极限定理

主要参考

第四章 随机变量的数字特征

概率论-6.数字特征与大数定律

大数定律和中心极限定理

第五章 大数定律和中心极限定理

概率论-7.正态分布与中心极限定理

大数定律和中心极限定理的区别和联系

相关推荐
云和数据.ChenGuang17 天前
metrics的解释 人工智能
人工智能·深度学习·学习·机器学习·概率论
AI科技星18 天前
数术工坊 · 第四卷 橡皮泥江湖(拓扑学)【完整定稿】
c语言·开发语言·汇编·electron·概率论·拓扑学
AI科技星18 天前
第六卷:量天尺传奇(几何学)
网络·人工智能·算法·概率论·学习方法·几何学·拓扑学
AI科技星19 天前
数术江湖·全卷合集 - 硬核江湖・数理史诗
android·人工智能·架构·概率论·学习方法
AI科技星20 天前
第三卷:质数王朝志(全卷定稿)
c语言·开发语言·汇编·electron·概率论
AI科技星20 天前
第四卷:橡皮泥江湖(拓扑学)――诸同奥义,九同立境贯拓扑
网络·人工智能·线性代数·架构·概率论·学习方法·拓扑学
AI科技星20 天前
第三卷:质数王朝志 第四章:RSA护国玄阵,质数锁天地,一数镇万法
android·人工智能·架构·概率论·学习方法
AI科技星21 天前
《全域数学/数术工坊》体系总览
c语言·开发语言·汇编·electron·概率论
lhjcsubupt21 天前
第二十二篇 从随机过程到IMU噪声模型
算法·机器学习·概率论
做cv的小昊22 天前
计算机图形学:【Games101】学习笔记08——光线追踪(辐射度量学、渲染方程与全局光照、蒙特卡洛积分与路径追踪)
图像处理·笔记·学习·计算机视觉·游戏引擎·图形渲染·概率论