概率论和数理统计(二) 数字特征与大数定律

前言

有了"概率"数据,怎么反应情况.数学期望与方差,大数,极限

数学期望

期望是数字特征之一,其描述的是随机试验在同样的机会下重复多次,所有那些可能状态的平均结果.

平均数和加权平均数

离散型随机变量期望

连续型随机变量期望

随机变量函数的期望

g ( x , y ) g(x,y) g(x,y)是要求期望的表达式,即E(Y),表达式为 0 ∗ X + Y 0*X+Y 0∗X+Y

二维随机变量函数的期望

期望的性质

从1,2可以推出 E ( C X + b ) = C E ( X ) + b E(CX+b) = CE(X) + b E(CX+b)=CE(X)+b

条件期望

方差

方差是数字特征之一,方差用来度量随机变量和其数学期望(即均值)之间的偏离程度,即稳定性

公式及性质


标准化随机变量

变量的标准化是处理数据时的一个常用技巧,我们希望可以对随机变量的分布进行简化,而标准化变量提供了一条解决途径

根据随机变量期望与方差的性质,E(X*)=0,D(X*)=1,所以我们称随机变量X*为X的标准化变量

常见分布的期望与方差

  • 离散型(0-1分布、二项分布、几何分布、泊松分布、超几何分布)
  • 连续型(均匀分布、指数分布、正态分布)

协方差

协方差用来刻画两个随机变量 X X X, Y Y Y 之间的相关性

  • 如果两个变量的变化趋势一致,也就是说如果其中一个大于自身的期望值,另外一个也大于自身的期望值,那么两个变量之间的协方差就是正值。
  • 如果两个变量的变化趋势相反,即其中一个大于自身的期望值,另外一个却小于自身的期望值,那么两个变量之间的协方差就是负值。

通过化简推出

  1. C o v ( X , Y ) = C o v ( Y , X ) Cov(X,Y)=Cov(Y,X) Cov(X,Y)=Cov(Y,X)
  2. C o v ( C , X ) = 0 , C 为常数 Cov(C,X)=0, C为常数 Cov(C,X)=0,C为常数
  3. C o v ( X , Y ) = 0 , X , Y 相互独立 Cov(X,Y)=0, X,Y相互独立 Cov(X,Y)=0,X,Y相互独立

离散型协方差

连续型协方差

相关系数

协方差反应方向,程度由相关系数确定.

关于公式 p x y p_{xy} pxy的理解


相关系数定理证明


矩函数

矩的本质是描述物体的形状------更进一步的来说------就是在描述质点的分布.即是重要的数字特征.

期望值是原点矩,二除中心矩则是方差

大数定律



伯努利大数定律

切比雪夫大数定律

中心极限定理

在统计活动中,人们发现,在相同条件下大量重复进行一种随机实验时,一件事情发生的次数与实验次数的比值,即该事件发生的频率值会趋近于某一数值。重复次数多了,这个结论越来越明显。这个就是最早的大数定律。一般大数定律讨论的是n个随机变量平均值的稳定性。

而中心极限定理则是证明了在很一般的条件下,n个随即变量的和当n趋近于正无穷时的极限分布是正态分布。

一句话解释:大数定律讲的是样本均值收敛到总体均值 ,说白了就是期望,而中心极限定理告诉我们,当样本足够大时,样本均值的分布会慢慢变成正态分布

林德贝格-列维中心极限定理

棣莫弗-拉普拉斯中心极限定理

主要参考

第四章 随机变量的数字特征

概率论-6.数字特征与大数定律

大数定律和中心极限定理

第五章 大数定律和中心极限定理

概率论-7.正态分布与中心极限定理

大数定律和中心极限定理的区别和联系

相关推荐
明月看潮生1 小时前
青少年编程与数学 02-015 大学数学知识点 03课题、概率论和数理统计
青少年编程·概率论·数理统计·编程与数学·大学数学
jackyrongvip4 天前
妙用《甄嬛传》中的选妃来记忆概率论中的乘法公式
概率论
lynn-667 天前
【深度学习与大模型基础】第8章-概率分布
人工智能·算法·机器学习·概率论
猎人everest10 天前
机器学习之概率论
人工智能·机器学习·概率论
豆芽81910 天前
二项式分布(Binomial Distribution)
人工智能·python·机器学习·numpy·概率论
zbdx不知名菜鸡12 天前
self Attention为何除以根号dk?(全新角度)
transformer·attention·概率论
优美的赫蒂12 天前
扩展卡尔曼滤波
机器学习·数学建模·矩阵·概率论
Lichenpar14 天前
AI小白的第七天:必要的数学知识(四)
人工智能·概率论·概率分布
pen-ai14 天前
离散概率分布:正态分布,二项分布,连续分布,正态分布的性质
算法·机器学习·概率论
kngines14 天前
从零构建大语言模型全栈开发指南:第一部分:数学与理论基础-1.1.2核心数学基础:线性代数、概率论与梯度优化
人工智能·线性代数·大语言模型·概率论·强化学习·rlhf