统计推断
从数据得到关于现实世界的结论的过程就叫做 统计推断(statistical inference)
就是根据你拥有的信息来对现实世界进行某种判断
我们在生活中的推断
可以根据一个人的衣着、言谈和举止判断其身份
看一个脸色,来判断心情好坏,身体状况
统计中的推断也不例外,只不过它是完全依据数据做出的
因为我们在实际工作中,往往只能通过样本去推估总体,所以统计推断非常重要
重要提示:任何一个总体参数都可以进行统计推断
例:配件日消耗量的均数、中位数、标准差等等,都是可以进行统计推断的
但是目前比较成熟,用的最多的就是对于均值的推断
应用场景:
基于配件A的领用历史数据,我们能否估计出其总体日均领用量的大致范围?
解决方案:
最简单的方式:样本均数就等于总体均数,但是这个到底对不对,有点太没有说服力了给定一个范围是不是更准确一些
抽样误差与标准误
抽样误差: 由样本导致的样平均数与相应的总体均数在数值上的差异
抽样误差 = 总体均数 - 样平均数
但不知道 总体均数,实际上抽样误差是无法计算的,所以考虑进行无限多次抽样,看是不是存在某种规律,根据规律再去估算抽样误差大小
从统计总体的角度来看,其实就是要回答对于一个相同的总体,如果我们从中进行抽样研究的话,则相应的样本统计量(例如均数)的离散程度是怎样的。
例:研究人群为上海成年男性,研究指标为脉搏每分钟跳动次数
假设随机在华东地区按样本量为25抽取样本,并测量其脉搏,每个样本计算样本均数,如果重复10000次抽样,则会得到10000次样本均数
显然,样本均数存在随机变异,但在大量重复观察的情况下,可以证明同样有一定的规律,即:样本均数的概率分布。
中心极限定理
设从均值为 μ,方差为 \(\sigma^2\) (有限)的任意一个总体中抽取样本量为n样本,当n充分大时,样本均值 \(\bar{x}\) 的抽样分布近似服从均值为μ,方差为 \(\sigma^2/n\) 的正态分布。
也就是说,你抽取n个样本,每个样本的均值近似服从的正态分布。
https://www.bilibili.com/video/BV1ye4y1E7dn 8分10秒
大数定律和中心极限定理
大数定理是在当时间发生次数趋近无穷之后,强调样本平均数会依概率收敛与原分布的期望,比如投一枚硬币正反两面都可以,正面记为1,反面为0,那么期望为0.5。当次数无穷之后(或者理解为很大)那么那么多时间的平均期望会离0.5非常近。
中心极限定理用一句话来理解,次数发生很多之后(次数要求没有大数定理的次数高),样本均值近似服从N(μ,\(\sigma^2/n\))的正态分布。
然后再来看,当我们中心极限定理的n次数非常大,就会发现方差无限接近于0,就意味着一直在均值附近了,那么也就是我们的大数定理了
当样本量大于等于30时,样本均数则默认是服从正态分布,对于总体是否是正态都适用。
显然,影响抽样误差大小的因素有两个
- 总体内各个体间的变异程度
- 样本含量N的大小
如:1、2、3、4、5、6 ,随机抽取 2、4、5,
样本均值 = (2+4+5)/3
总体均值 = (1+2+3+4+5+60)/6
使用标准误,我们就可以知道如果使用样本统计量(如均数)来估计总体参数,可能的变动范围是多大,从而提高结论的实用性。
但是实际上,我们对于总体标准差并不知道,因此只能用样本标准差S来代替,从而均数标准误的估计公式为
如果使用总体标准差进行计算,则
是服从标准正态分布的
但是如果用样本标准差进行估计,则
是服从t分布的
由标准正态分布推导出的其他分布:卡方分布、t分布、F分布
从总体(容量为N个体)多次取出样本(容量为n个体),通过n的某个统计量的情况,来预估总体的情况
抽样
- 从有限总体的抽样 简单随机样本(有限总体):从容量N的有限总体中抽取一个容量n的样本,如果容量为n的每一个可能的样本都以相等的概率被抽出,则称该样本为简单随机样本
- 从无限总体的抽样 随机样本(无限总体):如果从一个无限总体中抽取一个容量为n的样本,抽取的每个个体来自同一总体,每个个体的抽取是独立的,则称该样本是一个随机样本
抽样分布
样本均值 \(\bar{x} \Rightarrow\) 总体均值 \(\mu\) ,样本的均值是总体均值的点估计
我们从总体N中抽取样本n,抽一次我们可以得出这个样本的均值 \(\bar{x}\) 1,再抽一次又可以得出这个新样本的均值 \(\bar{x}\) 2,再抽一次又可以得出这个新样本的均值 \(\bar{x}\) 3 ··········
可以看出样本均值 \(\bar{x}\) 是一个随机变量,它是对每一次试验结果的一个数值描述,样本均值 \(\bar{x}\) 也有均值,标准差和概率分布。
即: \(\bar{x}\) 的抽样分布是样本均值 \(\bar{x}\) 的所有可能值的概率分布。
性质:
\(E(\bar{x}) = \mu\) ,式中, \(E(\bar{x})\) 是 \(\bar{x}\) 的数学期望, \(\mu\) 是总体均值
这个意思是说,对于简单随机抽样, \(\bar{x}\) 的抽样分布的均值或数学期望等于总体的均值【看这里,我们通过不断抽样样本得到的一系列均值,然后这些均值的均值就是总体的均值】
\(\bar{x}\) 的标准差(为了跟总体的标准差区别,我们称它为标准误差 )
有限总体
无限总体
在实际抽样中,我们发现虽然总体是有限的,但容量很"大",相对而言样本容量很"小",这是可以忽略有限总体和无限总体标准差的区别。
我们采用的一个指导方针或经验法则,当 n / N ≤ 0.05 时, \(\bar{x}\) 的标准差是:
\(\bar{x}\) 的抽样分布的形状
总体服从正态分布
当总体服从正态分布,在任何样本容量下 \(\bar{x}\) 的抽样分布都是正态分布
总体不服从正态分布
上一篇说了正态分布超级重要,这里你看总体不服从正态分布,那我的样本咋个搞,数学家和统计学家教你做人,"中心极限定理"了解一下,总之总是能给你靠近正态分布,就是这么不讲道理。
中心极限定理: 从总体中抽取容量为n的简单随机样本,当样本容量很大时,样本均值 \(\bar{x}\) 的抽样分布近似服从正态分布。
那样本容量达到多少时近似正态,对于大多数应用,假定当 样本容量 ≥30 时, \(\bar{x}\) 的抽样分布可用正态分布近似,当总体是严重偏态或出现异常点,可能需要样本容量达到 50
点估计
-
无偏性
如果样本统计量期望等于总体统计量,则这是个无偏估计
-
有效性
对同一总体参数,如果有多个无偏估计量,那么标准差最小的估计量更有效。因为一个无偏的估计量并不意味着它就非常接近被估计的参数,它还必须和总体参数的离散程度比较小
-
一致性
一致性是指随着样本量的增大,点估计的值越来越接近被估计的总体的参数
区间估计
因为不可能期望点估计能给出总体参数的精确值,所以经常在点估计上加减一个被称为边际误差 的值来计算区间估计,故区间估计的形式为:点估计 ± 边际误差
1.总体均值的区间估计: \(\sigma\) 已知情况
举个例子,一个公司每周选择100名顾客组成一个简单随机样本,目的是为了了解他们每次购物的消费额 x,样本均值 \(\bar{x}\) 是公司全体顾客每次购物消费额的总体均值 \(μ\) 的点估计,历史数据表明数据总体服从正态分布, \(\sigma\) =20.
最近一周,公司抽取了100名顾客,得到样本均值 \(\bar{x}\) =82,每次购物消费额的样本均值是总体均值的点估计,再确定 \(\bar{x}\) 的抽样分布的标准误差(由上面公式可得)等于2,而抽样分布的 \(\bar{x}\) 是分布在总体均值 \mu 附近的。
我们通过查标准正态分布表,任何正态分布随机变量都有95%的值在均值 ± 1.96×标准误差以内,这里计算后写成:在n=100的样本容量下, \(\bar{x}\) 的所有值中有95%落在总体均值 \(\mu\pm3.92\) 以内,如下图:
这里的95%是我们自己定的,这个值叫做"置信水平 "或者"置信系数 ",而区间 \(\mu\pm3.92\) 叫做"置信区间",最后我们总结一下公式形式:
总体σ已知时,总体均值的区间估计
式中,1 - \(\alpha\) 是置信系数, \(z_{\alpha/2}\) 表示标准正态概率分布右侧面积为 \(\alpha/2\) 时的 \(z\) 值.
常用的置信水平下的 z 值
2.总体均值的区间估计: \(\sigma\) 未知情况
当总体的 \(\mu,\sigma\) 都是未知参数时,咋个搞?我们可以用样本标准差 s 去估计 \(\sigma\) ,此时边际误差和总体均值的区间估计都以 t 分布的概率分布为依据,虽然t 分布的数学推导假设抽样总体服从正态分布,但实践表明,即使总体分布显著偏离正态分布,利用t 分布的效果还是不错的(没错,正态分布就是这么不讲道理)
t 分布是由一类相似的概率分布组成的分布族,某个特定的t 分布依赖于"自由度"参数,随着自由度的增大,t分布与标准正态分布的差别越来越小(正态分布NB),且t 分布的均值为0
所以上面的公式我们变形一下:
总体σ未知时,总体均值的区间估计
式中,s为样本标准差,1-α 为置信系数,自由度为n-1的t 分布中, \(t_{\alpha/2}\) 上侧的面积恰好等于 \(\alpha/2\)
s 作为总体标准差的估计值,与式中t值对应的自由度为n -1,标准差公式为:
样本标准差
自由度是计算 \(\sum_{}^{}{(x_{i}-\bar{x})^{2}}\) 时所用到的独立信息个数,因为任何数据集 \(\sum_{}^{}{(x_{i}-\bar{x})}=0\) ,因此只要知道n-1个值就可以确定余下的值(就是说知道n-1个数就知道了n个数),因此上面区间估计公式中t 分布的自由度是n-1.
注:
如果总体服从正态分布,以上的区间估计公式所给出的置信区间是精确的,并适用于任何样本容量。如果总体不服从正态分布,这给出的置信区间时近似的,近似的程度依赖于总体分布和样本容量。
在绝大部分应用中,样本容量n≥30 已经足够大了,如果总体分布严重偏斜或有异常点,建议样本容量增加到50及以上 ,如果总体分布不是正态分布但大致对称,则样本容量达到15就可以了。