互斥事件&对立事件

古典概型、几何概型
古典概型:有限等可能(有限个事件,且每个事件都是等可能事件)
几何概型:无限等可能
条件概率公式

全概率公式&贝叶斯公式
全概率公式:如果一个样本空间可以由若干个事件所组成且之间是互斥的,那么A事件发生的概率就等于上述若干个事件中每个事件发生的概率与该事件发生导致A事件发生的概率乘积的和。(因推果)
贝叶斯公式:全概率公式结合条件概率公式联合得到。贝叶斯公式解决的是一些原因X无法直接观测、测量,而我们希望通过其结果Y来反推出原因X的问题。也即有因求果

后验概率&先验概率
根据以往经验所总结出的概率为先验概率;
如果现在发生了事件A,我们可以根据结果去推测发生的事件,那么相应得到的Bi发生的条件概率就是后验概率。
独立事件

连续性随机变量&离散型随机变量
连续性随机变量:若某个事件发生的概率为根据密度函数积分得到的概率
离散型随机变量:如果随机变量X的取值是有限个或可列无限多个
一维随机变量
一维离散型随机变量的常见分布

(1)0-1变量及其分布(也称为两点分布)(只有两个可能取值,0和1)
(2)二项变量及其分布(在0-1分布的基础上,每个事件要么发生,要么不发生,也就是N重伯努利试验)
(3)泊松变量及其分布(事件X发生的概率符合泊松分布就称为泊松变量)泊松分布适合于描述单位时间内随机事件发生的次数的概率分布。
一维连续型随机变量的常见分布
二维连续随机变量
联合概率与边缘概率
- 联合概率:包含多个条件且所有条件同时成立的概率
- 边缘概率:在联合概率的基础上,固定其他变量后得到某一变量的概率。

数学期望、方差

协方差
X, Y 的协方差等于每一个 X 减去 X 平均值乘上每一个 Y 减去 Y 平均值的乘积的和的平均数。
- 从数值来看,协方差的数值越大,两个变量同向程度也就越大。反之亦然。
- 从直观上来看,协方差表示的是两个变量总体误差的期望。

相关系数
用 X、Y 的协方差除以 X 的标准差和 Y 的标准差。单纯反应两个变量每单位变化时的相似程度。

解释独立性、互斥性、相关性
- 独立性:互不影响,P(A∩B) = P(A)P(B),条件概率等于原概率。
- 互斥性:不能同时发生,P(A∩B) = 0。
- 条件独立:P(AB∣C)=P(A∣C)P(B∣C)
- 协方差:衡量两个变量的线性相关强度。
- 相关系数:对协方差归一化处理,消除量纲影响。
- 关系:独立 ⇒ 不相关;不相关 ⇏ 独立(举例:Y = X²)
大数定律和中心极限定律
- 切比雪夫大数定律:样本均值趋近于期望。
- 伯努利大数定律:频率趋近于概率。
- 辛钦大数定律:样本均值 → 数学期望(常见表述)。
- 中心极限定理:样本数量无穷大的时候,样本均值的分布呈现正态分布。
- 应用:蒙特卡罗模拟、误差估计、置信区间计算等。

大数定律更关注的是样本均值,中心极限定律关注的是样本均值的分布
三大抽样分布

参数估计

1)矩估计法(通过样本矩来估计总体参数)
- 计算样本的样本矩(如样本均值、样本方差等)。
- 设定总体矩的表达式并将样本矩代入,求解总体参数。
2)极大似然估计法 (通过最大化样本数据的似然函数来估计)
- 写出样本数据的似然函数,即数据出现的联合概率密度函数。
- 取对数得到对数似然函数,以便于求导。
- 对对数似然函数求导并求解,使得导数为零的参数值即为极大似然估计值。
无偏性、有效性、一致性(相合性)
- 无偏性:估计量的期望等于参数真值,即估计不系统偏差。
- 有效性:在所有无偏估计中,方差最小者最有效。
- 一致性:样本数增大时,估计值趋近于真实参数。
假设和检验
将真是问题提炼为统计问题->建立假设->确定显著水平a->验证前提条件->确定检验统计量->确定拒绝域->根据样本计算检验统计量的值并进行判断->将统计判断结果转换为实际结果
