概理论与数理统计学习教程，从入门到精通，在数理统计中应用R软件(21）

在数理统计中应用R软件

§1 概述

1.1 R软件简介

R是一种开源的统计计算与图形绘制软件，广泛应用于数理统计、数据分析、机器学习等领域。其核心优势在于：

免费开源：遵循GNU协议
丰富的包生态：CRAN上超过20000个扩展包
强大的图形能力：base graphics、ggplot2等
跨平台：支持Windows、macOS、Linux

1.2 数理统计的核心任务

数理统计的任务是根据样本信息 对总体特征进行推断，主要包括：

任务类型	具体内容	对应R函数
描述统计	数据的集中趋势、离散程度	`mean()`, `sd()`, `summary()`
推断统计	参数估计、假设检验	`t.test()`, `prop.test()`
方差分析	多组均值比较	`aov()`, `anova()`
回归分析	变量间关系建模	`lm()`, `summary()`
非参数方法	Bootstrap重抽样	`boot()`

§2 箱线图（Boxplot）

2.1 基本统计量回顾

设 X1,X2,...,XnX_1, X_2, \ldots, X_nX1,X2,...,Xn 为来自总体的样本，将样本数据从小到大排序为 X(1)≤X(2)≤⋯≤X(n)X_{(1)} \leq X_{(2)} \leq \cdots \leq X_{(n)}X(1)≤X(2)≤⋯≤X(n)。

五数概括（Five-number summary）：

最小值 ：X(1)X_{(1)}X(1)
第一四分位数 （Q1Q_1Q1）：第25百分位数
中位数 （Q2=X~Q_2 = \tilde{X}Q2=X~）：第50百分位数
第三四分位数 （Q3Q_3Q3）：第75百分位数
最大值 ：X(n)X_{(n)}X(n)

2.2 四分位数的计算

第 ppp 百分位数的定义：

设 LpL_pLp 为第 ppp 百分位数的位置，则：

Lp=p100(n+1)L_p = \frac{p}{100}(n+1)Lp=100p(n+1)

当 LpL_pLp 不是整数时，用线性插值法：

若 Lp=k+dL_p = k + dLp=k+d（kkk 为整数部分，0<d<10 < d < 10<d<1），则：

Xp(p)=X(k)+d⋅(X(k+1)−X(k))X_p^{(p)} = X_{(k)} + d \cdot \left(X_{(k+1)} - X_{(k)}\right)Xp(p)=X(k)+d⋅(X(k+1)−X(k))

四分位距（IQR）：

IQR=Q3−Q1\text{IQR} = Q_3 - Q_1IQR=Q3−Q1

2.3 箱线图的构造原理

标准箱线图的构成：

箱体的下边界为 Q1Q_1Q1，上边界为 Q3Q_3Q3
箱体内部的横线为中位数 X~\tilde{X}X~
上须线 ：延伸至 min⁡(X(n), Q3+1.5×IQR)\min\left(X_{(n)},\; Q_3 + 1.5 \times \text{IQR}\right)min(X(n),Q3+1.5×IQR)
下须线 ：延伸至 max⁡(X(1), Q1−1.5×IQR)\max\left(X_{(1)},\; Q_1 - 1.5 \times \text{IQR}\right)max(X(1),Q1−1.5×IQR)
超出须线范围的点标记为异常值（outlier）

异常值的判定准则：

异常值={xi:xi<Q1−1.5IQR 或 xi>Q3+1.5IQR}\text{异常值} = \{x_i : x_i < Q_1 - 1.5\text{IQR} \text{ 或 } x_i > Q_3 + 1.5\text{IQR}\}异常值={xi:xi<Q1−1.5IQR 或 xi>Q3+1.5IQR}

极端异常值：

极端异常值={xi:xi<Q1−3IQR 或 xi>Q3+3IQR}\text{极端异常值} = \{x_i : x_i < Q_1 - 3\text{IQR} \text{ 或 } x_i > Q_3 + 3\text{IQR}\}极端异常值={xi:xi<Q1−3IQR 或 xi>Q3+3IQR}

2.4 箱线图的统计意义

箱线图可用于直观判断：

中心位置：中位数的位置反映数据的集中趋势
离散程度：箱体高度（IQR）和须线长度反映数据的变异性
偏态性 ：
- 若中位数靠近 Q1Q_1Q1，数据右偏（正偏）
- 若中位数靠近 Q3Q_3Q3，数据左偏（负偏）
异常值的存在：箱外的孤立点

2.5 并列箱线图的比较

当有多组数据时，并列箱线图可以直观比较：

各组中心位置的差异（即各组均值/中位数是否不同）
各组离散程度的差异
各组分布形态的差异

2.6 R实现

r 复制代码

# 基本箱线图
data <- c(23, 25, 28, 30, 32, 35, 38, 40, 42, 45, 60)
boxplot(data, main="箱线图示例", ylab="数值", col="lightblue")

# 并列箱线图（多组比较）
groupA <- c(23, 25, 28, 30, 32, 35)
groupB <- c(30, 33, 36, 38, 40, 45)
groupC <- c(20, 22, 25, 27, 29, 32)
boxplot(groupA, groupB, groupC, 
        names=c("A组","B组","C组"),
        main="三组数据箱线图比较",
        col=c("lightblue","lightgreen","lightyellow"))

# 查看五数概括
summary(data)

§3 假设检验

3.1 假设检验的基本概念

基本思想：对总体参数提出一个假设，然后根据样本数据判断是否有足够证据拒绝该假设。

基本步骤：

步骤1：建立假设

原假设 H0H_0H0：θ=θ0\theta = \theta_0θ=θ0
备择假设 H1H_1H1：θ≠θ0\theta \neq \theta_0θ=θ0（双侧）或 θ>θ0\theta > \theta_0θ>θ0 / θ<θ0\theta < \theta_0θ<θ0（单侧）

步骤2 ：选择检验统计量 TTT，确定在 H0H_0H0 成立时 TTT 的分布

步骤3 ：给定显著性水平 α\alphaα（通常取 0.05 或 0.01），确定拒绝域

步骤4：根据样本观测值计算检验统计量的值，做出判断

两类错误：

	H0H_0H0 为真	H0H_0H0 为假
接受 H0H_0H0	正确 (1−α)(1-\alpha)(1−α)	第II类错误 (β)(\beta)(β)
拒绝 H0H_0H0	第I类错误 (α)(\alpha)(α)	正确 (1−β)(1-\beta)(1−β)

3.2 单个正态总体参数的检验

设 X1,X2,...,Xn∼iidN(μ,σ2)X_1, X_2, \ldots, X_n \overset{\text{iid}}{\sim} N(\mu, \sigma^2)X1,X2,...,Xn∼iidN(μ,σ2)。

样本均值和样本方差：

Xˉ=1n∑i=1nXi,S2=1n−1∑i=1n(Xi−Xˉ)2\bar{X} = \frac{1}{n}\sum_{i=1}^{n}X_i, \quad S^2 = \frac{1}{n-1}\sum_{i=1}^{n}(X_i - \bar{X})^2Xˉ=n1i=1∑nXi,S2=n−11i=1∑n(Xi−Xˉ)2

3.2.1 关于均值 μ\muμ 的检验（σ2\sigma^2σ2 已知）

H0:μ=μ0vsH1:μ≠μ0H_0: \mu = \mu_0 \quad vs \quad H_1: \mu \neq \mu_0H0:μ=μ0vsH1:μ=μ0

检验统计量：

U=Xˉ−μ0σ/n∼N(0,1)U = \frac{\bar{X} - \mu_0}{\sigma / \sqrt{n}} \sim N(0,1)U=σ/n Xˉ−μ0∼N(0,1)

推导过程：

由于 Xi∼N(μ0,σ2)X_i \sim N(\mu_0, \sigma^2)Xi∼N(μ0,σ2)（在 H0H_0H0 下），则：

Xˉ=1n∑i=1nXi∼N(μ0,σ2n)\bar{X} = \frac{1}{n}\sum_{i=1}^{n}X_i \sim N\left(\mu_0, \frac{\sigma^2}{n}\right)Xˉ=n1i=1∑nXi∼N(μ0,nσ2)

标准化：

U=Xˉ−μ0σ/n∼N(0,1)U = \frac{\bar{X} - \mu_0}{\sigma/\sqrt{n}} \sim N(0,1)U=σ/n Xˉ−μ0∼N(0,1)

拒绝域：

双侧检验：∣U∣>u1−α/2|U| > u_{1-\alpha/2}∣U∣>u1−α/2
右侧检验：U>u1−αU > u_{1-\alpha}U>u1−α
左侧检验：U<−u1−αU < -u_{1-\alpha}U<−u1−α

其中 u1−αu_{1-\alpha}u1−α 为标准正态分布的 1−α1-\alpha1−α 分位数。

3.2.2 关于均值 μ\muμ 的检验（σ2\sigma^2σ2 未知）

H0:μ=μ0vsH1:μ≠μ0H_0: \mu = \mu_0 \quad vs \quad H_1: \mu \neq \mu_0H0:μ=μ0vsH1:μ=μ0

检验统计量：

T=Xˉ−μ0S/n∼t(n−1)T = \frac{\bar{X} - \mu_0}{S / \sqrt{n}} \sim t(n-1)T=S/n Xˉ−μ0∼t(n−1)

推导过程：

关键定理 ：设 X1,X2,...,Xn∼iidN(μ,σ2)X_1, X_2, \ldots, X_n \overset{\text{iid}}{\sim} N(\mu, \sigma^2)X1,X2,...,Xn∼iidN(μ,σ2)，则：

（1）Xˉ\bar{X}Xˉ 与 S2S^2S2 相互独立

（2）Xˉ∼N(μ,σ2/n)\bar{X} \sim N(\mu, \sigma^2/n)Xˉ∼N(μ,σ2/n)

（3）(n−1)S2σ2∼χ2(n−1)\frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)σ2(n−1)S2∼χ2(n−1)

证明第（3）条：

令 Yi=Xi−μσ∼N(0,1)Y_i = \frac{X_i - \mu}{\sigma} \sim N(0,1)Yi=σXi−μ∼N(0,1)，则：

∑i=1nYi2=∑i=1n(Xi−μσ)2∼χ2(n)\sum_{i=1}^{n}Y_i^2 = \sum_{i=1}^{n}\left(\frac{X_i-\mu}{\sigma}\right)^2 \sim \chi^2(n)i=1∑nYi2=i=1∑n(σXi−μ)2∼χ2(n)

利用分解定理：

∑i=1n(Xi−μ)2=∑i=1n(Xi−Xˉ)2+n(Xˉ−μ)2\sum_{i=1}^{n}(X_i - \mu)^2 = \sum_{i=1}^{n}(X_i - \bar{X})^2 + n(\bar{X}-\mu)^2i=1∑n(Xi−μ)2=i=1∑n(Xi−Xˉ)2+n(Xˉ−μ)2

两边除以 σ2\sigma^2σ2：

∑(Xi−μ)2σ2=∑(Xi−Xˉ)2σ2+n(Xˉ−μ)2σ2\frac{\sum(X_i-\mu)^2}{\sigma^2} = \frac{\sum(X_i-\bar{X})^2}{\sigma^2} + \frac{n(\bar{X}-\mu)^2}{\sigma^2}σ2∑(Xi−μ)2=σ2∑(Xi−Xˉ)2+σ2n(Xˉ−μ)2

即：

χ2(n)=(n−1)S2σ2+χ2(1)\chi^2(n) = \frac{(n-1)S^2}{\sigma^2} + \chi^2(1)χ2(n)=σ2(n−1)S2+χ2(1)

由Cochran定理，自由度可加，则：

(n−1)S2σ2∼χ2(n−1)\frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)σ2(n−1)S2∼χ2(n−1)

构造 TTT 统计量：

T=Xˉ−μ0σ/n(n−1)S2/σ2n−1=Xˉ−μ0S/nT = \frac{\frac{\bar{X}-\mu_0}{\sigma/\sqrt{n}}}{\sqrt{\frac{(n-1)S^2/\sigma^2}{n-1}}} = \frac{\bar{X}-\mu_0}{S/\sqrt{n}}T=n−1(n−1)S2/σ2 σ/n Xˉ−μ0=S/n Xˉ−μ0

由 ttt 分布的定义：T=Zχ2(k)/k∼t(k)T = \frac{Z}{\sqrt{\chi^2(k)/k}} \sim t(k)T=χ2(k)/k Z∼t(k)，其中 Z∼N(0,1)Z \sim N(0,1)Z∼N(0,1) 且与 χ2(k)\chi^2(k)χ2(k) 独立。

因此 T∼t(n−1)T \sim t(n-1)T∼t(n−1)。

拒绝域：

双侧：∣T∣>t1−α/2(n−1)|T| > t_{1-\alpha/2}(n-1)∣T∣>t1−α/2(n−1)
右侧：T>t1−α(n−1)T > t_{1-\alpha}(n-1)T>t1−α(n−1)
左侧：T<−t1−α(n−1)T < -t_{1-\alpha}(n-1)T<−t1−α(n−1)

3.2.3 关于方差 σ2\sigma^2σ2 的检验

（a）μ\muμ 未知的情形

H0:σ2=σ02vsH1:σ2≠σ02H_0: \sigma^2 = \sigma_0^2 \quad vs \quad H_1: \sigma^2 \neq \sigma_0^2H0:σ2=σ02vsH1:σ2=σ02

检验统计量：

χ2=(n−1)S2σ02∼χ2(n−1)\chi^2 = \frac{(n-1)S^2}{\sigma_0^2} \sim \chi^2(n-1)χ2=σ02(n−1)S2∼χ2(n−1)

推导：

在 H0H_0H0 下 σ2=σ02\sigma^2 = \sigma_0^2σ2=σ02，由上述定理知 (n−1)S2σ02∼χ2(n−1)\frac{(n-1)S^2}{\sigma_0^2} \sim \chi^2(n-1)σ02(n−1)S2∼χ2(n−1)。

拒绝域 ：χ2<χα/22(n−1)\chi^2 < \chi^2_{\alpha/2}(n-1)χ2<χα/22(n−1) 或 χ2>χ1−α/22(n−1)\chi^2 > \chi^2_{1-\alpha/2}(n-1)χ2>χ1−α/22(n−1)

（b）μ\muμ 已知的情形

χ2=∑i=1n(Xi−μ)2σ02∼χ2(n)\chi^2 = \frac{\sum_{i=1}^{n}(X_i - \mu)^2}{\sigma_0^2} \sim \chi^2(n)χ2=σ02∑i=1n(Xi−μ)2∼χ2(n)

3.3 两个正态总体参数的检验

设 X1,...,Xm∼iidN(μ1,σ12)X_1, \ldots, X_m \overset{\text{iid}}{\sim} N(\mu_1, \sigma_1^2)X1,...,Xm∼iidN(μ1,σ12)，Y1,...,Yn∼iidN(μ2,σ22)Y_1, \ldots, Y_n \overset{\text{iid}}{\sim} N(\mu_2, \sigma_2^2)Y1,...,Yn∼iidN(μ2,σ22)，两样本独立。

3.3.1 两总体均值差的检验

（a）σ12,σ22\sigma_1^2, \sigma_2^2σ12,σ22 已知

H0:μ1=μ2vsH1:μ1≠μ2H_0: \mu_1 = \mu_2 \quad vs \quad H_1: \mu_1 \neq \mu_2H0:μ1=μ2vsH1:μ1=μ2

U=Xˉ−Yˉσ12m+σ22n∼N(0,1)U = \frac{\bar{X} - \bar{Y}}{\sqrt{\frac{\sigma_1^2}{m} + \frac{\sigma_2^2}{n}}} \sim N(0,1)U=mσ12+nσ22 Xˉ−Yˉ∼N(0,1)

推导：

Xˉ∼N(μ1,σ12/m),Yˉ∼N(μ2,σ22/n)\bar{X} \sim N(\mu_1, \sigma_1^2/m), \quad \bar{Y} \sim N(\mu_2, \sigma_2^2/n)Xˉ∼N(μ1,σ12/m),Yˉ∼N(μ2,σ22/n)

Xˉ\bar{X}Xˉ 与 Yˉ\bar{Y}Yˉ 独立，因此：

Xˉ−Yˉ∼N(μ1−μ2,σ12m+σ22n)\bar{X} - \bar{Y} \sim N\left(\mu_1 - \mu_2, \frac{\sigma_1^2}{m} + \frac{\sigma_2^2}{n}\right)Xˉ−Yˉ∼N(μ1−μ2,mσ12+nσ22)

在 H0:μ1=μ2H_0: \mu_1 = \mu_2H0:μ1=μ2 下，标准化得 U∼N(0,1)U \sim N(0,1)U∼N(0,1)。

（b）σ12=σ22=σ2\sigma_1^2 = \sigma_2^2 = \sigma^2σ12=σ22=σ2（未知但相等）

T=Xˉ−YˉSw1m+1n∼t(m+n−2)T = \frac{\bar{X} - \bar{Y}}{S_w\sqrt{\frac{1}{m}+\frac{1}{n}}} \sim t(m+n-2)T=Swm1+n1 Xˉ−Yˉ∼t(m+n−2)

其中 合并标准差（pooled standard deviation）：

Sw=(m−1)S12+(n−1)S22m+n−2S_w = \sqrt{\frac{(m-1)S_1^2 + (n-1)S_2^2}{m+n-2}}Sw=m+n−2(m−1)S12+(n−1)S22

推导：

记 S12=1m−1∑(Xi−Xˉ)2S_1^2 = \frac{1}{m-1}\sum(X_i - \bar{X})^2S12=m−11∑(Xi−Xˉ)2，S22=1n−1∑(Yj−Yˉ)2S_2^2 = \frac{1}{n-1}\sum(Y_j - \bar{Y})^2S22=n−11∑(Yj−Yˉ)2。

在 H0H_0H0 下：

U=Xˉ−Yˉσ1/m+1/n∼N(0,1)U = \frac{\bar{X}-\bar{Y}}{\sigma\sqrt{1/m+1/n}} \sim N(0,1)U=σ1/m+1/n Xˉ−Yˉ∼N(0,1)

又：

(m−1)S12σ2∼χ2(m−1),(n−1)S22σ2∼χ2(n−1)\frac{(m-1)S_1^2}{\sigma^2} \sim \chi^2(m-1), \quad \frac{(n-1)S_2^2}{\sigma^2} \sim \chi^2(n-1)σ2(m−1)S12∼χ2(m−1),σ2(n−1)S22∼χ2(n−1)

两者独立，故：

(m−1)S12+(n−1)S22σ2∼χ2(m+n−2)\frac{(m-1)S_1^2+(n-1)S_2^2}{\sigma^2} \sim \chi^2(m+n-2)σ2(m−1)S12+(n−1)S22∼χ2(m+n−2)

由 ttt 分布的定义：

T=U(m−1)S12+(n−1)S22σ2(m+n−2)=Xˉ−YˉSw1/m+1/n∼t(m+n−2)T = \frac{U}{\sqrt{\frac{(m-1)S_1^2+(n-1)S_2^2}{\sigma^2(m+n-2)}}} = \frac{\bar{X}-\bar{Y}}{S_w\sqrt{1/m+1/n}} \sim t(m+n-2)T=σ2(m+n−2)(m−1)S12+(n−1)S22 U=Sw1/m+1/n Xˉ−Yˉ∼t(m+n−2)

（c）σ12≠σ22\sigma_1^2 \neq \sigma_2^2σ12=σ22（未知且不相等）------Welch检验

T′=Xˉ−YˉS12m+S22nT' = \frac{\bar{X} - \bar{Y}}{\sqrt{\frac{S_1^2}{m} + \frac{S_2^2}{n}}}T′=mS12+nS22 Xˉ−Yˉ

T′T'T′ 近似服从 t(ν)t(\nu)t(ν) 分布，其中自由度用Welch-Satterthwaite公式计算：

ν=(S12m+S22n)2(S12m)2m−1+(S22n)2n−1\nu = \frac{\left(\frac{S_1^2}{m} + \frac{S_2^2}{n}\right)^2}{\frac{\left(\frac{S_1^2}{m}\right)^2}{m-1} + \frac{\left(\frac{S_2^2}{n}\right)^2}{n-1}}ν=m−1(mS12)2+n−1(nS22)2(mS12+nS22)2

3.3.2 两总体方差比的检验

H0:σ12=σ22vsH1:σ12≠σ22H_0: \sigma_1^2 = \sigma_2^2 \quad vs \quad H_1: \sigma_1^2 \neq \sigma_2^2H0:σ12=σ22vsH1:σ12=σ22

检验统计量（F检验）：

F=S12S22∼F(m−1,n−1)F = \frac{S_1^2}{S_2^2} \sim F(m-1, n-1)F=S22S12∼F(m−1,n−1)

推导：

(m−1)S12σ12∼χ2(m−1),(n−1)S22σ22∼χ2(n−1)\frac{(m-1)S_1^2}{\sigma_1^2} \sim \chi^2(m-1), \quad \frac{(n-1)S_2^2}{\sigma_2^2} \sim \chi^2(n-1)σ12(m−1)S12∼χ2(m−1),σ22(n−1)S22∼χ2(n−1)

两者独立。由 FFF 分布的定义：

F=χ2(m−1)/(m−1)χ2(n−1)/(n−1)=S12/σ12S22/σ22F = \frac{\chi^2(m-1)/(m-1)}{\chi^2(n-1)/(n-1)} = \frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}F=χ2(n−1)/(n−1)χ2(m−1)/(m−1)=S22/σ22S12/σ12

在 H0:σ12=σ22H_0: \sigma_1^2 = \sigma_2^2H0:σ12=σ22 下：

F=S12S22∼F(m−1,n−1)F = \frac{S_1^2}{S_2^2} \sim F(m-1, n-1)F=S22S12∼F(m−1,n−1)

拒绝域 ：F<Fα/2(m−1,n−1)F < F_{\alpha/2}(m-1,n-1)F<Fα/2(m−1,n−1) 或 F>F1−α/2(m−1,n−1)F > F_{1-\alpha/2}(m-1,n-1)F>F1−α/2(m−1,n−1)

3.4 R实现

r 复制代码

# ========== 单样本t检验 ==========
data <- c(12.5, 13.0, 12.8, 13.2, 12.9, 13.1, 12.7, 13.3, 12.6, 13.0)
# 检验 H0: mu = 13 vs H1: mu != 13
t.test(data, mu = 13, alternative = "two.sided", conf.level = 0.95)

# 单侧检验 H0: mu = 13 vs H1: mu > 13
t.test(data, mu = 13, alternative = "greater", conf.level = 0.95)

# ========== 方差检验 ==========
# 卡方检验（检验方差）
n <- length(data)
sigma0_sq <- 0.1
chi2_stat <- (n - 1) * var(data) / sigma0_sq
p_value <- 2 * min(pchisq(chi2_stat, df = n-1), 1 - pchisq(chi2_stat, df = n-1))
cat("卡方统计量:", chi2_stat, "\n")
cat("p值:", p_value, "\n")

# ========== 两样本t检验 ==========
x <- c(23, 25, 28, 30, 32, 35)
y <- c(30, 33, 36, 38, 40, 45)

# 方差齐性检验（F检验）
var.test(x, y)

# 等方差两样本t检验
t.test(x, y, var.equal = TRUE, alternative = "two.sided")

# 不等方差（Welch检验）
t.test(x, y, var.equal = FALSE, alternative = "two.sided")

# ========== 配对t检验 ==========
before <- c(150, 145, 160, 155, 148, 152, 158, 147)
after  <- c(140, 138, 150, 142, 140, 145, 148, 139)
t.test(before, after, paired = TRUE, alternative = "greater")

3.5 P值（p-value）的意义

P值是在原假设 H0H_0H0 成立的前提下，观测到当前统计量值或更极端值的概率。

p值=PH0(∣T∣≥∣tobs∣)（双侧）p\text{值} = P_{H_0}(|T| \geq |t_{\text{obs}}|) \text{（双侧）}p值=PH0(∣T∣≥∣tobs∣)（双侧）

p<αp < \alphap<α：拒绝 H0H_0H0
p≥αp \geq \alphap≥α：不拒绝 H0H_0H0

§4 方差分析（ANOVA）

4.1 问题背景

方差分析用于检验三个或更多 总体的均值是否相等。若只有两个总体，方差分析等价于 FFF 检验。

设因素 AAA 有 rrr 个水平，在第 iii 个水平下进行了 nin_ini 次独立实验，得到观测值 XijX_{ij}Xij（j=1,2,...,nij = 1, 2, \ldots, n_ij=1,2,...,ni）。

4.2 单因素方差分析模型

Xij=μi+εij,i=1,2,...,r;j=1,2,...,niX_{ij} = \mu_i + \varepsilon_{ij}, \quad i = 1, 2, \ldots, r; \quad j = 1, 2, \ldots, n_iXij=μi+εij,i=1,2,...,r;j=1,2,...,ni

其中：

μi\mu_iμi 为第 iii 个水平下的总体均值
εij∼iidN(0,σ2)\varepsilon_{ij} \overset{\text{iid}}{\sim} N(0, \sigma^2)εij∼iidN(0,σ2)

等价地，引入参数化：

Xij=μ+αi+εijX_{ij} = \mu + \alpha_i + \varepsilon_{ij}Xij=μ+αi+εij

其中：

μ\muμ 为总均值（μ=1n∑i=1rniμi\mu = \frac{1}{n}\sum_{i=1}^{r}n_i\mu_iμ=n1∑i=1rniμi，n=∑nin = \sum n_in=∑ni）
αi=μi−μ\alpha_i = \mu_i - \muαi=μi−μ 为第 iii 个水平的效应
∑i=1rniαi=0\sum_{i=1}^{r}n_i\alpha_i = 0∑i=1rniαi=0

4.3 假设检验

H0:μ1=μ2=⋯=μr(即 α1=α2=⋯=αr=0)H_0: \mu_1 = \mu_2 = \cdots = \mu_r \quad (\text{即 } \alpha_1 = \alpha_2 = \cdots = \alpha_r = 0)H0:μ1=μ2=⋯=μr(即 α1=α2=⋯=αr=0)

H1:至少有两个 μi 不相等H_1: \text{至少有两个 } \mu_i \text{ 不相等}H1:至少有两个 μi 不相等

4.4 平方和分解

定义各种平方和：

记 Xˉi⋅=1ni∑j=1niXij\bar{X}{i\cdot} = \frac{1}{n_i}\sum{j=1}^{n_i}X_{ij}Xˉi⋅=ni1∑j=1niXij（第 iii 组均值），Xˉ=1n∑i=1r∑j=1niXij\bar{X} = \frac{1}{n}\sum_{i=1}^{r}\sum_{j=1}^{n_i}X_{ij}Xˉ=n1∑i=1r∑j=1niXij（总均值）。

总离差平方和：

ST=∑i=1r∑j=1ni(Xij−Xˉ)2S_T = \sum_{i=1}^{r}\sum_{j=1}^{n_i}(X_{ij} - \bar{X})^2ST=i=1∑rj=1∑ni(Xij−Xˉ)2

分解：

ST=SE+SAS_T = S_E + S_AST=SE+SA

其中：

组内平方和（误差平方和）：

SE=∑i=1r∑j=1ni(Xij−Xˉi⋅)2S_E = \sum_{i=1}^{r}\sum_{j=1}^{n_i}(X_{ij} - \bar{X}_{i\cdot})^2SE=i=1∑rj=1∑ni(Xij−Xˉi⋅)2

组间平方和（因素平方和）：

SA=∑i=1rni(Xˉi⋅−Xˉ)2S_A = \sum_{i=1}^{r}n_i(\bar{X}_{i\cdot} - \bar{X})^2SA=i=1∑rni(Xˉi⋅−Xˉ)2

推导分解公式：

ST=∑i=1r∑j=1ni(Xij−Xˉ)2S_T = \sum_{i=1}^{r}\sum_{j=1}^{n_i}(X_{ij} - \bar{X})^2ST=i=1∑rj=1∑ni(Xij−Xˉ)2

=∑i=1r∑j=1ni $(Xij-Xˉi\cdot)+(Xˉi\cdot-Xˉ)$ 2= \sum_{i=1}^{r}\sum_{j=1}^{n_i}\left $(X_{ij} - \\bar{X}_{i\\cdot}) + (\\bar{X}_{i\\cdot} - \\bar{X})\\right$ ^2=i=1∑rj=1∑ni $(Xij-Xˉi\cdot)+(Xˉi\cdot-Xˉ)$ 2

=∑i=1r∑j=1ni(Xij−Xˉi⋅)2+∑i=1r∑j=1ni(Xˉi⋅−Xˉ)2+2∑i=1r∑j=1ni(Xij−Xˉi⋅)(Xˉi⋅−Xˉ)= \sum_{i=1}^{r}\sum_{j=1}^{n_i}(X_{ij} - \bar{X}{i\cdot})^2 + \sum{i=1}^{r}\sum_{j=1}^{n_i}(\bar{X}{i\cdot} - \bar{X})^2 + 2\sum{i=1}^{r}\sum_{j=1}^{n_i}(X_{ij} - \bar{X}{i\cdot})(\bar{X}{i\cdot} - \bar{X})=i=1∑rj=1∑ni(Xij−Xˉi⋅)2+i=1∑rj=1∑ni(Xˉi⋅−Xˉ)2+2i=1∑rj=1∑ni(Xij−Xˉi⋅)(Xˉi⋅−Xˉ)

交叉项为零 ：因为 (Xˉi⋅−Xˉ)(\bar{X}_{i\cdot} - \bar{X})(Xˉi⋅−Xˉ) 对于固定的 iii 是常数，所以

∑j=1ni(Xij−Xˉi⋅)=0\sum_{j=1}^{n_i}(X_{ij} - \bar{X}_{i\cdot}) = 0j=1∑ni(Xij−Xˉi⋅)=0

因此交叉项为零，得证。

4.5 检验统计量的分布

在 H0H_0H0 成立时：

SEσ2∼χ2(n−r),SAσ2∼χ2(r−1)\frac{S_E}{\sigma^2} \sim \chi^2(n-r), \quad \frac{S_A}{\sigma^2} \sim \chi^2(r-1)σ2SE∼χ2(n−r),σ2SA∼χ2(r−1)

且 SES_ESE 与 SAS_ASA 独立。

检验统计量：

F=SA/(r−1)SE/(n−r)=MSAMSE∼F(r−1,n−r)F = \frac{S_A/(r-1)}{S_E/(n-r)} = \frac{MS_A}{MS_E} \sim F(r-1, n-r)F=SE/(n−r)SA/(r−1)=MSEMSA∼F(r−1,n−r)

其中 MSA=SA/(r−1)MS_A = S_A/(r-1)MSA=SA/(r−1) 为组间均方，MSE=SE/(n−r)MS_E = S_E/(n-r)MSE=SE/(n−r) 为组内均方。

拒绝域 ：F>F1−α(r−1,n−r)F > F_{1-\alpha}(r-1, n-r)F>F1−α(r−1,n−r)

4.6 方差分析表

方差来源	平方和	自由度	均方	FFF 值
组间（因素 AAA）	SAS_ASA	r−1r-1r−1	MSA=SAr−1MS_A = \frac{S_A}{r-1}MSA=r−1SA	MSAMSE\frac{MS_A}{MS_E}MSEMSA
组内（误差）	SES_ESE	n−rn-rn−r	MSE=SEn−rMS_E = \frac{S_E}{n-r}MSE=n−rSE
总计	STS_TST	n−1n-1n−1

4.7 R实现

r 复制代码

# 构造数据
group1 <- c(85, 90, 88, 92, 87)
group2 <- c(78, 82, 80, 85, 79)
group3 <- c(90, 95, 93, 97, 92)

data_values <- c(group1, group2, group3)
groups <- factor(rep(c("方法A", "方法B", "方法C"), each = 5))

# 方法一：使用 aov()
model <- aov(data_values ~ groups)
summary(model)

# 方法二：手动计算
k <- 3
n_vec <- c(5, 5, 5)
n <- sum(n_vec)
means <- c(mean(group1), mean(group2), mean(group3))
grand_mean <- mean(data_values)

SA <- sum(n_vec * (means - grand_mean)^2)
SE <- sum((group1 - means[1])^2) + sum((group2 - means[2])^2) + sum((group3 - means[3])^2)
ST <- sum((data_values - grand_mean)^2)

MSA <- SA / (k - 1)
MSE <- SE / (n - k)
F_stat <- MSA / MSE
p_val <- 1 - pf(F_stat, k - 1, n - k)

cat(sprintf("SA = %.4f, SE = %.4f, ST = %.4f\n", SA, SE, ST))
cat(sprintf("F = %.4f, p值 = %.4f\n", F_stat, p_val))

# 多重比较（Tukey HSD）
TukeyHSD(model)

4.8 双因素方差分析简介

设有两个因素 AAA（rrr 个水平）和 BBB（sss 个水平），不考虑交互作用时模型为：

Xij=μ+αi+βj+εij,i=1,...,r; j=1,...,sX_{ij} = \mu + \alpha_i + \beta_j + \varepsilon_{ij}, \quad i = 1,\ldots,r; \; j = 1,\ldots,sXij=μ+αi+βj+εij,i=1,...,r;j=1,...,s

其中 ∑αi=0\sum\alpha_i = 0∑αi=0，∑βj=0\sum\beta_j = 0∑βj=0，εij∼N(0,σ2)\varepsilon_{ij} \sim N(0,\sigma^2)εij∼N(0,σ2)。

平方和分解：

ST=SA+SB+SES_T = S_A + S_B + S_EST=SA+SB+SE

ST=∑i∑j(Xij−Xˉ)2,SA=s∑i(Xˉi⋅−Xˉ)2,SB=r∑j(Xˉ⋅j−Xˉ)2S_T = \sum_{i}\sum_{j}(X_{ij}-\bar{X})^2, \quad S_A = s\sum_i(\bar{X}{i\cdot}-\bar{X})^2, \quad S_B = r\sum_j(\bar{X}{\cdot j}-\bar{X})^2ST=i∑j∑(Xij−Xˉ)2,SA=si∑(Xˉi⋅−Xˉ)2,SB=rj∑(Xˉ⋅j−Xˉ)2

SE=ST−SA−SBS_E = S_T - S_A - S_BSE=ST−SA−SB

检验统计量：

FA=SA/(r−1)SE/((r−1)(s−1))∼F(r−1,(r−1)(s−1))F_A = \frac{S_A/(r-1)}{S_E/((r-1)(s-1))} \sim F(r-1, (r-1)(s-1))FA=SE/((r−1)(s−1))SA/(r−1)∼F(r−1,(r−1)(s−1))

FB=SB/(s−1)SE/((r−1)(s−1))∼F(s−1,(r−1)(s−1))F_B = \frac{S_B/(s-1)}{S_E/((r-1)(s-1))} \sim F(s-1, (r-1)(s-1))FB=SE/((r−1)(s−1))SB/(s−1)∼F(s−1,(r−1)(s−1))

r 复制代码

# 双因素方差分析（无交互作用）
A <- factor(rep(1:3, each = 4))   # 因素A, 3个水平
B <- factor(rep(1:4, times = 3))   # 因素B, 4个水平
y <- c(73, 75, 78, 76,
       76, 79, 81, 80,
       80, 83, 85, 82)

model2 <- aov(y ~ A + B)
summary(model2)

§5 线性回归

5.1 一元线性回归模型

模型：

Yi=β0+β1Xi+εi,i=1,2,...,nY_i = \beta_0 + \beta_1 X_i + \varepsilon_i, \quad i = 1, 2, \ldots, nYi=β0+β1Xi+εi,i=1,2,...,n

其中：

YiY_iYi 为响应变量（因变量）
XiX_iXi 为解释变量（自变量，视为非随机常数）
β0\beta_0β0 为截距，β1\beta_1β1 为斜率（回归系数）
εi∼iidN(0,σ2)\varepsilon_i \overset{\text{iid}}{\sim} N(0, \sigma^2)εi∼iidN(0,σ2)（随机误差）

5.2 最小二乘估计（OLS）

目标：求 β0,β1\beta_0, \beta_1β0,β1 使残差平方和最小：

Q(β0,β1)=∑i=1n(Yi−β0−β1Xi)2→min⁡Q(\beta_0, \beta_1) = \sum_{i=1}^{n}(Y_i - \beta_0 - \beta_1 X_i)^2 \to \minQ(β0,β1)=i=1∑n(Yi−β0−β1Xi)2→min

求解过程：

对 β0\beta_0β0 和 β1\beta_1β1 分别求偏导并令其为零：

∂Q∂β0=−2∑i=1n(Yi−β0−β1Xi)=0⋯(1)\frac{\partial Q}{\partial \beta_0} = -2\sum_{i=1}^{n}(Y_i - \beta_0 - \beta_1 X_i) = 0 \quad \cdots (1)∂β0∂Q=−2i=1∑n(Yi−β0−β1Xi)=0⋯(1)

∂Q∂β1=−2∑i=1nXi(Yi−β0−β1Xi)=0⋯(2)\frac{\partial Q}{\partial \beta_1} = -2\sum_{i=1}^{n}X_i(Y_i - \beta_0 - \beta_1 X_i) = 0 \quad \cdots (2)∂β1∂Q=−2i=1∑nXi(Yi−β0−β1Xi)=0⋯(2)

由 (1)(1)(1)：

∑Yi=nβ0+β1∑Xi ⟹ Yˉ=β0+β1Xˉ\sum Y_i = n\beta_0 + \beta_1\sum X_i \implies \bar{Y} = \beta_0 + \beta_1\bar{X}∑Yi=nβ0+β1∑Xi⟹Yˉ=β0+β1Xˉ

∴β^0=Yˉ−β^1Xˉ⋯(3)\therefore \quad \hat{\beta}_0 = \bar{Y} - \hat{\beta}_1\bar{X} \quad \cdots (3)∴β^0=Yˉ−β^1Xˉ⋯(3)

将 (3)(3)(3) 代入 (2)(2)(2)：

∑Xi(Yi−Yˉ+β^1Xˉ−β^1Xi)=0\sum X_i(Y_i - \bar{Y} + \hat{\beta}_1\bar{X} - \hat{\beta}_1 X_i) = 0∑Xi(Yi−Yˉ+β^1Xˉ−β^1Xi)=0

∑Xi(Yi−Yˉ)−β^1∑Xi(Xi−Xˉ)=0\sum X_i(Y_i - \bar{Y}) - \hat{\beta}_1\sum X_i(X_i - \bar{X}) = 0∑Xi(Yi−Yˉ)−β^1∑Xi(Xi−Xˉ)=0

注意 ∑Xi(Yi−Yˉ)=∑(Xi−Xˉ)(Yi−Yˉ)\sum X_i(Y_i - \bar{Y}) = \sum(X_i - \bar{X})(Y_i - \bar{Y})∑Xi(Yi−Yˉ)=∑(Xi−Xˉ)(Yi−Yˉ)（展开后 Yˉ∑Xi=Yˉ⋅nXˉ\bar{Y}\sum X_i = \bar{Y} \cdot n\bar{X}Yˉ∑Xi=Yˉ⋅nXˉ 与 −Yˉ∑Xi-\bar{Y}\sum X_i−Yˉ∑Xi 相消），以及 ∑Xi(Xi−Xˉ)=∑(Xi−Xˉ)2\sum X_i(X_i - \bar{X}) = \sum(X_i - \bar{X})^2∑Xi(Xi−Xˉ)=∑(Xi−Xˉ)2，因此：

β^1=∑i=1n(Xi−Xˉ)(Yi−Yˉ)∑i=1n(Xi−Xˉ)2=LxyLxx\hat{\beta}1 = \frac{\sum{i=1}^{n}(X_i - \bar{X})(Y_i - \bar{Y})}{\sum_{i=1}^{n}(X_i - \bar{X})^2} = \frac{L_{xy}}{L_{xx}}β^1=∑i=1n(Xi−Xˉ)2∑i=1n(Xi−Xˉ)(Yi−Yˉ)=LxxLxy

其中：

Lxy=∑i=1n(Xi−Xˉ)(Yi−Yˉ)=∑XiYi−nXˉYˉL_{xy} = \sum_{i=1}^{n}(X_i - \bar{X})(Y_i - \bar{Y}) = \sum X_iY_i - n\bar{X}\bar{Y}Lxy=i=1∑n(Xi−Xˉ)(Yi−Yˉ)=∑XiYi−nXˉYˉ

Lxx=∑i=1n(Xi−Xˉ)2=∑Xi2−nXˉ2L_{xx} = \sum_{i=1}^{n}(X_i - \bar{X})^2 = \sum X_i^2 - n\bar{X}^2Lxx=i=1∑n(Xi−Xˉ)2=∑Xi2−nXˉ2

Lyy=∑i=1n(Yi−Yˉ)2=∑Yi2−nYˉ2L_{yy} = \sum_{i=1}^{n}(Y_i - \bar{Y})^2 = \sum Y_i^2 - n\bar{Y}^2Lyy=i=1∑n(Yi−Yˉ)2=∑Yi2−nYˉ2

5.3 估计量的性质

（1）无偏性：

E(β^1)=β1,E(β^0)=β0E(\hat{\beta}_1) = \beta_1, \quad E(\hat{\beta}_0) = \beta_0E(β^1)=β1,E(β^0)=β0

证明：令 ci=Xi−XˉLxxc_i = \frac{X_i - \bar{X}}{L_{xx}}ci=LxxXi−Xˉ，则 β^1=∑ciYi\hat{\beta}_1 = \sum c_i Y_iβ^1=∑ciYi，其中 ∑ci=0\sum c_i = 0∑ci=0，∑ciXi=1\sum c_i X_i = 1∑ciXi=1。

E(β^1)=∑ciE(Yi)=∑ci(β0+β1Xi)=β0⋅0+β1⋅1=β1E(\hat{\beta}_1) = \sum c_i E(Y_i) = \sum c_i(\beta_0 + \beta_1 X_i) = \beta_0 \cdot 0 + \beta_1 \cdot 1 = \beta_1E(β^1)=∑ciE(Yi)=∑ci(β0+β1Xi)=β0⋅0+β1⋅1=β1

（2）方差：

D(β^1)=σ2LxxD(\hat{\beta}1) = \frac{\sigma^2}{L{xx}}D(β^1)=Lxxσ2

D(β^0)=σ2(1n+Xˉ2Lxx)D(\hat{\beta}0) = \sigma^2\left(\frac{1}{n} + \frac{\bar{X}^2}{L{xx}}\right)D(β^0)=σ2(n1+LxxXˉ2)

证明：D(β^1)=∑ci2D(Yi)=σ2∑ci2=σ2⋅∑(Xi−Xˉ)2Lxx2=σ2LxxD(\hat{\beta}1) = \sum c_i^2 D(Y_i) = \sigma^2 \sum c_i^2 = \sigma^2 \cdot \frac{\sum(X_i-\bar{X})^2}{L{xx}^2} = \frac{\sigma^2}{L_{xx}}D(β^1)=∑ci2D(Yi)=σ2∑ci2=σ2⋅Lxx2∑(Xi−Xˉ)2=Lxxσ2。

（3）β^0,β^1\hat{\beta}_0, \hat{\beta}_1β^0,β^1 服从正态分布：

β^1∼N(β1,σ2Lxx),β^0∼N(β0,σ2(1n+Xˉ2Lxx))\hat{\beta}1 \sim N\left(\beta_1, \frac{\sigma^2}{L{xx}}\right), \quad \hat{\beta}0 \sim N\left(\beta_0, \sigma^2\left(\frac{1}{n}+\frac{\bar{X}^2}{L{xx}}\right)\right)β^1∼N(β1,Lxxσ2),β^0∼N(β0,σ2(n1+LxxXˉ2))

5.4 σ2\sigma^2σ2 的估计

残差平方和：

SE=∑i=1n(Yi−Y^i)2=∑i=1n(Yi−β^0−β^1Xi)2S_E = \sum_{i=1}^{n}(Y_i - \hat{Y}i)^2 = \sum{i=1}^{n}(Y_i - \hat{\beta}_0 - \hat{\beta}_1 X_i)^2SE=i=1∑n(Yi−Y^i)2=i=1∑n(Yi−β^0−β^1Xi)2

可以证明：

SE=Lyy−β^1LxyS_E = L_{yy} - \hat{\beta}1 L{xy}SE=Lyy−β^1Lxy

推导：

SE=∑(Yi−Y^i)2=∑ $(Yi−Yˉ)−β\^1(Xi−Xˉ)$ 2S_E = \sum(Y_i - \hat{Y}_i)^2 = \sum $(Y_i - \\bar{Y}) - \\hat{\\beta}_1(X_i - \\bar{X})$ ^2SE=∑(Yi−Y^i)2=∑ $(Yi−Yˉ)−β\^1(Xi−Xˉ)$ 2

=Lyy−2β^1Lxy+β^12Lxx= L_{yy} - 2\hat{\beta}1 L{xy} + \hat{\beta}1^2 L{xx}=Lyy−2β^1Lxy+β^12Lxx

=Lyy−2β^1Lxy+β^1⋅LxyLxx⋅Lxx=Lyy−β^1Lxy= L_{yy} - 2\hat{\beta}1 L{xy} + \hat{\beta}1 \cdot \frac{L{xy}}{L_{xx}} \cdot L_{xx} = L_{yy} - \hat{\beta}1 L{xy}=Lyy−2β^1Lxy+β^1⋅LxxLxy⋅Lxx=Lyy−β^1Lxy

σ2\sigma^2σ2 的无偏估计：

σ^2=SEn−2\hat{\sigma}^2 = \frac{S_E}{n-2}σ^2=n−2SE

且 SEσ2∼χ2(n−2)\frac{S_E}{\sigma^2} \sim \chi^2(n-2)σ2SE∼χ2(n−2)。

5.5 回归方程的显著性检验

H0:β1=0vsH1:β1≠0H_0: \beta_1 = 0 \quad vs \quad H_1: \beta_1 \neq 0H0:β1=0vsH1:β1=0

方法一：ttt 检验

T=β^1σ^/Lxx∼t(n−2)T = \frac{\hat{\beta}1}{\hat{\sigma}/\sqrt{L{xx}}} \sim t(n-2)T=σ^/Lxx β^1∼t(n−2)

推导：β^1∼N(β1,σ2/Lxx)\hat{\beta}1 \sim N(\beta_1, \sigma^2/L{xx})β^1∼N(β1,σ2/Lxx)，在 H0H_0H0 下 β^1∼N(0,σ2/Lxx)\hat{\beta}1 \sim N(0, \sigma^2/L{xx})β^1∼N(0,σ2/Lxx)。又 (n−2)σ^2σ2=SEσ2∼χ2(n−2)\frac{(n-2)\hat{\sigma}^2}{\sigma^2} = \frac{S_E}{\sigma^2} \sim \chi^2(n-2)σ2(n−2)σ^2=σ2SE∼χ2(n−2)，且 β^1\hat{\beta}_1β^1 与 SES_ESE 独立，故

T=β^1/σ2/LxxSE/(σ2(n−2))=β^1σ^/Lxx∼t(n−2)T = \frac{\hat{\beta}1/\sqrt{\sigma^2/L{xx}}}{\sqrt{S_E/(\sigma^2(n-2))}} = \frac{\hat{\beta}1}{\hat{\sigma}/\sqrt{L{xx}}} \sim t(n-2)T=SE/(σ2(n−2)) β^1/σ2/Lxx =σ^/Lxx β^1∼t(n−2)

方法二：FFF 检验

回归平方和 SR=β^1LxyS_R = \hat{\beta}1 L{xy}SR=β^1Lxy，则：

F=SRSE/(n−2)=SR/1SE/(n−2)∼F(1,n−2)F = \frac{S_R}{S_E/(n-2)} = \frac{S_R/1}{S_E/(n-2)} \sim F(1, n-2)F=SE/(n−2)SR=SE/(n−2)SR/1∼F(1,n−2)

注意 ST=SR+SES_T = S_R + S_EST=SR+SE，这是回归分析中的平方和分解。

方法三：相关系数检验

样本相关系数：

r=LxyLxx⋅Lyyr = \frac{L_{xy}}{\sqrt{L_{xx} \cdot L_{yy}}}r=Lxx⋅Lyy Lxy

R2=r2R^2 = r^2R2=r2（一元回归中决定系数等于相关系数的平方）。

R2=SRST=1−SESTR^2 = \frac{S_R}{S_T} = 1 - \frac{S_E}{S_T}R2=STSR=1−STSE

5.6 R实现

r 复制代码

# ========== 一元线性回归 ==========
x <- c(1, 2, 3, 4, 5, 6, 7, 8, 9, 10)
y <- c(2.1, 3.9, 6.2, 7.8, 10.1, 12.0, 14.1, 15.9, 18.2, 19.8)

# 拟合模型
model <- lm(y ~ x)

# 查看回归系数
summary(model)

# 详细结果解读
cat("截距:", coef(model)[1], "\n")
cat("斜率:", coef(model)[2], "\n")
cat("R方:", summary(model)$r.squared, "\n")

# 绘制散点图和回归线
plot(x, y, pch = 19, col = "steelblue", 
     main = "一元线性回归", xlab = "x", ylab = "y")
abline(model, col = "red", lwd = 2)

# 预测
new_x <- data.frame(x = c(5.5, 11))
predict(model, newdata = new_x, interval = "confidence")  # 置信区间
predict(model, newdata = new_x, interval = "prediction")  # 预测区间

# 残差诊断
par(mfrow = c(2, 2))
plot(model)

# ========== 多元线性回归 ==========
# 假设有两个自变量
x1 <- c(1, 2, 3, 4, 5, 6, 7, 8, 9, 10)
x2 <- c(3, 1, 4, 1, 5, 9, 2, 6, 5, 3)
y2 <- c(5.1, 4.2, 7.8, 5.5, 9.3, 11.2, 8.1, 12.5, 10.8, 9.0)

model2 <- lm(y2 ~ x1 + x2)
summary(model2)

# 偏F检验（比较嵌套模型）
model_reduced <- lm(y2 ~ x1)
anova(model_reduced, model2)