1.概率论
1.1 随机事件与概率
1.1.1 基本概念
样本点(sample point)： 称为试验 S S S的可能结果为样本点，用 ω \omega ω表示。
样本空间(sample space) ：称试验 S S S的样本点构成的集合为样本空间，用 Ω \Omega Ω表示。于是
Ω = { ω ∣ ω 是试验 S 的样本点 } \begin{aligned} \Omega = \{\omega|\omega是试验S的样本点\} \end {aligned} Ω={ω∣ω是试验S的样本点}
事件(event)： 设 Ω \Omega Ω是试验 S S S的样本空间。当 Ω \Omega Ω中只有有限个样本点时，称 Ω \Omega Ω的子集为事件。当试验的样本点(试验结果) ω \omega ω落在 A A A中，称事件 A A A发生，否则称 A A A不发生。
按照上述约定，子集符号 A ⊂ Ω A \subset \Omega A⊂Ω表示 A A A是事件。通常用大写字母 A , B , C , D A,B,C,D A,B,C,D等表示事件。
用 A ‾ = Ω − A \overline{A}=\Omega-A A=Ω−A表示集合 A A A的余集 。则事件 A A A发生和样本点 ω ∈ A \omega \in A ω∈A是等价的，事件 A A A不发生和样本点 ω ∈ A ‾ \omega \in \overline{A} ω∈A是等价的。
空集 ∅ \emptyset ∅是 Ω \Omega Ω的子集，由于 ∅ \emptyset ∅中没有样本点，永远不会发生，所以称 ∅ \emptyset ∅是不可能事件 。 Ω \Omega Ω也是样本空间 Ω \Omega Ω的子集，包含了所有的样本点，因而总会发生。我们称 Ω \Omega Ω是必然事件。
基本事件： 由一个样本点组成的子集。
1.1.2 事件间的关系和运算
1. 事件关系
| 事件关系 | 概念 | 表示 |
|---|---|---|
| 事件包含 | A A A发生则 B B B必发生 | A ⊂ B A \subset B A⊂B，特别的， A ⊂ B A \subset B A⊂B且 B ⊂ A B \subset A B⊂A，则 A = B A=B A=B |
| 事件的并 | A A A和 B B B至少有一个发生 | A ∪ B A \cup B A∪B |
| 事件的交 | A A A和 B B B同时发生 | A ∩ B A \cap B A∩B或 A B AB AB |
| 事件的差 | A A A发生而 B B B不发生 | A − B A - B A−B |
| 互斥事件 | A A A和 B B B不能同时发生 | A ∩ B = ∅ A \cap B=\emptyset A∩B=∅或 A B = ∅ AB=\emptyset AB=∅ |
| 对立事件 | A A A和 B B B必有一个发生，且仅有一个， A A A的对立事件 A ‾ \overline{A} A | A A ‾ = ∅ A\overline{A}=\emptyset AA=∅且 A ∪ A ‾ = Ω A \cup \overline{A}=\Omega A∪A=Ω |
2. 运算规律
交换律： A ∪ B = B ∪ A A \cup B=B \cup A A∪B=B∪A， A ∩ B = B ∩ A A \cap B=B \cap A A∩B=B∩A
结合律： ( A ∪ B ) ∪ C = A ∪ ( B ∪ C ) (A \cup B) \cup C=A \cup (B \cup C) (A∪B)∪C=A∪(B∪C)， ( A ∩ B ) ∩ C = A ∩ ( B ∩ C ) (A \cap B) \cap C=A \cap (B \cap C) (A∩B)∩C=A∩(B∩C)
分配律： A ∩ ( B ∪ C ) = ( A ∩ B ) ∪ ( A ∩ C ) A \cap (B \cup C)=(A \cap B)\cup(A \cap C) A∩(B∪C)=(A∩B)∪(A∩C), A ∪ ( B ∩ C ) = ( A ∪ B ) ∩ ( A ∪ C ) A \cup (B \cap C)=(A \cup B)\cap(A \cup C) A∪(B∩C)=(A∪B)∩(A∪C)， A ( B − C ) = A B − A C A(B-C)=AB-AC A(B−C)=AB−AC
吸收律：若 A ⊂ B A \subset B A⊂B,则 A B = A , A ∪ B = B AB=A,A \cup B=B AB=A,A∪B=B
德摩根律： A ∪ B ‾ = A ‾ ∩ B ‾ \overline{A \cup B}=\overline{A} \cap \overline{B} A∪B=A∩B, A ∩ B ‾ = A ‾ ∪ B ‾ \overline{A \cap B}=\overline{A} \cup \overline{B} A∩B=A∪B
减法公式： A − B = A − A B = A B ‾ A-B=A-AB=A \overline{B} A−B=A−AB=AB
1.1.3 概率
频率： 相同条件下，进行 n n n次试验，事件 A A A发生的次数 k k k和试验总次数的比 k / n k/n k/n称为频率。频率是个有限次概念
概率： 设 E E E是随机试验， S S S是他的样本空间，对于 E E E的每一事件 A A A赋予一个实数，记为 P ( A ) P(A) P(A)，称为事件 A A A的频率
频率的性质：
非负性： 0 ≤ P ( A ) ≤ 1 0 \le P(A) \le 1 0≤P(A)≤1
规范性： P ( Ω ) = 1 , P ( ∅ ) = 0 P(\Omega)=1,P(\emptyset)=0 P(Ω)=1,P(∅)=0
可加可列性： A 1 , A 2 , . . . , A n A_{1},A_{2},...,A_{n} A1,A2,...,An两两互不相容(即 A i A j = ∅ A_{i}A_{j}=\emptyset AiAj=∅),有 P ( A 1 A 2 . . . A n ) = P ( A 1 ) + P ( A 2 ) + . . . + P ( A n ) P(A_{1}A_{2}...A_{n})=P(A_{1})+P(A_{2})+...+P(A_{n}) P(A1A2...An)=P(A1)+P(A2)+...+P(An)
1.1.4古典概型(等可能概型)
条件： 1）有限个样本点；2）等可能性
P ( A ) = A 所包含的样本点数 样本总数 = A n n \begin{aligned} P(A)=\frac{A所包含的样本点数}{样本总数}=\frac{A_{n}}{n} \end{aligned} P(A)=样本总数A所包含的样本点数=nAn
1.1.5 几何概型
条件： 1）无限样本点；2）等可能性
p ( A ) = μ A μ Ω , μ 表示几何大小的度量。 \begin{aligned} p(A)=\frac{\mu_{A}}{\mu_{\Omega}},\mu表示几何大小的度量。 \end{aligned} p(A)=μΩμA,μ表示几何大小的度量。
1.1.6 条件概率
P ( B ∣ A ) P(B|A) P(B∣A)表示在事件 A A A发生的条件下，事件 B B B发生的概率。
P ( B ∣ A ) = P ( A B ) P ( A ) ⇒ P ( A B ) = P ( A ) P ( B ∣ A ) \begin{aligned} P(B|A)=\frac{P(AB)}{P(A)} \Rightarrow P(AB)=P(A)P(B|A) \end{aligned} P(B∣A)=P(A)P(AB)⇒P(AB)=P(A)P(B∣A)
一些公式：
P ( B ∪ C ∣ A ) = P ( B ∣ A ) + P ( C ∣ A ) − P ( B C ∣ A ) 当 B ∩ C = ∅ 时， P ( B ∪ C ∣ A ) = P ( B ∣ A ) + P ( C ∣ A ) \begin{aligned} P(B \cup C|A)=P(B|A)+P(C|A)-P(BC|A)\\ 当B \cap C=\emptyset时，P(B \cup C|A)=P(B|A)+P(C|A) \end{aligned} P(B∪C∣A)=P(B∣A)+P(C∣A)−P(BC∣A)当B∩C=∅时，P(B∪C∣A)=P(B∣A)+P(C∣A)
P ( B − C ∣ A ) = P ( B ∣ A ) − P ( B C ∣ A ) \begin{aligned} P(B-C|A)=P(B|A)-P(BC|A) \end{aligned} P(B−C∣A)=P(B∣A)−P(BC∣A)
P ( B ‾ ∣ A ) = 1 − P ( B ∣ A ) \begin{aligned} P(\overline{B}|A)=1-P(B|A) \end{aligned} P(B∣A)=1−P(B∣A)
1.1.7 重要公式
1. 五大公式：
加法公式： P ( A ∪ B ) = P ( A ) + P ( B ) − P ( A B ) P(A \cup B)=P(A)+P(B)-P(A B) P(A∪B)=P(A)+P(B)−P(AB)
减法公式： P ( A − B ) = P ( A ) − P ( A B ) P(A-B)=P(A)-P(A B) P(A−B)=P(A)−P(AB)
乘法公式： P ( A B ) = P ( A ) P ( B ∣ A ) P(A B)=P(A) P(B \mid A) P(AB)=P(A)P(B∣A), P ( A B C ) = P ( C ∣ A B ) P ( B ∣ A ) P ( A ) P(ABC)=P(C|AB)P(B|A)P(A) P(ABC)=P(C∣AB)P(B∣A)P(A),
P ( A 1 A 2 ⋯ A n ) = P ( A 1 ) P ( A 2 ∣ A 1 ) ⋯ P ( A n ∣ A 1 A 2 ⋯ A n − 1 ) P\left(A_1 A_2 \cdots A_n\right)=P\left(A_1\right) P\left(A_2 \mid A_1\right) \cdots P\left(A_n \mid A_1 A_2 \cdots A_{n-1}\right) P(A1A2⋯An)=P(A1)P(A2∣A1)⋯P(An∣A1A2⋯An−1)
全概率公式： P ( B ) = ∑ i = 1 n P ( A i ) P ( B ∣ A i ) P(B)=\sum_{i=1}^n P\left(A_i\right) P\left(B \mid A_i\right) P(B)=∑i=1nP(Ai)P(B∣Ai)
贝叶斯公式： P ( A i ∣ B ) = P ( A i B ) P ( B ) = P ( A i ) P ( B ∣ A i ) ∑ i = 1 n P ( A i ) P ( B ∣ A i ) P\left(A_i \mid B\right)=\frac{P\left(A_i B\right)}{P(B)}=\frac{P\left(A_i\right) P\left(B \mid A_i\right)}{\sum_{i=1}^n P\left(A_i\right) P\left(B \mid A_i\right)} P(Ai∣B)=P(B)P(AiB)=∑i=1nP(Ai)P(B∣Ai)P(Ai)P(B∣Ai)
A1 B A2 A3 ... An
2. 独立： P ( A B ) = P ( A ) P ( B ) P(A B)=P(A) P(B) P(AB)=P(A)P(B)
3. 排列组合：
排列 A n r = n ( n − 1 ) ⋯ ( n − r + 1 ) A_n^r=n(n-1) \cdots(n-r+1) Anr=n(n−1)⋯(n−r+1)
从 n n n 个不同的元素中任取 r r r 个, 按一定顺序排成一列组合 C n r = n ! ( n − r ) ! r ! = A n r r ! C_n^r=\frac{n !}{(n-r) ! r !}=\frac{A_n^r}{r !} Cnr=(n−r)!r!n!=r!Anr
从 n n n 个不同的元素中任取 r r r 个, 不计顺序排成一组
4. 伯努利试验： P ( X = k ) = C N K p k ( 1 − p ) n − k P(X=k)=C_N^K p^k(1-p)^{n-k} P(X=k)=CNKpk(1−p)n−k
1.1.8 常见分布
1. 0-1分布： X ∼ ( 1 0 P 1 − P ) \quad X \sim\left(\begin{array}{cc}1 & 0 \\ P & 1-P\end{array}\right) X∼(1P01−P)
2. 二项分布：
二项分布 { 1. 独立 2. P ( A ) = P 3. 只有 A , A ˉ , 非白即黑 \left\{\begin{array}{l}1 . \text { 独立 } \\ 2 . P(A)=P \\ 3 . \text { 只有 } A, \bar{A}, \text { 非白即黑 }\end{array}\right. ⎩ ⎨ ⎧1. 独立 2.P(A)=P3. 只有 A,Aˉ, 非白即黑
记 X X X 为 A A A 发生的次数, P { x = k } = C n k P k ( 1 − P ) n − k , k = 0 , 1 , ⋯ , n P\{x=k\}=C_n^k P^k(1-P)^{n-k}, k=0,1, \cdots, n P{x=k}=CnkPk(1−P)n−k,k=0,1,⋯,n
⟹ X ∼ B ( n , P ) \Longrightarrow X \sim B(n, P) ⟹X∼B(n,P)
3. 几何分布： 几何分布 与几何无关, 首中即停止, 记 X X X 为试验次数 ⟹ P { x = k } = P 1 ( 1 − P ) k − 1 , k = 1 , 2 , ⋯ \Longrightarrow P\{x=k\}=P^1(1-P)^{k-1}, k=1,2, \cdots ⟹P{x=k}=P1(1−P)k−1,k=1,2,⋯
4. 超几何分布： 超几何分布 古典概型, 设 N N N 件产品, M M M 、件正品, N − M N-M N−M 件次品, 无放回取 n n n 次, 则 P { x = k } = C M k C N − M n − k C N n P\{x=k\}=\frac{C_M^k C_{N-M}^{n-k}}{C_N^n} P{x=k}=CNnCMkCN−Mn−k
5. 泊松分布： 某时间段内, 某场合下, 源源不断的质点来流的个数, 也常用于描述稀有事件的 P P P
P { X = k } = λ k k ! e − λ , { λ − − 强度 k = 0 , 1 , ⋯ P\{X=k\}=\frac{\lambda^k}{k !} e^{-\lambda},\left\{\begin{array}{l} \lambda-- \text { 强度 } \\ k=0,1, \cdots \end{array}\right. P{X=k}=k!λke−λ,{λ−− 强度 k=0,1,⋯
6. 均匀分布： 对比几何概型, 若 X ∼ f ( x ) = { 1 b − a , a ≤ x ≤ b 0 , 其他 X \sim f(x)=\left\{\begin{array}{l}\frac{1}{b-a}, a \leq x \leq b \\ 0, \text { 其他 }\end{array}\right. X∼f(x)={b−a1,a≤x≤b0, 其他 , 称 X ∼ U [ a , b ] X \sim U[a, b] X∼U[a,b],
[注]高档次说法: " X X X 在 I I I 上的任意子区间取值的概率与该子区间长度成正比" → X ∼ U ( I ) \rightarrow X \sim U(I) →X∼U(I)
7.指数分布 : X ∼ f ( x ) = { λ e − λ x , x > 0 0 , x ≤ 0 X \sim f(x)=\left\{\begin{array}{l}\lambda e^{-\lambda x}, x>0 \\ 0, x \leq 0\end{array}\right. X∼f(x)={λe−λx,x>00,x≤0, 称 X ∼ E ( λ ) , λ − X \sim E(\lambda), \lambda- X∼E(λ),λ−-失效率
注\]:无记忆性： P { X ≥ t + s ∣ X ≥ t } = P { x ≥ s } P\\{X \\geq t+s \\mid X \\geq t\\}=P\\{x \\geq s\\} P{X≥t+s∣X≥t}=P{x≥s}
F ( x ) = P { X ≤ x } = ∫ − ∞ x f ( t ) d t = { 1 − e − λ x , x ≥ 0 0 , x \< 0 F(x)=P\\{X \\leq x\\}=\\int_{-\\infty}\^x f(t) d t=\\left\\{\\begin{array}{l} 1-e\^{-\\lambda x}, x \\geq 0 \\\\ 0, x\<0 \\end{array}\\right. F(x)=P{X≤x}=∫−∞xf(t)dt={1−e−λx,x≥00,x\<0
{ 几何分布, 离散性等待分布 指数分布, 连续性等待分布 \\left\\{\\begin{array}{l}\\text { 几何分布, 离散性等待分布 } \\\\ \\text { 指数分布, 连续性等待分布 }\\end{array}\\right. { 几何分布, 离散性等待分布 指数分布, 连续性等待分布
**8. 正态分布：** X ∼ f ( x ) = 1 2 π σ e − ( x − μ ) 2 2 σ 2 , − ∞ \< x \< + ∞ X \\sim f(x)=\\frac{1}{\\sqrt{2 \\pi} \\sigma} e\^{-\\frac{(x-\\mu)\^2}{2 \\sigma\^2}},-\\infty\
1）定义法： { X ∼ p i ⟹ D ( X ) = E [ ( X − E ( X ) ) 2 ] = ∑ i ( x i − E ( X ) ) 2 p i X ∼ f ( x ) ⟹ D ( X ) = E [ ( X − E ( X ) ) 2 ] = ∫ − ∞ + ∞ ( x − E ( X ) ) 2 f ( x ) d x \left\{\begin{array}{l}X \sim p_i \Longrightarrow D (X)=E\left[(X-E (X))^2\right]=\sum_i\left(x_i-E (X)\right)^2 p_i \\ X \sim f(x) \Longrightarrow D (X)=E\left[(X-E (X))^2\right]=\int_{-\infty}^{+\infty}(x-E (X))^2 f(x) d x\end{array}\right. {X∼pi⟹D(X)=E[(X−E(X))2]=∑i(xi−E(X))2piX∼f(x)⟹D(X)=E[(X−E(X))2]=∫−∞+∞(x−E(X))2f(x)dx
2）公式法： D ( X ) = E [ ( X − E ( X ) ) 2 ] = E [ X 2 − 2 ⋅ X ⋅ E X + ( E ( X ) ) 2 ] = E ( X 2 ) − 2 ⋅ E ( X ) ⋅ E ( X ) + ( E X ) 2 ] \left.D (X)=E\left[(X-E (X))^2\right]=E\left[X^2-2 \cdot X \cdot E X+(E (X))^2\right]=E\left(X^2\right)-2 \cdot E (X) \cdot E (X)+(E X)^2\right] D(X)=E[(X−E(X))2]=E[X2−2⋅X⋅EX+(E(X))2]=E(X2)−2⋅E(X)⋅E(X)+(EX)2] ,即 D X = E ( X 2 ) − ( E X ) 2 D X=E\left(X^2\right)-(E X)^2 DX=E(X2)−(EX)2。
3.性质：
(1) E a = a , E ( E ( X ) = E ( X ) E a=a, E(E (X)=E (X) Ea=a,E(E(X)=E(X)
(2) E ( a X + b Y ) = a E ( X ) + b E ( Y ) , E ( ∑ i = 1 n a i X i ) = ∑ i = 1 n a i E ( X i ) E(a X+b Y)=a E (X)+b E (Y), E\left(\sum_{i=1}^n a_i X_i\right)=\sum_{i=1}^n a_i E (X_i) E(aX+bY)=aE(X)+bE(Y),E(∑i=1naiXi)=∑i=1naiE(Xi) (无条件)
(3) 若 X , Y X, Y X,Y 相互独立, 则 E ( X Y ) = E ( X ) E ( Y ) E(X Y)=E (X) E (Y) E(XY)=E(X)E(Y)
(4) D a = 0 , D ( E ( X ) = 0 , D ( D ( X ) = 0 D a=0, D(E (X)=0, D(D (X)=0 Da=0,D(E(X)=0,D(D(X)=0
(5) 若 X , Y X, Y X,Y 相互独立, 则 D ( X ± Y ) = D X + D Y D(X \pm Y)=D X+D Y D(X±Y)=DX+DY
(6) D ( a X + b ) = a 2 D X , E ( a X + b ) = a E X + b D(a X+b)=a^2 D X, E(a X+b)=a E X+b D(aX+b)=a2DX,E(aX+b)=aEX+b
(7)一般, D ( X ± Y ) = D ( X ) + D ( Y ) ± 2 Cov ( X , Y ) D(X \pm Y)=D (X)+D (Y) \pm 2 \operatorname{Cov}(X, Y) D(X±Y)=D(X)+D(Y)±2Cov(X,Y)
D ( ∑ i = 1 n X i ) = ∑ i = 1 n D X i + 2 ∑ 1 ≤ i < j ≤ n Cov ( x i , x j ) D\left(\sum_{i=1}^n X_i\right)=\sum_{i=1}^n D X_i+2 \sum_{1 \leq i<j \leq n} \operatorname{Cov}\left(x_i, x_j\right) D(i=1∑nXi)=i=1∑nDXi+21≤i<j≤n∑Cov(xi,xj)
注\] 1. 0 − 1 0-1 0−1 分布, E X = p , D X = p − p 2 = ( 1 − p ) p , X ∼ ( 1 0 p 1 − p ) E X=p, D X=p-p\^2=(1-p) p, X \\sim\\left(\\begin{array}{cc}1 \& 0 \\\\ p \& 1-p\\end{array}\\right) EX=p,DX=p−p2=(1−p)p,X∼(1p01−p) 2. X ∼ B ( n , p ) , E X = n p , D X = n p ( 1 − p ) X \\sim B(n, p), E X=n p, D X=n p(1-p) X∼B(n,p),EX=np,DX=np(1−p) 3. X ∼ P ( λ ) , E X = λ , D X = λ X \\sim P(\\lambda), E X=\\lambda, D X=\\lambda X∼P(λ),EX=λ,DX=λ 4. X ∼ G e ( p ) , E X = 1 p , D X = 1 − p p 2 X \\sim G e(p), E X=\\frac{1}{p}, D X=\\frac{1-p}{p\^2} X∼Ge(p),EX=p1,DX=p21−p 5. X ∼ U \[ a , b \] , E X = a + b 2 , D X = ( b − a ) 2 12 X \\sim U\[a, b\], E X=\\frac{a+b}{2}, D X=\\frac{(b-a)\^2}{12} X∼U\[a,b\],EX=2a+b,DX=12(b−a)2 6. X ∼ E X ( λ ) , E X = 1 λ , D X = 1 λ 2 X \\sim E_X(\\lambda), E X=\\frac{1}{\\lambda}, D X=\\frac{1}{\\lambda\^2} X∼EX(λ),EX=λ1,DX=λ21 7. X ∼ N ( μ , σ 2 ) , E X = μ , D X = σ 2 X \\sim N\\left(\\mu, \\sigma\^2\\right), E X=\\mu, D X=\\sigma\^2 X∼N(μ,σ2),EX=μ,DX=σ2 8. X ∼ χ 2 ( n ) , E X = n , D X = 2 n X \\sim \\chi\^2(n), E X=n, D X=2 n X∼χ2(n),EX=n,DX=2n。 #### 1.4.2 二维随机变量的数字特征 **1.数学期望：** 1）离散型： ( X , Y ) ∼ p i j , Z = g ( X , Y ) ⟹ E Z = ∑ i ∑ j g ( x i , y i ) p i j (X, Y) \\sim p_{i j}, Z=g(X, Y) \\Longrightarrow E Z=\\sum_i \\sum_j g\\left(x_i, y_i\\right) p_{i j} (X,Y)∼pij,Z=g(X,Y)⟹EZ=∑i∑jg(xi,yi)pij； 2）连续型： ( X , Y ) ∼ f ( x , y ) , Z = g ( X , Y ) ⟹ E Z = ∫ − ∞ + ∞ ∫ − ∞ + ∞ g ( x , y ) f ( x , y ) d x d y (X, Y) \\sim f(x, y), Z=g(X, Y) \\Longrightarrow E Z=\\int_{-\\infty}\^{+\\infty} \\int_{-\\infty}\^{+\\infty} g(x, y) f(x, y) d x d y (X,Y)∼f(x,y),Z=g(X,Y)⟹EZ=∫−∞+∞∫−∞+∞g(x,y)f(x,y)dxdy **2.协方差和相关系数：** Cov ( X , Y ) = E \[ X − E ( X ) ) ( Y − E ( Y ) ) \] , Cov ( X , X ) = E \[ ( X − E ( X ) ) ( X − E ( X ) ) \] = E \[ ( X − E X ) 2 \] = D ( X ) \\operatorname{Cov}(X, Y)=E\[X-E (X))(Y-E (Y))\], \\operatorname{Cov}(X, X)=E\[(X-E (X))(X-E (X))\]=E\\left\[(X-E X)\^2\\right\]=D (X) Cov(X,Y)=E\[X−E(X))(Y−E(Y))\],Cov(X,X)=E\[(X−E(X))(X−E(X))\]=E\[(X−EX)2\]=D(X) 1. 定义法： { ( X , Y ) ∼ p i j ⟹ Cov ( X , Y ) = ∑ i ∑ j ( x i − E ( X ) ) ( u i − E ( Y ) ) p i j ( X , Y ) ∼ f ( x , y ) ⟹ Cov ( X , Y ) = ∫ − ∞ + ∞ ∫ − ∞ + ∞ ( x − E ( X ) ) ( y − E ( Y ) ) f ( x , y ) d x d y \\left\\{\\begin{array}{l} (X, Y) \\sim p_{i j} \\Longrightarrow \\operatorname{Cov}(X, Y)=\\sum_i \\sum_j\\left(x_i-E (X)\\right)\\left(u_i-E (Y)\\right) p_{i j} \\\\ (X, Y) \\sim f(x, y) \\Longrightarrow \\operatorname{Cov}(X, Y)=\\int_{-\\infty}\^{+\\infty} \\int_{-\\infty}\^{+\\infty}(x-E (X))(y-E (Y)) f(x, y) d x d y \\end{array}\\right. {(X,Y)∼pij⟹Cov(X,Y)=∑i∑j(xi−E(X))(ui−E(Y))pij(X,Y)∼f(x,y)⟹Cov(X,Y)=∫−∞+∞∫−∞+∞(x−E(X))(y−E(Y))f(x,y)dxdy 2. 公式法: Cov ( X , Y ) = E ( X Y − X ⋅ E ( Y ) − E ( X ) ⋅ Y + E ( X ) ⋅ E ( Y ) ) = E ( X Y ) − E ( X ) ⋅ E ( Y ) − E ( X ) ⋅ E ( Y ) + E ( X ) ⋅ E ( Y ) = E ( X Y ) − E ( X ) E ( Y ) \\begin{aligned} \& \\operatorname{Cov}(X, Y)=E(X Y-X \\cdot E (Y)-E (X) \\cdot Y+E (X) \\cdot E (Y)) \\\\ \& =E(X Y)-E (X) \\cdot E (Y)-E (X) \\cdot E (Y)+E (X) \\cdot E (Y)=E(X Y)-E (X) E (Y) \\end{aligned} Cov(X,Y)=E(XY−X⋅E(Y)−E(X)⋅Y+E(X)⋅E(Y))=E(XY)−E(X)⋅E(Y)−E(X)⋅E(Y)+E(X)⋅E(Y)=E(XY)−E(X)E(Y) 3. ρ X Y = Cov ( X , Y ) D X D Y { = 0 ⟺ X , Y 不相关 ≠ 0 ⟺ X , Y 相关 \\text { 3. } \\rho_{X Y}=\\frac{\\operatorname{Cov}(X, Y)}{\\sqrt{D X} \\sqrt{D Y}}\\left\\{\\begin{array}{l} =0 \\Longleftrightarrow X, Y \\text { 不相关 } \\\\ \\neq 0 \\Longleftrightarrow X, Y \\text { 相关 } \\end{array}\\right. 3. ρXY=DX DY Cov(X,Y){=0⟺X,Y 不相关 =0⟺X,Y 相关 **3.性质:** 1. Cov ( X , Y ) = Cov ( Y , X ) \\operatorname{Cov}(X, Y)=\\operatorname{Cov}(Y, X) Cov(X,Y)=Cov(Y,X) 2. Cov ( a X , b Y ) = a b Cov ( X , Y ) \\operatorname{Cov}(a X, b Y)=a b \\operatorname{Cov}(X, Y) Cov(aX,bY)=abCov(X,Y) 3. Cov ( X 1 + X 2 , Y ) = Cov ( X 1 , Y ) + Cov ( X 2 , Y ) \\operatorname{Cov}\\left(X_1+X_2, Y\\right)=\\operatorname{Cov}\\left(X_1, Y\\right)+\\operatorname{Cov}\\left(X_2, Y\\right) Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y) 4. ∣ ρ X Y ∣ ≤ 1 \\left\|\\rho_{X Y}\\right\| \\leq 1 ∣ρXY∣≤1 5. ρ X Y = 1 ⟺ P { Y = a X + b } = 1 ( a \> 0 ) , ρ X Y = − 1 ⟺ P { Y = a X + b } = 1 ( a \< 0 ) \\text { 5. } \\rho_{X Y}=1 \\Longleftrightarrow P\\{Y=a X+b\\}=1(a\>0), \\rho_{X Y}=-1 \\Longleftrightarrow P\\{Y=a X+b\\}=1(a\<0) 5. ρXY=1⟺P{Y=aX+b}=1(a\>0),ρXY=−1⟺P{Y=aX+b}=1(a\<0) 考试时: Y = a X + b , a \> 0 ⟹ ρ X Y = 1 , Y = a X + b , a \< 0 ⟹ ρ X Y = − 1 Y=a X+b, a\>0 \\Longrightarrow \\rho_{X Y}=1, Y=a X+b, a\<0 \\Longrightarrow \\rho_{X Y}=-1 Y=aX+b,a\>0⟹ρXY=1,Y=aX+b,a\<0⟹ρXY=−1 小结：五个充要条件 ρ X Y = 0 ⟺ { Cov ( X , Y ) = 0 E ( X Y ) = E ( X ) ⋅ E ( Y ) D ( X + Y ) = D ( X ) + D ( Y ) D ( X − Y ) = D ( X ) + D ( Y ) \\begin{aligned} \& \\rho_{X Y}=0 \\Longleftrightarrow\\left\\{\\begin{array}{l} \\operatorname{Cov}(X, Y)=0 \\\\ E(X Y)=E (X) \\cdot E (Y) \\\\ D(X+Y)=D (X)+D (Y) \\\\ D(X-Y)=D (X)+D (Y) \\end{array}\\right. \\\\ \\end{aligned} ρXY=0⟺⎩ ⎨ ⎧Cov(X,Y)=0E(XY)=E(X)⋅E(Y)D(X+Y)=D(X)+D(Y)D(X−Y)=D(X)+D(Y) #### 1.4.3 独立性和相关性的判定 X , Y 独立 ⟹ ρ X Y = 0 若 ( X , Y ) ∼ N ( μ , σ 2 ) , 则 X , Y 独立 ⟺ X , Y 不相关 ( ρ X Y = 0 ) \\begin{aligned} \& X, Y \\text { 独立 } \\Longrightarrow \\rho_{X Y}=0 \\\\ \& \\text { 若 }(X, Y) \\sim N\\left(\\mu, \\sigma\^2\\right), \\text { 则 } X, Y \\text { 独立 } \\Longleftrightarrow X, Y \\text { 不相关 }\\left(\\rho_{X Y}=0\\right) \\end{aligned} X,Y 独立 ⟹ρXY=0 若 (X,Y)∼N(μ,σ2), 则 X,Y 独立 ⟺X,Y 不相关 (ρXY=0)