2026-09-16-Note

课程导航

课程首页：Probability Theory
前置内容：条件概率、全概率公式与 Bayes 公式
后续内容：CDF、PMF 与 PDF
课程资料：Prob_Stat_Chapter1, pp.52–65；Casella & Berger, Statistical Inference, Ch1

Mutual Independence, Random Variables, and Distribution Functions / 相互独立、随机变量与分布函数

1. Further Discussion of Independence / 独立性的进一步讨论

1.1 Independence and Complements / 独立性与补事件

Theorem

If $A$ and $B$ are independent, then

$$(A,B^c),(A^c,B),(A^c,B^c)$$

are also independent pairs.

例如，利用 $A=(A\cap B)\cup (A\cap B^c)$ 这一互斥分解，

$$\begin{array}{rl}P(A\cap B^c)& =P(A)-P(A\cap B)\\ & =P(A)-P(A)P(B)\\ & =P(A)[1-P(B)]\\ & =P(A)P(B^c).\end{array}$$

其余两种情形可用相同方法证明。因此，独立事件的任意补集组合仍保持独立。

1.2 Pairwise and Mutual Independence / 两两独立与相互独立

当事件数量不少于三个时，pairwise independence 不足以推出 mutual independence。

三个事件两两独立只要求

$$P(A\cap B)=P(A)P(B),P(A\cap C)=P(A)P(C),P(B\cap C)=P(B)P(C),$$

但不保证

$$P(A\cap B\cap C)=P(A)P(B)P(C).$$

Definition

$A_1,\dots ,A_n$ are mutually independent if for every subcollection $A_{i_1},\dots ,A_{i_k}$,

$$P\left(\bigcap _{j=1}^k{A}_{i_j}\right)=\prod _{j=1}^{k}P(A_{i_j}).$$

Mutual independence 要求所有规模至少为 $2$ 的子事件组都满足乘法关系；只检查每一对事件并不充分。

Example 1: Pairwise but Not Mutual Independence / 例 1：两两独立但不相互独立

设

$$S=\{a,b,c,d\},$$

四个结果等可能，并定义

$$A_1=\{a,b\},A_2=\{b,c\},A_3=\{a,c\}.$$

每个事件的概率均为 $1/2$，任意两个事件的交集均只含一个结果，因此

$$\begin{array}{rl}P(A_i\cap A_j)& =\frac{1}{4}=\frac{1}{2}\cdot \frac{1}{2}\\ & =P(A_i)P(A_j),i\ne j.\end{array}$$

所以三个事件两两独立。然而

$$A_1\cap A_2\cap A_3=\varnothing ,$$

从而

$$\begin{array}{rl}P(A_1\cap A_2\cap A_3)& =0\\ & \ne \frac{1}{8}=P(A_1)P(A_2)P(A_3).\end{array}$$

故它们并不相互独立。

1.3 Checking the In-Class Exercise / 课堂练习核对

1. 盒中有 $4$ 个红球、$6$ 个蓝球，不放回抽取两个球：

$$P(\text{first red, second blue})=\frac{4}{10}\cdot \frac{6}{9}=\frac{4}{15}.$$

2. 保险分类例中，

$$P(A)=0.25(0.25)+0.16(0.25)+0.10(0.50)=0.1525,$$ $$\begin{array}{rl}P(H\mid A)& =\frac{0.25(0.25)}{0.1525}\\ & =\frac{25}{61}\approx \mathrm{0.410.}\end{array}$$

3. 上述 $A_1,A_2,A_3$ 的每个两两交集概率为 $1/4$，但三者交集概率为 $0$，因此两两独立而不相互独立。

2. Random Variables / 随机变量

Definition

A random variable $X$ is a function from the sample space $S$ into the real numbers:

$$X:S⟶\mathbb{R}.$$

$X$ 的所有可能取值构成其值域，通常记为 $\mathcal{X}$。随机变量并不是“随机变化的数”，而是先把每个原始结果 $s\in S$ 映射为数值 $X(s)$；随机性来自试验结果 $s$ 的不确定性。

$$s\in S\stackrel{X}{\to }X(s)\in \mathbb{R}.$$

2.1 Examples of Random Variables / 随机变量示例

Random experiment	Random variable
掷两枚骰子	$X=$ 两个点数之和
抛硬币 25 次	$X=$ 正面出现次数
测量作物反应	$X=$ 单位面积产量
抽样调查 50 位选民	$X=$ 支持某提案的人数

随机变量可以把复杂的原始结果压缩为当前分析所关心的 numerical summary。

2.2 Probabilities Induced by a Random Variable / 随机变量诱导的概率

给定 $X:S\to \mathcal{X}$，样本空间 $S$ 上的概率会诱导出 $X$ 取值上的概率。对 $x\in \mathcal{X}$，

$$P(X=x)=P(\{s\in S:X(s)=x\}).$$

更一般地，对 $A\subseteq \mathcal{X}$，

$$P(X\in A)=P(\{s\in S:X(s)\in A\}).$$

右侧集合是 $A$ 在映射 $X$ 下的原像。因此，对随机变量事件求概率，本质上仍然是在样本空间 $S$ 上求概率。

Notation

• 大写字母 $X,Y,Z$ 表示随机变量；
• 小写字母 $x,y,z$ 表示随机变量的可能取值或实现值。

Example 2: Three Coin Tosses / 例 2：三次抛硬币

公平硬币独立抛三次，令 $X$ 为正面次数。样本空间为

$$S=\{HHH,HHT,HTH,THH,HTT,THT,TTH,TTT\}.$$

$X$ 的概率分布为

$x$	$0$	$1$	$2$	$3$
$P(X=x)$	$1/8$	$3/8$	$3/8$	$1/8$

因此

$$P(0\le X\le 1)=P(X=0)+P(X=1)=\frac{4}{8},$$

而

$$P(0\le X<1)=P(X=0)=\frac{1}{8}.$$

对离散型随机变量，把 $\le$ 改成 $<$ 可能改变事件本身，不能忽略端点。

3. Distribution Functions / 分布函数

3.1 Cumulative Distribution Function / 累积分布函数

Definition

The cumulative distribution function of $X$ is

$$F_X(x)=P(X\le x),x\in \mathbb{R}.$$

CDF 在所有实数 $x$ 上都有定义，而不只是在 $X$ 的值域 $\mathcal{X}$ 上定义。若 $a<b$，则

$$P(a<X\le b)=F_X(b)-F_X(a).$$

Example 3: CDF for Three Coin Tosses / 例 3：三次抛硬币的 CDF

对正面次数 $X$，

$$F_X(x)=\{\begin{array}{ll}0,& x<0,\\ \frac{1}{8},& 0\le x<1,\\ \frac{1}{2},& 1\le x<2,\\ \frac{7}{8},& 2\le x<3,\\ 1,& x\ge 3.\end{array}$$

这是一个阶梯函数。每个取值点 $x_0$ 处的跳跃大小等于该点的概率质量：

$$F_X(x_0)-F_X(x_0^{-})=P(X=x_0),$$

其中

$$F_X(x_0^{-})=\underset{x\uparrow x_0}{\lim }{F}_X(x).$$

CDF 在跳跃点取跳跃后的函数值，因此是 right-continuous（右连续）的。

Example 4: Distance from the Hit Point to the Center / 例 4：命中点到圆心的距离

射击命中半径为 $R$ 的圆形靶，且命中点在靶面上按面积均匀分布。令 $X$ 为命中点到圆心的距离。

当 $0\le x\le R$ 时，事件 $\{X\le x\}$ 对应半径为 $x$ 的内圆，因此

$$\begin{array}{rl}{F}_X(x)& =\frac{\pi x^2}{\pi R^2}\\ & =\frac{x^2}{R^2}.\end{array}$$

完整的 CDF 为

$$F_X(x)=\{\begin{array}{ll}0,& x<0,\\ \frac{x^2}{R^2},& 0\le x\le R,\\ 1,& x>R.\end{array}$$

Key point

“在圆面上按面积均匀”不等于“距离 $X$ 在 $[0,R]$ 上均匀”。半径越大的环带面积越大，因此 $F_X(x)$ 是二次函数而不是 $x/R$。