课程导航
课程首页:Probability Theory
相关知识:集合论与概率论基础;概率公理与计数方法;条件概率与独立性
习题课资料:TA Session 1 Solutions;TA Session 1 Blank Handout
课件署名:Shang Gao,Week 3
TA Session 1: Combinatorial Counting, Bayes, and Independence / 第一次习题课:组合计数、Bayes 与独立性
1. Four Types of Sampling Counts / 四类抽样计数
从 类对象中选取 个对象时,应先判断是否考虑顺序、是否允许重复:
| 抽样方式 | 是否有序 | 是否放回 | 方案数 |
|---|---|---|---|
| Permutation | 是 | 否 | |
| Combination | 否 | 否 | |
| Ordered sampling with replacement | 是 | 是 | |
| Unordered sampling with replacement | 否 | 是 |
最后一种情形等价于非负整数解计数:
其解的数量为
2. Permutations with Repeated Elements / 重复元素排列:aeemrry
单词 aeemrry 共含 7 个字母,其中 e 和 r 各重复两次。
2.1 All Distinct Arrangements / 全部不同排列
如果暂时把重复字母视为不同对象,会得到 种排列;交换两个 e 或两个 r 不产生新排列,因此
2.2 Containing the Consecutive Substring eye / 包含连续子串 eye
把 eye 看成一个整体,剩余对象为
五个对象中两个 r 相同,所以
2.3 Containing Both ram and eye / 同时包含 ram 与 eye
把 ram 和 eye 分别看成一个整体,剩余一个 r。三个对象
互不相同,因此
Block method
要求某些元素连续出现时,可以先把它们压缩成一个 block,再对 blocks 与剩余元素排列。仍要检查不同 blocks 之间是否共享原始元素,以及剩余元素是否重复。
3. Placeholder Problems with Exactly One Blank / 恰有一个空格的占位问题
将 个有标号球独立、等概率地放入 个有标号格子。每个球有 种选择,因此总方案数为
若恰有一个格子为空,则由于球数与格子数相同,必然出现以下占用结构:
- 一个格子为空;
- 一个格子中有两个球;
- 其余 个格子各有一个球。
依次选择:
- 空格子: 种;
- 装两个球的格子: 种;
- 同处一格的两个球: 种;
- 将剩余 个球双射到剩余格子: 种。
故有利方案数为
所求概率为
易错点
只选择空格子还不够。必须同时确定哪个格子发生碰撞、哪两个球发生碰撞,以及其余球与格子的双射关系。
4. Stars and Bars: Donut Selection / 隔板法:甜甜圈选择
商店有 20 种甜甜圈,每种供应无限,要选择 12 个。令 表示第 种甜甜圈的数量,则
由 stars and bars,方案数为
这里同一种甜甜圈不可区分,20 个种类可以区分,因此这是 unordered sampling with replacement。
5. Unlabeled Grouping / 无标号分组
5.1 Six People into Two Groups of Three / 六人分成两个三人组
先按顺序排列 6 人,再把相邻的每 3 人视为一组。组内顺序不重要,要除以 ;两个组没有标签,还要除以 :
5.2 Six People into Three Pairs / 六人分成三个二人组
同理,
5.3 General Formula / 一般公式
把 个不同对象分成 个无标号组,每组 个,方案数为
分母中的 消除每组内部的排列, 消除组与组之间的排列。
6. Binomial Counting Exercises / 二项计数练习
6.1 Ten Coin Tosses / 十次抛硬币
公平硬币独立抛掷 10 次,令 为正面次数,则
恰有三次正面的概率为
至多三次正面的概率为
6.2 Ten People into Two Basketball Teams / 十人分成两支篮球队
先选择一支 5 人队得到 ,但两队没有队名,交换两队不产生新划分,因此
7. Conditional Probability and Bayes’ Rule / 条件概率与 Bayes 公式
7.1 No Prize in Ten Years / 十年内从未中奖
每周中奖概率为 ,各周相互独立。按每年 52 周计算,十年共有 520 次购票,因此
单次中奖概率很小并不意味着长期中奖概率可以直接写成 ;后者只是 的一阶近似。
7.2 Probability of Owning a Dog Given Influenza / 已知患流感,拥有狗的概率
记 为拥有狗, 为患流感。已知
由 Bayes 公式,
7.3 Two Fair Coins and One Double-Headed Coin / 两枚普通硬币与一枚双面正面硬币
随机选择一枚硬币并抛掷。记 为选中双面正面硬币, 为出现正面,则
观察到正面后,选中双面正面硬币的概率为
8. Two Proof Results / 两个证明型结论
8.1 Equal Conditional Probabilities across Mutually Exclusive Branches / 在互斥分支上条件概率相同
设 两两互斥,,且
则
本质上, 是各个 按 加权得到的平均值;所有分支都等于 ,平均值仍为 。
8.2 A Sufficient Condition for Conditional Independence to Imply Independence / 条件独立推出无条件独立的一个充分条件
设 构成样本空间的 partition,并满足
且 与每个 独立,即
使用全概率公式:
因此 与 独立。
条件独立并不自动推出无条件独立
上述证明依赖额外条件 。如果不同分组同时影响 与 ,分组混合后可能产生相关性。
9. Review Points / 复习要点
- 计数题先判断对象是否可区分、结果是否有序、是否允许重复。
- 连续子串使用 block method;重复元素仍需除以内部不可区分排列数。
- 无标号分组要同时消除组内顺序和组间顺序。
- 占位问题要从 occupancy pattern 出发,列清楚空格、碰撞格、碰撞对象和剩余双射。
- Bayes 公式的分母来自全概率公式;条件方向不能直接交换。
- 证明独立性最直接的方法是把目标化为 。
10. Glossary / 术语表
| Term | 中文 | 简要含义 |
|---|---|---|
| Block method | 捆绑法 | 把必须连续出现的对象视为一个整体进行排列 |
| Stars and bars | 隔板法 | 计算非负整数解或无序有放回抽样方案数 |
| Occupancy problem | 占位问题 | 将球分配到格子并研究各格占用数量 |
| Unlabeled groups | 无标号分组 | 组之间没有名称,交换整组不产生新方案 |
| Conditional independence | 条件独立 | 给定某一条件后,两个事件满足乘法分解 |
| Partition | 分割 | 两两互斥且并集为整个样本空间的一组事件 |