课程导航

TA Session 1: Combinatorial Counting, Bayes, and Independence / 第一次习题课:组合计数、Bayes 与独立性

1. Four Types of Sampling Counts / 四类抽样计数

从 类对象中选取 个对象时,应先判断是否考虑顺序、是否允许重复:

抽样方式是否有序是否放回方案数
Permutation是否
Combination否否
Ordered sampling with replacement是是
Unordered sampling with replacement否是

最后一种情形等价于非负整数解计数:

其解的数量为

2. Permutations with Repeated Elements / 重复元素排列:aeemrry

单词 aeemrry 共含 7 个字母,其中 e 和 r 各重复两次。

2.1 All Distinct Arrangements / 全部不同排列

如果暂时把重复字母视为不同对象,会得到 种排列;交换两个 e 或两个 r 不产生新排列,因此

2.2 Containing the Consecutive Substring eye / 包含连续子串 eye

把 eye 看成一个整体,剩余对象为

五个对象中两个 r 相同,所以

2.3 Containing Both ram and eye / 同时包含 ram 与 eye

把 ram 和 eye 分别看成一个整体,剩余一个 r。三个对象

互不相同,因此

Block method

要求某些元素连续出现时,可以先把它们压缩成一个 block,再对 blocks 与剩余元素排列。仍要检查不同 blocks 之间是否共享原始元素,以及剩余元素是否重复。

3. Placeholder Problems with Exactly One Blank / 恰有一个空格的占位问题

将 个有标号球独立、等概率地放入 个有标号格子。每个球有 种选择,因此总方案数为

若恰有一个格子为空,则由于球数与格子数相同,必然出现以下占用结构:

  • 一个格子为空;
  • 一个格子中有两个球;
  • 其余 个格子各有一个球。

依次选择:

  1. 空格子: 种;
  2. 装两个球的格子: 种;
  3. 同处一格的两个球: 种;
  4. 将剩余 个球双射到剩余格子: 种。

故有利方案数为

所求概率为

易错点

只选择空格子还不够。必须同时确定哪个格子发生碰撞、哪两个球发生碰撞,以及其余球与格子的双射关系。

4. Stars and Bars: Donut Selection / 隔板法:甜甜圈选择

商店有 20 种甜甜圈,每种供应无限,要选择 12 个。令 表示第 种甜甜圈的数量,则

由 stars and bars,方案数为

这里同一种甜甜圈不可区分,20 个种类可以区分,因此这是 unordered sampling with replacement。

5. Unlabeled Grouping / 无标号分组

5.1 Six People into Two Groups of Three / 六人分成两个三人组

先按顺序排列 6 人,再把相邻的每 3 人视为一组。组内顺序不重要,要除以 ;两个组没有标签,还要除以 :

5.2 Six People into Three Pairs / 六人分成三个二人组

同理,

5.3 General Formula / 一般公式

把 个不同对象分成 个无标号组,每组 个,方案数为

分母中的 消除每组内部的排列, 消除组与组之间的排列。

6. Binomial Counting Exercises / 二项计数练习

6.1 Ten Coin Tosses / 十次抛硬币

公平硬币独立抛掷 10 次,令 为正面次数,则

恰有三次正面的概率为

至多三次正面的概率为

6.2 Ten People into Two Basketball Teams / 十人分成两支篮球队

先选择一支 5 人队得到 ,但两队没有队名,交换两队不产生新划分,因此

7. Conditional Probability and Bayes’ Rule / 条件概率与 Bayes 公式

7.1 No Prize in Ten Years / 十年内从未中奖

每周中奖概率为 ,各周相互独立。按每年 52 周计算,十年共有 520 次购票,因此

单次中奖概率很小并不意味着长期中奖概率可以直接写成 ;后者只是 的一阶近似。

7.2 Probability of Owning a Dog Given Influenza / 已知患流感,拥有狗的概率

记 为拥有狗, 为患流感。已知

由 Bayes 公式,

7.3 Two Fair Coins and One Double-Headed Coin / 两枚普通硬币与一枚双面正面硬币

随机选择一枚硬币并抛掷。记 为选中双面正面硬币, 为出现正面,则

观察到正面后,选中双面正面硬币的概率为

8. Two Proof Results / 两个证明型结论

8.1 Equal Conditional Probabilities across Mutually Exclusive Branches / 在互斥分支上条件概率相同

设 两两互斥,,且

则

本质上, 是各个 按 加权得到的平均值;所有分支都等于 ,平均值仍为 。

8.2 A Sufficient Condition for Conditional Independence to Imply Independence / 条件独立推出无条件独立的一个充分条件

设 构成样本空间的 partition,并满足

且 与每个 独立,即

使用全概率公式:

因此 与 独立。

条件独立并不自动推出无条件独立

上述证明依赖额外条件 。如果不同分组同时影响 与 ,分组混合后可能产生相关性。

9. Review Points / 复习要点

  1. 计数题先判断对象是否可区分、结果是否有序、是否允许重复。
  2. 连续子串使用 block method;重复元素仍需除以内部不可区分排列数。
  3. 无标号分组要同时消除组内顺序和组间顺序。
  4. 占位问题要从 occupancy pattern 出发,列清楚空格、碰撞格、碰撞对象和剩余双射。
  5. Bayes 公式的分母来自全概率公式;条件方向不能直接交换。
  6. 证明独立性最直接的方法是把目标化为 。

10. Glossary / 术语表

Term中文简要含义
Block method捆绑法把必须连续出现的对象视为一个整体进行排列
Stars and bars隔板法计算非负整数解或无序有放回抽样方案数
Occupancy problem占位问题将球分配到格子并研究各格占用数量
Unlabeled groups无标号分组组之间没有名称,交换整组不产生新方案
Conditional independence条件独立给定某一条件后,两个事件满足乘法分解
Partition分割两两互斥且并集为整个样本空间的一组事件