独立性、条件独立与重复试验

上一章，我们一直在问：知道一条新信息以后，原来的概率该怎样改？知道检测结果、抽到的颜色、已经发生的步骤，都会让我们重新分配概率。现在把问题倒过来：有没有一些信息，知道了也不需要改？

假设你掷一枚公平骰子，关心点数是不是偶数。我告诉你“点数不超过 $4$”，原来的六个可能结果缩成了四个，信息显然增加了；但这四个结果里，偶数还是占一半。对“是不是偶数”这个特定问题，这条信息没有改变答案。

这就是独立性要刻画的关系。它并不要求两个事件来自不同实验，也不要求事件的描述里没有共同词语。我们要比较的是概率：知道一件事发生以后，另一件事的概率是否保持原样。把这件事说清楚，才能回答后面那些看起来很熟悉的问题：为什么有时候概率可以直接相乘？为什么反复做同一件事未必得到独立重复试验？为什么本来独立的两个结果，筛选过一遍以后反而会有关系？

信息增加了，某个概率却可以不变

继续看开头的骰子。设

$A$ 是“点数为偶数”，$B$ 是“点数不超过 $4$”。因为骰子公平，

知道 $B$ 发生后，剩下 $1,2,3,4$ 四种等可能情况，其中 $2,4$ 满足 $A$，所以

这里“没有改变概率”要读完整：$B$ 没有改变的是 $A$ 的概率。它当然改变了别的事情。例如“点数是 $6$”的概率从 $1/6$ 变成了 $0$。因此，独立性永远是指定对象之间的关系，不能把“$A$ 与 $B$ 独立”扩大成“知道 $B$ 什么用都没有”。

为什么正式定义写成乘积

我们可以把 $P(A\mid B)=P(A)$ 当作直观入口，但它有一个限制：必须先有 $P(B)>0$。用上一章的条件概率公式把分母乘过去，会得到

这个式子左右交换 $A,B$ 完全不变，而且没有需要除掉的概率。因此我们采用它作为定义：同一概率空间中的两个事件 $A,B$ 满足这个等式，就称它们独立。

当 $P(B)>0$ 时，定义确实给出

当 $P(A)>0$ 时，交换角色也得到

所以独立性是对称的。只要分母存在，验证其中一个条件概率不变就够了，不需要再把反方向重新证明一遍。骰子的例子里，$A\cap B=\{2,4\}$，因而

独立性跟着概率模型走

同样的事件集合，换一套概率分配，独立性可能就不成立了。仍取上面的 $A,B$，但假设骰子的六个点数依次具有概率

这时 $P(A)=0.7$，$P(B)=0.4$，交集概率却是 $P(A\cap B)=0.2$，不等于 $0.7$。事件没有改，独立关系变了。

这也解释了为什么不能单凭示意图中两个圈“挨得远不远”“重叠多不多”判断独立。集合图告诉我们哪些结果属于事件；每块区域有多大概率，还要由模型给出。只有当明确假定均匀取点时，面积才直接等于概率。

互斥、独立，以及取补后会发生什么

“互斥”和“独立”第一次听都像是在说“互不相干”，数学含义却不同。互斥说的是两个事件不能同时发生，即 $A\cap B=\varnothing$。独立则要求联合概率等于边缘概率的乘积。

如果 $P(A)>0$ 且 $P(B)>0$，互斥就给出

因此，两个概率都为正的互斥事件一定不独立。掷骰子时，“点数为偶数”和“点数为奇数”就是这样：知道偶数发生，奇数的概率立刻变成 $0$。这条信息对另一个事件的判断非常有用。

反过来，两个概率都为正的独立事件必须有正的交集概率，因为 $P(A\cap B)=P(A)P(B)>0$。它们能同时发生，而且同时发生的概率恰好达到独立模型要求的数值。不过，有交集也不能证明独立；两个相同的、概率介于 $0$ 和 $1$ 之间的事件就有交集，却显然会提供彼此的完整信息。

概率为零或一的边界

若 $P(A)=0$，由 $A\cap B\subseteq A$，有

于是 $P(A\cap B)=0=P(A)P(B)$，$A$ 与任意 $B$ 都独立。这里使用的是乘积定义，不能写 $P(B\mid A)=P(B$：本章的条件概率定义不能除以零。

概率为 $1$ 的事件也与任意事件独立。因为 $P(A^c)=0$，从 $B$ 中删去 $B\cap A^c$ 不改变概率，得到 。

还记得前面区分过“零概率”和“空事件”吗？这里也不能把它们混起来。连续模型里，一个非空的单点事件可以有零概率；它仍满足上面的独立等式。独立的定义本身没有问题，只是“得知它发生以后再比较概率”的口语解释不能直接覆盖零分母的情形。

一个事件能不能与自己独立？代入定义，要求

解这个等式，只能得到 $P(A)=0$ 或 $P(A)=1$。如果事件确实存在非平凡的不确定性，知道它发生就不可能对它自己的概率毫无影响。

成功独立，失败也独立吗

设 $A$ 与 $B$ 独立。我们知道 $A$ 发生不改变 $B$ 的概率，那么知道 $A$ 没发生呢？先不用直觉，把 $B$ 分为互不重叠的两块：$A\cap B$ 与 。所以

因此 $A^c$ 与 $B$ 独立。交换角色，再重复这段论证，可以得到 $A$ 与 $B^c$、$A^c$ 与 都独立。

这个小证明很实用。假设两条备用通信线路在我们建立的模型中独立失效，失效概率分别是 $0.08$ 与 $0.15$，只要有一条可用，消息就能发出。直接列举“只有第一条可用、只有第二条可用、两条都可用”容易漏项；取补以后，发送失败恰好是两条都失效：

算式的前提是独立失效。如果两条线路共享同一个供电装置，一次停电可能同时切断它们，这个乘积就不能仅凭“有两条线路”来使用。取补是一条数学恒等式，概率乘积则需要额外的模型条件。

两两独立，为什么还不够

两个事件的情况已经清楚。现在有三个事件 $A,B,C$，如果每一对都独立，能不能写

先别急着答“当然”。每一对独立，只告诉我们单独听到另一个事件时，概率不变；同时听到两件事，可能会暴露出任何一条信息都没有单独透露的内容。

两条信息合在一起，可能决定第三条

掷两枚相互独立的公平硬币，四种结果“正正、正反、反正、反反”各有概率 $1/4$。定义 $A$ 为“第一枚为正面”，$B$ 为“第二枚为正面”，$C$ 为“两枚同面”。把成员关系完整写出来：

每个事件都占两行，所以 $P(A)=P(B)=P(C)=1/2$。任意两个事件同时发生都只有“正正”这一行，因而

每一对的概率乘积也是 $1/4$，三个事件确实两两独立。比如只知道第一枚是正面，第二枚仍可能正或反，两枚同面的概率仍是 $1/2$。

但如果同时知道第一枚和第二枚都是正面，两枚同面就已经确定了：

也可以直接检查三重交集：

这里的问题正是两条信息的组合。$A$ 单独不改变 $C$ 的概率，$B$ 单独也不改变，可 $A$ 与 $B$ 合在一起把 $C$ 完全确定了。

这个反例也可以改写成一张数字表。用 $X,Y$ 分别记录两枚硬币是否为正面，正面记 $1$、反面记 $0$；第三个量 $Z$ 改为记录“两枚不同面”，不同记 $1$、相同记 $0$。注意，这里把前面的事件 $C$ 换成了它的补事件，所以三个数同时为 $$ 的概率变成了 ，而两两独立的性质仍然保留。知道任意一个数，另一个数仍有两种等可能取值；同时知道前两个数，第三个就确定了。

相互独立要求所有有限组合都能相乘

三个事件相互独立，需要三条成对等式与一条三重等式全部成立。推广到 $n$ 个事件 $A_1,\ldots,A_n$，定义要求：对任意非空指标子集 $I\subseteq\{1,\ldots,n\}$，都有

只有一个指标时等式自动成立；真正要额外检查的是至少含两个指标的子集。比如四个事件，除了六个两重交集，还要检查四个三重交集以及一个四重交集。一般有 $2^n-n-1$ 条非平凡等式。这看起来比“两两检查”麻烦，但它恰好阻止了一组信息联合泄露另一事件的情况。

如果事件有无限多个，“相互独立”仍通过每一个有限子集来定义。我们不会把一个含糊的“无限个概率相乘”直接当作起点；涉及无限交集时，再使用概率的连续性等工具处理极限。

只检查最长的乘积也不够

有时另一个错误会出现：既然两两独立不够，那我直接检查所有事件的交集不就行了？还是不行，因为最长的等式没有替你检查较小的子集。

看一个具体的八格概率表。三个指示灯各有亮、灭两种状态，$A,B,C$ 分别表示第一、第二、第三盏亮。我们规定联合概率如下：

各格非负、总和为 $1$，所以这是合法的概率模型。逐列加总，三个边缘概率都是 $1/2$。三盏全亮的概率恰好是

然而前两盏同时亮的概率为

因此它们不相互独立，甚至这一对也不独立。定义中“任意子集”这四个字不能省略：只查两两可能漏掉联合信息，只查最大交集又可能漏掉局部依赖。

把独立信息合并，边界在哪里

相互独立不仅允许我们计算“这些事件全部发生”，也允许其中一些发生、另一些不发生。这正是重复试验需要的形式：一个具体结果序列往往同时包含成功和失败。

如果 $A_1,\ldots,A_n$ 相互独立，将任意一些 $A_i$ 换成 $A_i^c$，得到的事件仍相互独立。证明沿用刚才的减法：对任意不包含 的指标集合 ，

一次换掉一个事件，重复这个过程，就覆盖了任意成功、失败组合。

还能再往前走一点。若 $A,B,C$ 相互独立，则 $A$ 与由 $B,C$ 构成的交集或并集仍独立。例如

最后一步用了 $B,C$ 独立。你也能从这段推导里看出：若只有 $A$ 分别与 $B,C$ 独立，三重交集那一项仍然没有保证，所以不能擅自得出 $A$ 与 $B\cup C$ 独立。

更一般地，把一组相互独立的事件分成互不重叠的两组，各自在组内做有限次交、并、补，得到的两个事件仍独立。原因是组内任何事件都能拆成若干互斥的“这一项发生、那一项不发生”的状态；每个状态可以用乘积计算，再把互斥状态相加，乘积就能按两组分离。

“互不重叠的两组”很关键。如果两个新事件都重复使用同一份随机结果，它们就可能重新产生依赖。例如各次硬币结果独立，不代表“前三次正面数”和“前四次正面数”独立；两者共享前三次的信息，后一个数只能等于前一个数或比它多 $1$。后面研究随机变量时，我们还会用同一个原则：独立输入分别经过确定规则处理，独立性能够保留；共享输入则需要重新判断。

条件独立：先固定已知信息，再比较概率

上一章的条件概率相当于在已知范围中重新计量。独立性也可以搬到这个新范围里：如果我们已经知道事件 $C$ 发生，那么 $B$ 是否还会额外改变对 $A$ 的判断？

设 $P(C)>0$。如果

就说 $A$ 与 $B$ 在给定 $C$ 的条件下独立。可以先把 $P_C(E)=P(E\mid C)$ 看成一套新的概率，再在这套概率下使用普通独立的定义。这样，条件独立没有引入新的乘法规则，改变的是所有概率共同使用的参照范围。

当 $P(B\cap C)>0$ 时，它等价于

分母条件保证“已经知道 $C$，再知道 $B$”这一步有定义。注意右边必须是 $P(A\mid C)$，因为起点已经包含 $C$，不能与尚未获知 $C$ 时的 $P(A)$ 混用。

如果题目说“给定某个状态后条件独立”，而这个状态有正常、异常两种取值，通常需要在正常层和异常层分别验证。仅仅在一个事件 $C$ 中独立，不能顺便断定在 $C^c$ 中也独立。给定状态的独立性覆盖每一个正概率状态；给定单个事件的独立性只覆盖这一层。

层内独立，混到一起却不独立

我们用一个完全规定好的设备模型，避免把现实中的“共同原因”直接当作证明。随机抽取一台设备，$D$ 表示设备处在异常状态，设 $P(D)=0.1$。两个告警灯的触发事件为 $T_1,T_2$。模型规定：固定设备状态以后，两灯触发相互独立，并给出下表。

每一行的最后一列等于前两个条件触发概率的乘积，层内条件独立成立。现在不看状态，只看总体。用全概率公式，两个边缘概率分别为

两灯同时触发，则要先在每层求联合概率，再按层的权重相加：

而边缘概率的乘积是

$0.0765\ne0.0225$，所以两灯在总体中不独立。差别并不小：知道第一盏触发后，第二盏触发的概率变为

高于原来的 $0.125$。第一盏触发让我们更相信设备异常，而异常设备更容易让第二盏也触发。实际上，上一章的反向更新给出 $P(D\mid T_1)=0.09/0.18=0.5$，于是更新后的第二盏触发概率正是 $0.5\times0.8+0.5\times0.05=0.425$。

关键不在于“异常”这个词听起来是否像原因，而在于模型明确给定了层内乘积关系。现实中两个传感器可能共享电源噪声，即使设备状态已知也仍有剩余依赖，因此不能见到共同原因图就自动写条件独立。

为什么去掉条件时，乘积一般会失效

把刚才的数字换成一般符号。设 $P(C)=w$，且 $A,B$ 在 $C$ 与 $C^c$ 中都独立。记

当 $0<w<1$ 时，全概率公式给出

把第二个式子展开，再与第一个相减，合并同类项，可得

这个式子把混合的影响说得很具体：如果两个事件在同一层都更容易发生，右边为正，总体联合概率就高于独立乘积；如果一个在这一层更容易，另一个更不容易，右边可能为负；若某个事件在两层的概率相同，这个两层模型的差值就是零。条件独立没有自动保留下来，是因为“先分层相乘再平均”和“先平均再相乘”本来就不是同一件运算。

原来独立，加上条件也可能变得不独立

反方向同样不能省略。还是掷两枚相互独立的公平硬币，$A$ 表示第一枚正面，$B$ 表示第二枚正面。在完整样本空间里，$P(A)=P(B)=1/2$，$P(A\cap B)=1/4$，所以它们独立。

现在有人只告诉你：“至少有一枚是正面。”记这条信息为 $C=A\cup B$。已知范围只剩正正、正反、反正三种，每一种的条件概率都是 $1/3$。因此

原来独立的两个事件，在给定 $C$ 后不独立了。直观原因可以从反面看：已知至少有一枚正面，若再得知第一枚是反面，第二枚就只能是正面。筛选条件把两次结果绑在了同一条限制上。

再用正方向检查一遍：已知 $C$ 时第二枚正面的概率为 $2/3$；如果进一步知道第一枚正面，条件 $C$ 已自动满足，第二枚仍有正、反两种等可能结果，于是

这与上一节的设备例子恰好是两个方向：设备例子在每个状态层内独立，混合以后不独立；硬币例子原来独立，筛选以后不独立。所谓“条件越多，变量越独立”或“已经独立，条件化也不会破坏”，都没有一般依据。

还有一种容易混淆的说法：$A$ 与 $C$ 独立，$B$ 与 $C$ 独立，是否就能放心给定 $C$？不能。前面“两枚同面”的例子里，三个事件两两独立，但已知两枚同面后，第一枚正面就会确定第二枚正面。这说明每个对象各自与条件独立，仍不足以控制它们在条件下的联合关系。

若 $A,B,C$ 相互独立且 $P(C)>0$，情况就有保证了：

同时 $P(A\mid C)=P(A)$、$P(B\mid C)=P(B)$，所以 $A,B$ 在给定 后独立。你可以看到，真正填上这个缺口的仍是三重乘积条件。

独立重复试验：每一步到底承诺了什么

导论课里常说“独立重复抛掷 $n$ 次”。现在我们终于能把这句话拆开，而不只靠对硬币的印象理解它。

一次试验如果只区分成功、失败两类结果，就称为 Bernoulli 试验。成功只是我们选择记录的那一类事件，不一定是好事：抽到不合格品也可以记成“成功”。设成功概率为 $p$，失败概率为 $1-p$。

做固定的 $n$ 次试验，记 $S_i$ 为第 $i$ 次成功。如果每次都满足 $P(S_i)=p$，并且 相互独立，就得到 Bernoulli 独立重复试验。这里其实有两个不同的要求：各次的边缘概率相同，以及各次之间独立。它们不能互相替代。

比如只随机生成一个公平的 $0$ 或 $1$，然后把这个值复制五遍。五个位置各自取 $1$ 的概率都等于 $1/2$，但看到第一个值就知道后面全部的值；它们不独立。反过来，分别独立抛一枚公平硬币与一枚正面概率为 $0.7$ 的硬币，两个结果可以独立，却不具有相同成功概率。

一个完整历史，仍不改变下一步

如果 $0<p<1$，任意具体的前 $i-1$ 次成功失败历史都有正概率。设这个历史事件为 $H$，独立性与取补性质保证

这比“第 $i$ 次与第 $i-1$ 次独立”强。它要求整个过去的组合都不能改变下一次的成功概率。反过来，如果每一步在每种正概率历史下都保持同一个成功概率 $p$，沿概率树使用条件乘法，也能得到整个序列的乘积概率。这是“每次都是重新开始”在有限重复试验中的精确写法。

具体顺序的概率

设五次试验的结果依次为“成功、失败、成功、失败、失败”。对应事件是

利用相互独立以及取补后仍独立，得到

一般地，某个已经指定位置的序列中含 $k$ 次成功、$n-k$ 次失败，它的概率是

暂时没有组合数，因为位置已经说清楚了。把“第二次和第五次成功”与“总共两次成功”混在一起，是二项题目最常见的计数错误之一。

从具体顺序汇总到成功次数

现在只记录成功总次数 $N$，不再追问成功发生在哪些位置。事件 $N=k$ 包含所有恰好有 $k$ 个成功位置的序列。这些序列彼此互斥，数量是 $\binom nk$；同一个 $$ 又保证每个序列的概率相等，因此

这个二项公式包含三步：独立性让路径概率相乘，相同成功概率让同成功次数的路径等概率，计数与互斥可加性让我们把路径汇总。缺了任何一步，公式都需要重新检查。

例如独立发送 $6$ 个测试信号，每个收到确认的概率为 $0.8$。恰好 $5$ 个收到确认，需要选择唯一未确认的位置，有 $6$ 种，因此

若问“至少 $5$ 个”，再加上全部确认的互斥情形：

而“至少一个收到确认”更适合取补：

将所有 $k$ 的概率加起来，二项式定理给出

这是对整个模型的一次核对。边界 $p=0$ 时全部失败，$N=0$ 的概率为 $1$；$p=1$ 时全部成功，$N=n$ 的概率为 。处理这两个情形，直接看确定结果最清楚，不必纠缠公式中出现的 记号。

重复、相同与独立，实际建模时要分开看

“做了很多次”只能说明有一串结果，并没有说明这些结果如何联系。沿着前面三个要求逐一检查，比看到成功失败就套二项公式可靠得多。

有放回和无放回的差别

盒中有 $3$ 个红球和 $7$ 个白球，连续均匀抽两次，$A$ 表示第一次红球，$B$ 表示第二次红球。有放回、充分混合，并用每次重新均匀抽取的独立模型时，

于是 $P(A\cap B)=9/100$。无放回时，第一次若抽到红球，剩下 $2$ 个红球、$7$ 个白球，所以

但第二次红球的边缘概率仍是 $3/10$。不用凭对称性猜，我们也能用全概率算出来：

这里给了一个很直接的提醒：两次成功概率相同，不表示独立。依赖藏在条件概率中，未必反映在单个位置的边缘概率里。

每次独立，成功概率却不同

假设三个独立的发送过程，成功概率分别是 $0.9,0.8,0.6$。恰好两次成功，要把三个不同位置的失败情形分别相加：

仍然可以沿每一条路径相乘，但这些路径不再等概率，所以不能选一个平均成功率，再乘上组合数来冒充精确答案。独立性解决路径的乘法，同概率解决路径之间能否合并成同一个式子，这是两个不同的环节。

停止规则也会改变记录对象

假设每次独立发送的成功概率恒为 $p$，一直发到首次成功就停止。单次机制满足独立、同概率，但试验次数已经不固定。现在关注的是“第几次首次成功”，不是固定 $n$ 次中的成功数，直接使用二项公式就换错了问题。

若首次成功在第 $m$ 次，前 $m-1$ 次必须失败，第 $m$ 次成功，因此

这个式子仍来自同一条独立路径乘法，只是记录对象变了。后面我们会把它叫作几何分布，并把“包含成功那一次的总次数”与“成功前的失败次数”分开定义。

同一环境可能把多次试验联系起来

如果一批产品共享一个未知的生产状态，那么各件是否不合格可能在固定状态后独立，总体中却不独立，结构与前面的双告警灯完全相同。观察到前几件连续不合格，会提高我们对“这一批处于异常状态”的判断，也就提高了下一件不合格的条件概率。

因此，“同一台机器连续生产”“每次操作步骤一样”都不是独立性的证明。可以明确提出独立模型，再检查它是否适合问题；也可以先对共同状态建模，再讨论给定状态后的独立。数学能告诉我们假设推出什么，假设是否合适则要看抽样机制与已有信息。

把判断过程自己走一遍

下面的练习刻意把不同概念放在相近的场景里。作答时先写出要比较的两个概率，再下结论；这样更容易发现自己到底用了哪一层信息。

互斥事件能不能有独立的补事件

设 $P(A)=0.2$、$P(B)=0.3$，且 $A,B$ 互斥。求 $P(A^c\cap B^c)$，判断 是否独立。如果 改成 ，结论如何？

两两独立时，失败序列能否直接相乘

在前面的两枚公平硬币模型中，仍令 $A$ 为第一枚正面、$B$ 为第二枚正面、$C$ 为两枚同面。求 $P(A^c\cap B^c\cap C^c)$。为什么不能直接写成 ？

层内独立，合并后的差值有多大

一项虚构的检测流程有快、慢两种状态，各以 $1/2$ 的概率出现。固定状态后，两个请求是否按时完成相互独立。快状态下，两者按时概率都是 $0.9$；慢状态下，两者按时概率都是 $0.3$。求单个请求按时的概率、两个同时按时的概率，以及已知第一个按时后第二个按时的概率。

筛选后，原来的独立还能留下吗

掷两枚相互独立的公平硬币。已知“恰好一枚正面”，判断“第一枚正面”和“第二枚正面”在这个条件下是否独立。

一条指定路径与一个成功次数

独立测试 $4$ 个元件，每个通过的概率为 $0.7$。求“只有第一个和第四个通过”“恰好两个通过”“至少一个通过”的概率。如果四个元件其实只共享一次随机检测结果，再把结果复制四遍，哪些答案会改变？

从一串事件走向一个数

现在再看到“独立重复试验”，我们知道这句话作了怎样的承诺：不仅单次成功概率相同，而且任何有限组合的信息都允许按乘积规则计算；失败的组合也一样。我们也知道这个承诺不能随意跨越条件：分层后的独立，未必能带回总体；总体里的独立，经过筛选也未必保留。

计算成功次数时，我们其实已经悄悄做了一次转换。一个完整结果是“成功、失败、成功、失败”这样的序列，$N$ 却把它记成了数字 $2$。不同序列可能被记成同一个数，它们的概率需要汇总；一旦汇总完成，我们就能直接问 $P(N=2)$，不必每次重新列出全部路径。

下一章要把这个“从结果到数字的规则”正式定义出来，它就是随机变量。这个名称容易让人以为我们只是给一个不确定的数起了名字；真正的对象却是一个确定的函数。独立性先帮助我们把样本空间上的概率安排好，随机变量再把这些安排带到数轴上，分布便由此出现。

而 $P(A^c)P(B^c)=0.8\times0.7=0.56$，所以两个补事件不独立。我们证明过独立时取补保留独立，反过来连续取补也说明：原来的依赖不会仅仅因为改称“不发生”就消失。

若 $P(A)=0$，则 $P(A^c)=1$，$A^c$ 与任意事件独立；此时联合概率为 $0.7$，也正等于 $1\times0.7$。边界需要单独核对。

它不等于 $0.6^2=0.36$。差值 $0.09$ 也等于 $0.5\times0.5\times(0.9-0.3)^2$，符合正文推导。

最后，$P(B\mid A)=0.45/0.6=0.75$。第一个请求按时完成提供了流程更可能处在快状态的信息，因此第二个按时的概率由 $0.6$ 提高到 $0.75$。层内独立与总体依赖没有矛盾，二者使用的信息不同。

若只做一次通过概率为 $0.7$ 的检测，再复制四次，四个边缘概率仍都是 $0.7$，但只有“全部通过”和“全部未通过”两种结果。前两个事件概率均为 $0$，至少一个通过的概率为 $0.7$。三个答案全部改变，因为同概率没有提供独立性。