MIT概率论笔记3-4节课

2024-05-25

3.1 独立性#

这是概率的独立部分。通俗解释是两个集合没有交集。事件之间的独立性并不能直观地从样本空间中看出来。通常认为，如果两个事件互不相容，那么它们就可以判定为相互独立。然而，事实正好相反，如果事件 (A) 和事件 (B) 互不相容（即 $A \cap B = \varnothing$ ），则它们永远不可能相互独立，因为 $P(A \cap B) = 0 \neq P(A)P(B)$ 。

例如，事件 (A) 和事件 (A^c) 在 $P(A) \in (0,1)$ 的情况下不是独立的，这是因为如果 (A) 发生，可以明确地告诉你 (A^c) 一定不会发生。

独立性的公式定义#

两个事件 (A) 和 (B) 被认为是独立的，如果它们的发生互不影响，数学上表达为：

P(A \cap B) = P(A)P(B)

这意味着事件 (A) 和事件 (B) 同时发生的概率等于各自发生概率的乘积。

更广泛的定义#

对于多于两个的事件，例如事件 (A, B,) 和 (C)，它们被认为是相互独立的，如果对于任意的事件组合，以下条件成立：

P(A \cap B) = P(A)P(B), \quad P(A \cap C) = P(A)P(C), \quad P(B \cap C) = P(B)P(C)

以及：

P(A \cap B \cap C) = P(A)P(B)P(C)

例1.19：连续两次掷骰子#

考虑连续两次掷一个具有四面的对称骰子，其16种可能的结果是等概率的，每个结果的概率为 $\frac{1}{16}$ 。

事件 $A_i = \{\text{第一次掷骰后得到 } i\}$ ， $B_j = \{\text{第二次掷骰后得到 } j\}$ 是否相互独立？

答案：两次掷骰的结果是独立的，因为：

P(A_i \cap B_j) = P(\text{两次掷骰的结果为 } (i, j)) = \frac{1}{16}

P(A_i) = \frac{4}{16}, \quad P(B_j) = \frac{4}{16}

由于 $P(A_i \cap B_j) = P(A_i)P(B_j)$ ，所以 $A_i$ 和 $B_j$ 是相互独立的。

例1.20：抛掷两枚硬币#

考虑抛掷两枚均匀的硬币，定义事件 $H_1 = \{\text{第一枚硬币正面向上}\}$ ， $H_2 = \{\text{第二枚硬币正面向上}\}$ ， $D = \{\text{两枚硬币的结果不同}\}$ 。

事件 $H_1$ 和 $H_2$ 显然是相互独立的，但是：

P(H_1 \mid D) = \frac{1}{2}, \quad P(H_2 \mid D) = \frac{1}{2}, \quad P(H_1 \cap H_2 \mid D) = 0

这表明， $H_1$ 和 $H_2$ 在给定两枚硬币结果不同的情况下并不条件独立。

3.2 计数法#

1.6.1 计数准则#

例1.26（电话号码计数）#

电话号码由7位数字组成，但第一位不能是0或1。一共有多少个不同的号码？

\text{答案} = 8 \times 10^6

例1.27（集合的子集数）#

考虑一个有 $n$ 个元素的集合，这个集合有多少个子集（包括这个集合本身和空集）？

\text{答案} = 2^n

1.6.2 $n$ 选 $k$ 排列#

考虑从 $n$ 个不同的对象中顺序地选出 $k$ 个对象的方法数：

\text{排列数} = \frac{n!}{(n-k)!}

特别地，当 $k=n$ 时，排列数为 $n!$ 。

例1.28#

计算由4个不同字母组成的单词个数（这是26选4的排列数）：

\frac{26!}{(26-4)!} = 26 \times 25 \times 24 \times 23 = 358800

3.2 计数法（续）#

例1.29 CD盘排列#

假设你有 ( n_1 ) 张古典音乐CD盘， ( n_2 ) 张摇滚音乐CD盘，以及 ( n_3 ) 张乡村音乐CD盘，有多少种排列方式可以将这些CD盘按类别排在CD架上？

答案：首先，选择CD盘类型的次序有 ( 3! ) 种（例如古典/摇滚/乡村）。每种类型的CD内部排列分别有 ( n_1! )，( n_2! )，和 ( n_3! ) 种方式。因此，总的排列方法数为:

3! \times n_1! \times n_2! \times n_3!

如果从每类中选出 ( k_1 )，( k_2 )，( k_3 ) 张送人后，剩余CD盘的排列方法为:

3! \times \frac{n_1!}{k_1!} \times \frac{n_2!}{k_2!} \times \frac{n_3!}{k_3!}

例1.30 组合数计算#

计算从四个字母 A, B, C, D 中选择两个字母的组合数。

答案：

\binom{4}{2} = \frac{4!}{2!2!} = 6

例1.31 组织俱乐部的方式#

假设有 ( n ) 个人，要组织一个俱乐部，俱乐部由一个主任和若干成员组成（成员人数可以为0）。有多少种不同的方式可以组成这样的俱乐部？

答案：首先，选择一个俱乐部主任有 ( n ) 种方式。剩下的 ( n-1 ) 人可以形成任意一个子集，总共 ( 2^{n-1} ) 种可能。因此，组成一个俱乐部的总方式数为:

n \times 2^{n-1}

1.5.4 二项概率计算#

现在我们要计算的概率是，在 ( n ) 次抛硬币中出现正面 ( k ) 次的概率。

公式：

p(k) = \binom{n}{k} p^k (1-p)^{n-k}

这里的 ( \binom{n}{k} ) 是从 ( n ) 次中选出 ( k ) 次的组合数，( p^k (1-p)^{n-k} ) 表示恰好 ( k ) 次正面的概率。

例1.25 服务等级问题#

假设一个互联网服务器有 ( c ) 个调制解调器来满足 ( n ) 个用户的需要，假设在给定时刻，每个用户独立地以概率 ( p ) 需要连接到服务器。调制解调器不足的概率是多少？

解答：

\text{概率} = \sum_{k=c+1}^n \binom{n}{k} p^k (1-p)^{n-k}

这个计算假设每次需要调制解调器的事件是独立的，使用二项分布模型进行计算。例如 ( n = 100 )，( p = 0.1 )，( c = 15 )，相应的概率可以使用Matlab代码计算。

例子分析#

假设抛掷10次硬币，已知最终有三次正面，求前两次正面的概率。

解答：

P(A \mid B) = \frac{P(A \cap B)}{P(B)}

这里， $P(A \cap B)$ 表示前两次和总共三次正面同时发生的概率，而 ( P(B) ) 是总共三次正面发生的概率。使用条件概率公式可以得到具体的计算结果。