MIT概率论笔记1-2节课

2024-05-20

概率模型常用概率律#

基本概率公理和例子#

第一节的大部分内容涉及我们之前学过的知识，例如概率值介于0到1之间，概率不能为负数等。这里列举了一些明显的概率学公理的应用示例。这些公理简单明了，是我们学习所有概率计算的出发点。

对于任何事件 $A$ ，其概率是非负的，即：

P(A) \geq 0

整个样本空间 $\Omega$ 的概率为1：

P(\Omega) = 1

对于任何两个互斥事件 $A$ 和 $B$ （即 $A \cap B = \emptyset$ ），它们的概率之和等于它们并集的概率：

P(A \cup B) = P(A) + P(B)

以掷骰子为例，考虑事件 $A$ 为掷得的点数大于4（即出现5或6），事件 $B$ 为掷得点数为奇数（即1、3、5）。根据概率公理，我们可以计算这些事件的概率，以及它们的交集和并集的概率等。

依次抛掷三枚硬币，实验结果是由正面和反面组成的长度为3的序列。样本空间为：

\Omega = \{HHH, HHT, HTH, HTT, THH, THT, TTH, TTT\}

假定上述8种结果的可能性是相同的，即每一个结果的概率为1/8。考虑事件A，即”两个正面向上，一个反面向上”：

A = \{两个正面向上, 一个反面向上\} = \{HHT, HTH, THH\}

利用概率的可加性公理，事件A的概率等于组成该事件的试验结果的概率之和：

\begin{aligned} P(\{HHT, HTH, THH\}) &= P(\{HHT\}) + P(\{HTH\}) + P(\{THH\}) \\ &= \frac{1}{8} + \frac{1}{8} + \frac{1}{8} \\ &= \frac{3}{8}. \end{aligned}

答：考虑单位正方形 $\Omega=[0,1] \times [0,1]$ ，正方形中的每个点的两个坐标分别代表他们可能的延迟时间。每个点都可以是他们的延迟时间，而且是等可能的。由于等可能性的特点，我们将 $\Omega$ 的子集出现的概率定义为这个子集的面积。他的概率为 7/16。

\begin{aligned} & (A \cap B)^C = A^C \cup B^C \\ & (A \cup B)^C = A^C \cap B^C \end{aligned}

更加一般的形式：

\left(\bigcup_n S_n\right)^C = \bigcap_n S_n^C, \quad \left(\bigcap_n S_n\right)^C = \bigcup_n S_n^C

例1.6：在连续三次抛掷一个两面均匀的硬币实验中，我们希望找到 $P(A|B)$ ，其中 A，B 为：

A = \{正面出现的次数比反面多的次数\} B = \{第一次抛掷得到正面\}

样本空间由下列实验结果组成：

\Omega = \{HHH, HHT, HTH, HTT, THH, THT, TTH, TTT\}

事件B由 $\{HHH, HHT, HTH, HTT\}$ 组成，所以：

P(B) = \frac{4}{8}

事件 $A \cap B$ 为 $\{HHH, HHT, HTH\}$ ，概率为：

P(A \cap B) = \frac{3}{8}

所以：

P(A|B) = \frac{P(A \cap B)}{P(B)} = \frac{3/8}{4/8} = \frac{3}{4}

由于所有的试验结果是等概率的，我们也可以用简化的算法计算 $P(A|B)$ ，我们不必计算 $P(B)$ 和 $P(A \cap B)$ 而直接计算事件 $A \cap B$ 中B中的基本事件个数(分别等于3和4)，相比即可的3/4。

全概率定理，也被称为切面包定理，是对整个样本空间进行分割的一个方法。全概率定理的形象化展示和证明如下：

假设事件 (A_1, A_2, \cdots, A_n) 形成样本空间的一个分割，事件 (B) 可以分解成不相交的 (n) 个事件的合并，即：

B = (A_1 \cap B) \cup \cdots \cup (A_n \cap B)

利用可加公理，我们得到：

P(B) = P(A_1 \cap B) + \cdots + P(A_n \cap B)

利用条件概率的定义，我们有：

P(A_i \cap B) = P(A_i)P(B \mid A_i)

因此：

P(B) = P(A_1)P(B \mid A_1) + \cdots + P(A_n)P(B \mid A_n)

你参加一个棋类比赛，其中50%是一类棋手，他们赢的概率为0.3，25%为二类棋手，赢他们的概率为0.4，剩下为三类棋手，你赢他们的概率为0.5。从他们中任选一位跟你PK，你的胜算概率为：

\begin{aligned} P(B) &= P(A_1)P(B \mid A_1) + P(A_2)P(B \mid A_2) + P(A_3)P(B \mid A_3) \\ &= 0.5 \times 0.3 + 0.25 \times 0.4 + 0.25 \times 0.5 \\ &= 0.375 \end{aligned}

贝叶斯公式是一个非常强大的工具，可以用来从给定的结果推断原因。假设事件 (A_1, \cdots, A_n) 是原因，而 (B) 是由这些原因引起的结果。贝叶斯公式表达为：

P(A_i \mid B) = \frac{P(A_i)P(B \mid A_i)}{\sum_{k=1}^n P(A_k)P(B \mid A_k)}

假设雷达探测到飞机的成功率为99%。若没有飞机，雷达以10%的概率虚假报警。假设一架飞机以5%的概率出现在该地区。雷达报警且飞机确实出现的概率为：

P(A \mid B) = \frac{P(A) P(B \mid A)}{P(A) P(B \mid A) + P(A^c) P(B \mid A^c)} = \frac{0.05 \times 0.99}{0.05 \times 0.99 + 0.95 \times 0.10} \approx 0.3426

对于某种少见病的检测，如果一个人有病，阳性的概率为0.95; 如果没有病，阴性的概率也是0.95。现在假定某一人群中患病的概率为0.001，一个阳性的检测结果表明这个人患病的概率为：

P(A \mid B) = \frac{P(A) P(B \mid A)}{P(A) P(B \mid A) + P(A^c) P(B \mid A^c)} = \frac{0.001 \times 0.95}{0.001 \times 0.95 + 0.999 \times 0.05} = 0.0187

这个示例显示，即使检测结果为阳性，该人真正患病的概率也只有1.87%。