第一章：随机事件的概率

1.1 随机事件与样本空间

1.1.1 试验

随机试验（简称试验）：用字母 \(E\) 或 \(E_1, E_2, \dots\) 表示：

• 在相同条件下可以重复进行
• 每次实验的结果不止一个，但能事先明确可能出现的结果范围
• 每次试验之前不能准确预言哪个结果会出现

1.1.2 随机事件

• 随机事件（简称事件）
  • 在试验中可能发生也可能不发生的结果
  • 用字母 $A,B,C,$ 或字母 $A_1,A_2,A_3,$ 表示
• 基本事件：试验中每一个可能的结果，是最简单的随机事件
  • 常用小写字母 \(e\) 或 \(e_1,e_2,e_3, \dots\)表示
  • 随机事件是由若干个基本事件组成的
  • 随机事件发生 \(\iff\) 组成这一随机事件的一个基本事件发生

• 必然事件：在试验中必然发生的事件，记为 \(S\) 或 \(\Omega\)

• 不可能事件：不可能发生的事件，记为 \(\varnothing\)

（必然事件和不可能事件不是随机事件，当作特殊的随机事件）

1.1.3 样本空间（集合论）

样本空间的定义

试验的全部基本事件组合成的集合，称为试验的样本空间，记为 \(S\) 或 \(\Omega\)

• 试验的基本事件是样本空间的元素（样本点）
• 随机事件是样本空间的子集
• 不可能事件表示空集，必然事件表示样本空间

完备事件组的定义

若 \(A_1,A_2,\dots,A_n\) 互不相容，且 \(\sum\limits_{i=1}^n A_i = S\)，则称 \(A_1,A_2,\dots ,A_n\) 为完备事件组，或称 \(A_1,A_2,\dots A_n\) 为 \(S\) 的一个划分。

1.1.4 随机事件的关系（集合论）

随机事件的关系：

• 事件的包含：\(A\subset B\)（\(A\)发生则\(B\)发生）
• 事件的相等：\(A = B \iff A \subset B \land B \subset A\)
• 事件的并（和）：\(A\cup B\) 或 \(A+B\)
• 事件的交（积）：\(A\cap B\) 或 \(AB\)
• 事件的互不相容（互斥）：\(AB = \varnothing\)
• 事件的互逆（相互对立）：\(AB=\varnothing \land A+B=S\)
  • 称 \(B\) 为 \(A\) 的逆事件，记为 \(B = \overline{A}\)
• 事件的差：\(A-B = A\overline B = A-(AB)\)

运算律：

• 吸收律 \[ \begin{aligned} &A+S=S && AS=A \\ &A+\varnothing=A && A\varnothing=\varnothing\\ &A+AB=A && A(A+B)=A \end{aligned} \]

• 重余律 \[ \overline{\overline{A}}=A \]

• 幂等律 \[ A+A=A\qquad AA=A \]

• 差化积 \[ A-B=A\overline{B}=A-(AB) \]

• 交换律 \[ A+B=B+A\qquad AB=BA \]

• 结合律 \[ (A+B)+C = A+(B+C)\qquad (AB)C=A(BC) \]

• 分配律 \[ \begin{aligned} &(A+B)C=AC+BC \\ &A+BC=(A+B)(A+C) \end{aligned} \]

• 反演律（De Morgan 公式） \[ \begin{aligned} & \overline{\sum\limits_i A_i}=\prod\limits_i\overline{A_i} && \overline{\prod\limits_i A_i} = \sum\limits_i\overline{A_i} \\ & \overline{A+B}=\overline{A} \;\overline{B} && \overline{AB}=\overline{A}+\overline{B} \end{aligned} \]

• 和事件分解为互不相容事件的和 \[ A+B=A+\overline{A}B=B+A\overline B \]

1.2 概率的定义及性质

对于事件 \(A\)，如果实数 \(P(A)\)：

• 表示事件 \(A\) 发生的可能性的大小
• 是事件 \(A\) 所固有的

则称 \(P(A)\) 为事件 \(A\) 的概率。

1.2.1 古典概率

古典概率的定义

• 样本空间 \(S\) 包含 \(n\) 个基本事件，即 \(S=\{e_1,e_2,\dots ,e_n\}\)
• 每个基本事件发生的可能性相等，即 \(P(e_1)=P(e_2)=\dots =P(e_n)\)

则称这种试验为古典型随机试验，简称古典概型。

\[ P(e_1)=P(e_2)=\dots =P(e_N)=\dfrac{1}{n} \]

若事件 \(A\) 包含 \(k\) 个基本事件，则 \(P(A)=\dfrac{k}{n}\)

• 排列数记号：\(A_n^k=n(n-1)\dots (n-(k-1))=\dfrac{n!}{(n-k)!}\)

• 组合数记号：\(C^k_n=\dfrac{A_n^k}{k!}=\dfrac{n!}{k!\cdot (n-k)!}\)

古典概率的性质

• 对任意随机事件 \(A\)，\(0\leq p(A) \leq 1\)；
• \(P(S) = 1\)；
• （有限可加性）若事件 \(A_1,A_2,\dots A_m\) 互不相容，则 \(P\left(\sum\limits_{i=1}^mA_i\right)=\sum\limits_{i=1}^{m}P\left(A_i\right)\)

1.2.2 几何概率

几何概率的定义

设几何概型的样本空间为\(S\)，\(A\) 是含于 \(S\) 在内的任一随机事件，即 \(A\subset S\)，则称 \(P(A)=\dfrac{L(A)}{L(S)}\) 为事件 \(A\) 的概率。

几何概率的性质

• 对任一随机事件 \(A\)，\(0\leq P(A) \leq 1\)；
• \(P(S) = 1\)；
• （有限可加性）若事件 \(A_1,A_2,\dots A_m\) 互不相容，则 \(P\left(\sum\limits_{i=1}^mA_i\right)=\sum\limits_{i=1}^{m}P(A_i)\)
• （可列可加性）若事件\(A_1,A_2,\dots\) 互不相容，则 \(P\left(\sum\limits_{i=1}^{\infty}A_i\right)=\sum\limits_{i=1}^{\infty}P(A_i)\)

1.2.3 概率的统计定义

频率的定义

设某实验重复做了 \(n\) 次，事件\(A\)共发生了 \(n_A\) 次，则称比值 \(\dfrac{n_A}{n}\) 为 \(n\) 次试验中事件 \(A\) 发生的频率，即 \(f_n(A)=\dfrac{n_A}{n}\)

频率的性质

• 对任一随机事件 \(A\) ，\(0\leq f_n(A) \leq 1\)；
• \(f_n(S) = 1\)；
• 若事件 \(A_1,A_2,\dots A_m\) 互不相容，则 \(f_n\left(\sum\limits^{m}_{i=1}A_i\right)=\sum\limits^{m}_{i=1}f_n(A_i)\)

统计概率的定义：

若随着试验次数 \(n\) 的增大，事件 \(A\) 发生的频率 \(f_n(A)\) 在某个常数 \(p(0\leq p\leq 1)\) 附近摆动，并且逐渐趋于该常数，则称该常数 \(p\) 为事件 \(A\) 的概率，即 \(P(A)=p\) 。并把这样定义的概率称为统计概率（经验概率）。

概率的近似求法：\(P(A)\approx f_n(A)\)

1.3 概率的公理化定义

1.3.1 事件域

事件域的定义随机试验 \(E\)，样本空间 \(S\)，设 \(F=\{A|A\subset S\}\)，并满足以下条件：

• \(\varnothing \in F，S\in F\)
• 若 \(A\in F\)，则 \(\overline{A}\in F\)
• 对任意有限个或可列个 \(A_i\in F\) ，都有 \(\sum\limits_i A_i \in F\)

也就是说，\(F\) 是一些随机事件组成的集合（且具有一定的构造关系），称 \(F\) 为事件域。

1.3.2 概率的公理化定义

设 \(P=P(A)\) 是定义在 \(F\) 上的一个实值函数， \(A\in F\) ，并且 \(P= P(A)\) 满足以下三个条件：

• 对每一个 \(A\in F，0\leq P(A)\leq 1\)
• \(P(S)=1\)
• 对任意可列个互不相容的事件 $A_1,A_2,$，有 \(P\left(\sum\limits_{i=1}^{\infty}A_i\right)=\sum\limits_{i=1}^{\infty}P(A_i)\)

则称 \(P\) 为 \(F\) 上的概率测度函数，称 \(P(A)\) 为事件 \(A\) 的概率。

1.3.3 概率的性质

• 不可能事件的概率为0，即 \(P(\varnothing)=0\)
• 概率具有有限可加性
• 对任意事件 \(A\)，有 \(P(\overline{A})=1-P(A)\qquad P(A)=1-P(\overline{A})\)
• 若 \(B\subset A\)，则 \(P(A-B)=P(A)-P(B)\) 且 \(P(B)\leq P(A)\)
• 对任意事件 \(A,B\) 有 \(P(A+B)=P(A)+P(B)-P(AB)\)（推广）

1.4 条件概率与乘法公式

条件概率的定义

\(B\) 发生的条件下 \(A\) 发生的概率：

\[ P(A|B)=\dfrac{P(AB)}{P(B)} \]

条件概率的性质

• \(0\leq P(A|B) \leq 1\)
• \(P(S|B) = 1\)
• 若 $A_1,A_2,$ 互不相容，则 \(P\left(\sum\limits^{\infty}_{i=1}A_i|B\right)=\sum\limits^{\infty}_{i=1}P(A_i|B)\)
• 对任意事件 \(A\) ，\(P(\overline{A}|B)=1-P(A|B)\)
• 乘法公式：

\[ P(AB)=P(B)P(A|B)=P(A)P(B|A)\qquad(P(B)>0,P(A)>0) \]

• 当 \(P(A_1A_2\dots A_{n-1})>0\) 时：

\[ P(A_1A_2, \dots, A_n)=P(A_1)P(A_2|A_1)P(A_3|A_1A_2)\dots P(A_n|A_1A_2\dots A_{n-1}) \]

1.5 全概率公式与贝叶斯公式

设事件组 \(B_1,B_2,\dots ,B_n\) 满足：

• \(\sum\limits^\infty_{i=1}B_i=S\)
• \(B_1,B_2,\dots ,B_n\)互不相容
• \(P(B_i)>0\)

则对任意事件 \(A\)，恒有全概率公式

\[ P(A)=\sum\limits^n_{i=1}P(B_i)P(A|B_i) \]

对任意事件 \(A(P(A)>0)\)，有贝叶斯公式

\[ P(B_i|A)=\dfrac{P(AB_i)}{P(A)}=\dfrac{P(B_i)P(A|B_i)}{\sum\limits^n_{j=1}P(B_j)P(A|B_j)} \]

1.6 事件的独立性

1.6.1 两个事件的独立性

定义

对任意两个事件 \(A,B\) ，若：

\[ P(AB)=P(A)P(B) \]

则称 \(A\) 与 \(B\) 相互独立，简称独立。

定理

对任意事件 \(A,B\)，设 \(P(B)>0\)，则\(A\) 与 \(B\) 独立的充分必要条件是：

\[ P(A|B)=P(A) \]

性质

概率为 \(0\) 或 \(1\) 的事件与任意事件相互独立：

• 概率为 \(0\) 的事件不一定是不可能事件
• 概率为 \(1\) 的事件不一定是必然事件

1.6.2 多个事件的独立性

定义

若事件 \(A_1,A_2,\dots ,A_n\) 满足条件：

\[ \forall i,j,\;P(A_iA_j)=P(A_i)P(A_j),\;1\leq i, j \leq n \]

则称 \(n\) 个事件是两两独立的。

若事件 \(A_1,A_2,\dots ,A_n\) 满足条件： \[ \forall k,i,\;P(A_{i_{1}}A_{i_{2}}, \dots, A_{i_{k}})=P(A_{i_1})P(A_{i_2})\dots P(A_{i_k}),\ k \geq 2, i_k\geq 1 \]

则称 \(n\) 个事件相互独立。

1.6.3 独立事件的性质

若 \(A\) 与 \(B\) 相互独立，则：

• \(A\) 与 \(\overline{B}\) 相互独立
• \(\overline{A}\) 与 \(B\) 相互独立
• \(\overline{A}\) 与 \(\overline{B}\) 相互独立

（可推广到多个事件）