概率空间是在概率论中用于建立不确定性模型的数学结构。它是一个三元组 ,其中 是样本空间, 是由事件组成的σ代数, 是概率测度。这三个组成部分分别规定哪些结果属于模型、哪些结果的集合具有明确的概率,以及如何赋予这些概率。这一框架将概率与测度论联系起来,在统一的形式体系中涵盖离散结果、连续量和无限序列。(ocw.mit.edu)
组成部分与公理
样本空间 是一个非空集合,其元素 表示基本结果。一个结果可以是掷骰子得到的点数、一串抛硬币的结果,也可以是随机系统的一条完整轨迹。事件是属于 的子集 ;当实际出现的结果属于 时,事件 就发生了。因此,结果与事件有所区别:结果是一个元素,而事件是由元素组成的可测集合。(ocw.mit.edu)
事件族 包含 ,对取补集封闭,并且对可数并封闭。这些要求也意味着它对可数交封闭,且包含空集。不带概率测度的二元组 称为可测空间。(math.mit.edu)
概率测度是一个函数 ,满足归一性 和可数可加性:对于任意两两不相交的事件 ,
由这些公理可推出
以及单调性:若 ,则 。(math.mit.edu)
可数可加性还决定了事件序列的极限所具有的性质。如果 递增至 ,则 。如果 递减至 ,同样有这一收敛关系。这些连续性性质将可数可加的概率与仅要求有限可加性的框架区分开来。(math.mit.edu)
离散与连续的例子
对于一枚均匀的六面骰子,
这里, 是幂集,包含 的所有子集。“点数为偶数”这一事件为 ,其概率为 。骰子的均匀性体现在 中,而不是结果集合本身。对于一枚有偏的骰子,可以使用相同的 和 ,但赋予不同的概率。(ocw.mit.edu)
更一般地,在有限或可数集构成的样本空间上,总和为一的非负权重 可用于定义
这就是离散概率质量函数所依托的结构。(ocw.mit.edu)
对于从 中均匀选取一个数的情形,可以取 ,令 为该区间上的博雷尔σ代数,并使用限制在该区间上的勒贝格测度。于是,当 时,。每个单点集的概率都为零,而整个区间的概率为一。这并不矛盾:可数可加性并不要求对不可数族中的所有单点集进行求和。(ocw.mit.edu)
在连续模型中,σ代数至关重要。在通常的集合论假设下,不可能在保持可数可加性和平移不变性的同时,为区间的每个子集一致地赋予长度。只对可测集赋予概率,就能避开这一障碍。博雷尔集构成包含所有开集的最小σ代数。(math.mit.edu)
随机变量与分布
概率空间上的实值随机变量是一个可测函数 。可测性意味着,对于每个博雷尔集 ,都有 。因此,诸如 这样关于观测值的陈述,都对应着具有明确概率的事件。(ocw.mit.edu)
的概率分布是由它诱导的测度
其累积分布函数为 。分布描述变量取值的概率;而底层的概率空间还能够刻画变量之间的关系。两个变量即使各自的分布相同,也不一定具有相同的联合概率分布。(ocw.mit.edu)
而期望值有限则要求 可积。因此,离散变量的求和与连续变量的积分,都是同一种测度论运算的具体形式。(ocw.mit.edu)
独立性与条件化
当
时,事件 和 具有统计独立性。独立性是测度与事件共同具有的性质,而不只是样本空间的性质。独立性不同于不相交:概率均为正的不相交事件不可能相互独立。(ocw.mit.edu)
当 时,条件概率为
将其视为 的函数,它就在 上定义了另一个概率测度。当 时,这一比值没有定义;以变量或信息为条件进行条件化,则需要更一般的构造,例如条件期望。(ocw.mit.edu)
零概率事件与完备性
如果某性质不成立的事件的概率为零,就称该性质几乎必然成立。这并不意味着它在每个结果上都成立:非空集合也可能具有零概率。如果每个可测零概率集的所有子集也都可测,则称该概率空间是完备的。任何概率空间都可以通过加入这些子集并赋予它们零概率来进行完备化,而不改变原有事件的概率。(ocw.mit.edu)