概率是衡量事件发生可能性大小的量,取值在0到1之间:0表示事件不可能发生,1表示事件必然发生。概率论是数学的一个分支,研究这种量以及它们的组合规则。它是统计学的理论基础,统计力学、量子力学、遗传学、经济学和机器学习等众多领域都以它为依托。对于概率怎样计算,数学家并无分歧;但一个概率陈述究竟意味着什么,哲学界至今仍有争论。
历史
在概率的数学理论出现之前,人类玩掷骰子游戏已有数千年。约1564年,意大利医生兼数学家吉罗拉莫·卡尔达诺写成《论赌博游戏》(Liber de ludo aleae)。书中假定各种结果出现的可能性相同,首次明确计算了掷骰子的概率,并引入了赔率等概念,但这部书直到1663年才付印。
多数史学家把1654年视为概率论的开端。这一年,法国数学家布莱兹·帕斯卡收到德·梅雷骑士提出的几个赌博问题,随后与皮埃尔·德·费马通信讨论。两人在信中探讨了赌局中途停止时应如何公平分配赌注。这个问题被称为“点数问题”,它引导帕斯卡和费马得出了数学期望的概念。1657年,荷兰科学家克里斯蒂安·惠更斯出版《论赌博中的计算》(De ratiociniis in ludo aleae),这是该领域第一部印行的著作。
18世纪,概率论的应用远远超出了赌博的范围。雅各布·伯努利的《猜度术》(Ars Conjectandi)在他去世后于1713年出版,书中证明了大数定律的早期形式。亚伯拉罕·棣莫弗在《机会论》(The Doctrine of Chances,1718年)中系统地阐述了这门学科,后来又证明正态曲线可以近似二项分布的概率。托马斯·贝叶斯的一篇论文在他身后于1763年发表,阐述了如何从观察到的结果反推其可能的原因。皮埃尔-西蒙·拉普拉斯在《概率的分析理论》(Théorie analytique des probabilités,1812年)中集前人成果之大成,发展了今天所说的贝叶斯定理,并研究了中心极限定理。卡尔·弗里德里希·高斯用概率方法分析天文观测误差,推动正态分布在科学中确立了地位。
到20世纪初,概率论已得到广泛应用,却仍缺乏严格的基础。1933年,安德烈·柯尔莫哥洛夫出版《概率论基础》(Grundbegriffe der Wahrscheinlichkeitsrechnung),在测度论的框架下构建概率论,首次为其建立了严格的公理化基础。柯尔莫哥洛夫的这套体系至今仍是标准做法。
数学基础
在柯尔莫哥洛夫的体系中,随机试验用概率空间来描述,概率空间由三部分组成:
- 样本空间 Ω,即所有可能结果构成的集合;
- 事件的全体,事件是 Ω 的子集,事件全体对补运算和可数并运算封闭(构成σ-代数);
- 概率测度 P,它为每个事件指定一个实数。
概率测度须满足三条公理:概率永不为负;整个样本空间的概率为1;可数个互斥事件之并的概率等于各事件概率之和。借助集合论和测度论的语言,其他一切规则都可以由这三条公理推出。例如,一个事件不发生的概率等于1减去它发生的概率。
条件概率 P(A | B) 是在 B 已经发生的条件下 A 发生的概率,定义为 P(A 且 B) 除以 P(B)。如果得知一个事件发生并不改变另一个事件的概率,就称这两个事件相互独立。贝叶斯定理利用条件概率,在获得新证据时更新概率。
**随机变量**是为每个结果指定一个数值的函数,例如两颗骰子的点数之和。随机变量的性态由概率分布概括。离散分布(如二项分布和泊松分布)为各个孤立取值指定概率;连续分布(如正态分布和指数分布)用密度函数描述,概率通过积分求得。随机变量的期望是以概率为权重的平均值,方差则衡量其取值的离散程度。
极限定理与随机过程
有两个结果把概率与长序列试验中的观测联系了起来。大数定律指出,对一个试验进行多次独立重复,其结果的平均值趋向于期望值。这解释了为什么在大量试验中频率会趋于稳定。中心极限定理指出,许多方差有限的独立随机变量之和近似服从正态分布,而不论每个变量本身服从何种分布。这正是钟形曲线在测量数据中随处可见的原因。这两个结果都是关于极限的命题,属于数学分析的范畴。
**随机过程**是以时间或空间为指标的一族随机变量,例子包括安德烈·马尔可夫在20世纪初提出的马尔可夫链,以及随机游走和布朗运动。随机过程用于为随时间随机变化的系统建模,如粒子扩散、排队、种群数量变化和金融价格波动。随机微积分则把微积分推广到了这类过程。
诠释
概率公理得到普遍接受,但对于概率究竟是什么,存在几种不同的观点:
- 古典诠释:概率是有利结果数与所有等可能结果数之比。帕斯卡、费马和拉普拉斯持这种观点。
- 频率诠释:概率是事件在无限次重复中相对频率的极限。这种以面积的几何概念和重复事件的极限概念为基础的频率诠释,始于库尔诺和维恩的工作。
- 贝叶斯(主观)诠释:概率是合理的置信程度,随着证据的出现依贝叶斯定理不断更新。
- 倾向诠释:概率是系统产生某些结果的物理倾向。这一观点由卡尔·波普尔提出。
应用
概率是统计推断的基础,随机对照试验的设计与分析也有赖于它。在物理学中,统计力学把热力学性质解释为海量粒子的平均效应。量子力学对概率的运用更为直接:玻恩定则给出了各测量结果出现的概率。其他应用包括:
- 遗传学中,预测性状的遗传方式,以及为种群中的随机变化建模;
- 保险和金融中,为风险定价;
- 密码学中,分析安全性;
- 计算机科学中,随机算法和蒙特卡洛模拟;后者是约翰·冯·诺依曼及其同事在20世纪40年代参与开创的方法。
在人工智能领域,贝叶斯网络等概率模型以及现代机器学习背后的统计学习方法,都建立在概率论的基础之上。
参考来源
- History of probability — Grokipediagrokipedia.com
- History of Probability: Timeline, Key Mathematicians & Problemsstatisticsfundamentals.com
- Cox's Theorem and the Jaynesian Interpretation of Probabilityarxiv.org
- A Historical Survey of the Development of Classical ...diva-portal.org
- The Dawn of Probability: A Journey to the Heart of Chance 🎲✨jfgouyet.fr
- Probability. A (very) brief history. Ionut Florescupeople.math.aau.dk