安德雷·安德雷耶维奇·马尔可夫(1856年6月14日—1922年7月20日)是俄国数学家,以对概率论的贡献而闻名,尤其是在相依随机变量研究方面。他的研究建立了如今称为马尔可夫链的数学框架,并推动了随机过程理论的发展。他还在数论和数学分析领域作出贡献,延续了其老师帕夫努季·切比雪夫的研究传统。(mathshistory.st-andrews.ac.uk)
教育与学术生涯
马尔可夫出生于俄国梁赞,在圣彼得堡读中学。他于1874年进入圣彼得堡大学,1878年毕业,并凭借一篇关于用连分数求解微分方程的论文获得金奖。他的老师包括切比雪夫、亚历山大·科尔金和叶戈尔·佐洛塔廖夫。(mathshistory.st-andrews.ac.uk)
1880年,他凭借关于正行列式二元二次型的论文获得硕士学位;1884年,又凭借关于连分数应用的研究获得博士学位。这些学位属于当时俄国的学术制度,不应机械地等同于现代同名学位。他于1886年出任特任教授,1893年成为正教授,1896年当选俄国科学院正式院士。尽管于1905年正式退休,他仍继续授课。他的儿子也名叫安德雷·安德雷耶维奇·马尔可夫,后来同样成为数学家。(mathshistory.st-andrews.ac.uk)
相依性与概率极限定律
马尔可夫在概率研究中关注的一个核心问题,是统计规律的出现需要哪些假设。大数定律描述了随着观测次数增加,平均值趋近其期望值所需的条件。独立性是一个重要的充分条件,但马尔可夫研究了当观测结果相互影响时,类似的结论如何仍能成立。(cs.cornell.edu)
他从1906年开始的研究,对相依试验构成的链进行了系统处理。其意义并不在于所有相依序列都服从大数定律,而在于独立性并非不可或缺:受到适当限制的相依性也能使极限规律成立。他还研究了中心极限定理,该定理关注的是经过适当标准化的和的极限分布,而不只是平均值的收敛。这些研究拓展了切比雪夫学派建立严密概率理论的研究纲领。(ebsco.com)
马尔可夫链与马尔可夫性质
用现代符号表示,当离散时间过程 对概率为正的历史状态序列满足下式时,就称其具有马尔可夫性质:
也就是说,一旦当前状态已知,更早的状态就不会为下一状态的概率分布提供额外信息。这是关于条件概率的陈述,并不意味着相邻观测结果相互独立,也不意味着下一状态已经确定。(math.dartmouth.edu)
对于状态数有限的时间齐次链,转移概率可用转移矩阵 表示,其元素满足 ,且每行元素之和为1。元素 表示从状态 转移到状态 的概率。通过矩阵乘法计算出的幂 ,描述经过 步后的转移。(math.dartmouth.edu)
平稳分布是满足 的概率行向量 。如果链以这一分布为初始分布,各状态的概率便不会随时间改变。平稳性本身并不保证任意初始分布都会收敛到该分布;收敛还需要额外条件。这些现代形式化表述,精确区分了链的局部转移规则与其长期行为。(mpaldridge.github.io)
文学文本的统计分析
1913年,马尔可夫发表了对亚历山大·普希金的《叶甫盖尼·奥涅金》进行统计研究的成果。他考察了一个包含20,000个字母的序列,排除俄语的硬音符号和软音符号,并将其余字母分为元音字母和辅音字母。样本涵盖第一章以及第二章的十六节诗。他统计了各类别及相邻组合的出现次数,以考察相邻字母之间的相依性。(math.purdue.edu)
这项研究通过一种刻意简化的表示方式,将抽象概率与文学文本联系起来。马尔可夫没有对含义、词语或语法结构建模,而是将字母序列归为两类。他的分析说明,观测频率可以如何揭示相依性,以及如何用链来近似描述这种相依性。它并未证明书面语言的完整结构恰好是一阶马尔可夫过程。区分经验近似与精确的随机模型,是理解这项研究的关键。(math.purdue.edu)
不等式及其他数学研究
概率论中的马尔可夫不等式指出,对于具有有限期望值的非负随机变量 ,以及任意 ,有
它无需假定特定的概率分布,便能给出尾部概率的上界。将其应用于随机变量与均值之差的平方,就可得到切比雪夫不等式,其上界取决于方差。这两个不等式都不要求观测结果相互独立。(ocw.mit.edu)
另一个属于逼近论的结果涉及多项式的导数。1889年,马尔可夫证明,次数不超过 的多项式 满足
他的弟弟弗拉基米尔于1892年将这一结果推广到高阶导数。这些结果被称为马尔可夫兄弟不等式,与同样以马尔可夫姓氏命名的概率不等式不同。(cambridge.org)
著作与后续发展
马尔可夫的《概率演算》于1900年首次出版。此后的各版以严密论证阐述概率,并纳入其研究的新进展;内容包括期望、极限定理和最小二乘法。他的教学与著作,帮助将切比雪夫研究概率的方法传承给后来的数学家。(old.maa.org)
源于马尔可夫相依序列研究的理论,后来突破了最初的离散框架。安德雷·柯尔莫哥洛夫在20世纪30年代奠定了马尔可夫过程一般理论的基础,将这些研究纳入更广泛的随机演化数学理论之中。(mathshistory.st-andrews.ac.uk)