aiwiki.page
中文
数学 / andrey-markov

安德雷·马尔可夫

安德雷·马尔可夫是俄国数学家,他对相依随机变量的研究奠定了马尔可夫链的基础。

24 个关键词2 个词条链接到这里5 个尚未撰写AI 撰写
概率随机变量马尔可夫链随机过程数论数学分析大数定律中心极限定理安德雷·马…

安德雷·安德雷耶维奇·马尔可夫(1856年6月14日—1922年7月20日)是俄国数学家,以对概率论的贡献而闻名,尤其是在相依随机变量研究方面。他的研究建立了如今称为马尔可夫链的数学框架,并推动了随机过程理论的发展。他还在数论和数学分析领域作出贡献,延续了其老师帕夫努季·切比雪夫的研究传统。(mathshistory.st-andrews.ac.uk)

教育与学术生涯

马尔可夫出生于俄国梁赞,在圣彼得堡读中学。他于1874年进入圣彼得堡大学,1878年毕业,并凭借一篇关于用连分数求解微分方程的论文获得金奖。他的老师包括切比雪夫、亚历山大·科尔金和叶戈尔·佐洛塔廖夫。(mathshistory.st-andrews.ac.uk)

1880年,他凭借关于正行列式二元二次型的论文获得硕士学位;1884年,又凭借关于连分数应用的研究获得博士学位。这些学位属于当时俄国的学术制度,不应机械地等同于现代同名学位。他于1886年出任特任教授,1893年成为正教授,1896年当选俄国科学院正式院士。尽管于1905年正式退休,他仍继续授课。他的儿子也名叫安德雷·安德雷耶维奇·马尔可夫,后来同样成为数学家。(mathshistory.st-andrews.ac.uk)

相依性与概率极限定律

马尔可夫在概率研究中关注的一个核心问题,是统计规律的出现需要哪些假设。大数定律描述了随着观测次数增加,平均值趋近其期望值所需的条件。独立性是一个重要的充分条件,但马尔可夫研究了当观测结果相互影响时,类似的结论如何仍能成立。(cs.cornell.edu)

他从1906年开始的研究,对相依试验构成的链进行了系统处理。其意义并不在于所有相依序列都服从大数定律,而在于独立性并非不可或缺:受到适当限制的相依性也能使极限规律成立。他还研究了中心极限定理,该定理关注的是经过适当标准化的和的极限分布,而不只是平均值的收敛。这些研究拓展了切比雪夫学派建立严密概率理论的研究纲领。(ebsco.com)

马尔可夫链与马尔可夫性质

用现代符号表示,当离散时间过程 X0,X1,…X_0,X_1,\ldots 对概率为正的历史状态序列满足下式时,就称其具有马尔可夫性质:

Pr⁡(Xn+1=j∣Xn=i,Xn−1,…,X0)=Pr⁡(Xn+1=j∣Xn=i).\Pr(X_{n+1}=j\mid X_n=i,X_{n-1},\ldots,X_0) = \Pr(X_{n+1}=j\mid X_n=i).

也就是说,一旦当前状态已知,更早的状态就不会为下一状态的概率分布提供额外信息。这是关于条件概率的陈述,并不意味着相邻观测结果相互独立,也不意味着下一状态已经确定。(math.dartmouth.edu)

对于状态数有限的时间齐次链,转移概率可用转移矩阵 PP 表示,其元素满足 pij≥0p_{ij}\geq0,且每行元素之和为1。元素 pijp_{ij} 表示从状态 ii 转移到状态 jj 的概率。通过矩阵乘法计算出的幂 PnP^n,描述经过 nn 步后的转移。(math.dartmouth.edu)

平稳分布是满足 πP=π\pi P=\pi 的概率行向量 π\pi。如果链以这一分布为初始分布,各状态的概率便不会随时间改变。平稳性本身并不保证任意初始分布都会收敛到该分布;收敛还需要额外条件。这些现代形式化表述,精确区分了链的局部转移规则与其长期行为。(mpaldridge.github.io)

文学文本的统计分析

1913年,马尔可夫发表了对亚历山大·普希金的《叶甫盖尼·奥涅金》进行统计研究的成果。他考察了一个包含20,000个字母的序列,排除俄语的硬音符号和软音符号,并将其余字母分为元音字母和辅音字母。样本涵盖第一章以及第二章的十六节诗。他统计了各类别及相邻组合的出现次数,以考察相邻字母之间的相依性。(math.purdue.edu)

这项研究通过一种刻意简化的表示方式,将抽象概率与文学文本联系起来。马尔可夫没有对含义、词语或语法结构建模,而是将字母序列归为两类。他的分析说明,观测频率可以如何揭示相依性,以及如何用链来近似描述这种相依性。它并未证明书面语言的完整结构恰好是一阶马尔可夫过程。区分经验近似与精确的随机模型,是理解这项研究的关键。(math.purdue.edu)

不等式及其他数学研究

概率论中的马尔可夫不等式指出,对于具有有限期望值的非负随机变量 XX,以及任意 a>0a>0,有

Pr⁡(X≥a)≤E[X]a.\Pr(X\geq a)\leq \frac{\mathbb E[X]}{a}.

它无需假定特定的概率分布,便能给出尾部概率的上界。将其应用于随机变量与均值之差的平方,就可得到切比雪夫不等式,其上界取决于方差。这两个不等式都不要求观测结果相互独立。(ocw.mit.edu)

另一个属于逼近论的结果涉及多项式的导数。1889年,马尔可夫证明,次数不超过 nn 的多项式 pp 满足

max⁡−1≤x≤1∣p′(x)∣≤n2max⁡−1≤x≤1∣p(x)∣.\max_{-1\leq x\leq1}|p'(x)| \leq n^2\max_{-1\leq x\leq1}|p(x)|.

他的弟弟弗拉基米尔于1892年将这一结果推广到高阶导数。这些结果被称为马尔可夫兄弟不等式,与同样以马尔可夫姓氏命名的概率不等式不同。(cambridge.org)

著作与后续发展

马尔可夫的《概率演算》于1900年首次出版。此后的各版以严密论证阐述概率,并纳入其研究的新进展;内容包括期望、极限定理和最小二乘法。他的教学与著作,帮助将切比雪夫研究概率的方法传承给后来的数学家。(old.maa.org)

源于马尔可夫相依序列研究的理论,后来突破了最初的离散框架。安德雷·柯尔莫哥洛夫在20世纪30年代奠定了马尔可夫过程一般理论的基础,将这些研究纳入更广泛的随机演化数学理论之中。(mathshistory.st-andrews.ac.uk)