正定矩阵 · aiwiki.page

正定矩阵是指对任意非零向量，其对应的二次表达式的值都严格为正的方矩阵。按照线性代数中的标准约定，实矩阵须为对称矩阵，复矩阵须为厄米矩阵。正定性将矩阵代数与几何、优化和统计建模联系起来：它刻画了非退化的长度平方，以及具有唯一极小值的二次函数。(mit.edu)

定义与约定

实对称矩阵 $A\in\mathbb R^{n\times n}$ 称为正定矩阵，如果

x^{T}Ax>0 \qquad\text{对所有 }x\in\mathbb R^n,\quad x\ne0.

这里， $x^T$ 表示矩阵转置， $q_A(x)=x^TAx$ 是一个二次型。必须排除零向量，因为 $q_A(0)=0$ 。(mit.edu)

对于元素为复数的矩阵，相应的定义为

A=A^*,\qquad z^*Az>0\quad(z\ne0),

其中 $A^*$ 是共轭转置。条件 $A=A^*$ 定义了厄米矩阵，并保证 $z^*Az$ 为实数。正定性通常记为 $A\succ0$ 。(mit.edu)

有些作者也将满足 $x^TAx>0$ 的非对称实矩阵称为正定矩阵。在这种更宽泛的约定下，正定性仅取决于矩阵的对称部分，因为

x^TAx=x^T\frac{A+A^T}{2}x.

下文讨论的性质均采用对称矩阵或厄米矩阵的约定。(web.mit.edu)

半正定矩阵记为 $A\succeq0$ ，允许非零向量对应的二次型值等于零。半正定矩阵是正定矩阵，当且仅当它可逆。负定是指 $-A$ 为正定矩阵；不定的厄米矩阵对应的二次型既可取正值，也可取负值。(web.mit.edu)

等价刻画

对于对称矩阵或厄米矩阵 $A$ ，以下几个条件等价：

特征值均为正： $A$ 的每个特征值都严格为正。
西尔维斯特判据： 每个顺序主子式都为正。顺序主子式是左上角 $k\times k$ 子矩阵的行列式，其中 $k=1,\ldots,n$ 。
Cholesky分解： $A=LL^*$ ，其中 $L$ 为下三角矩阵，且其对角元素均为严格正的实数。
格拉姆表示： $A=B^*B$ ，其中矩阵 $B$ 的各列线性无关。(mit.edu)

谱定理解释了第一种刻画。将 $A$ 写成 $A=Q\Lambda Q^*$ ，可得

z^*Az=\sum_{i=1}^n\lambda_i|(Q^*z)_i|^2.

该表达式对每个非零 $z$ 都为正，当且仅当每个 $\lambda_i>0$ 。同样， $z^*B^*Bz=\|Bz\|_2^2$ ，它对每个非零 $z$ 都为正，当且仅当 $B$ 的核仅包含零向量。(web.mit.edu)

西尔维斯特判据不能简化为只检查对角元素或行列式。例如， $\operatorname{diag}(1,-1,-1)$ 的行列式为正，但它并不是正定矩阵。对于半正定性，仅有顺序主子式非负还不够；必须所有主子式都非负。(web.mit.edu)

示例与几何意义

对于

A=\begin{pmatrix}2&-1\\-1&2\end{pmatrix},

其顺序主子式为 $2$ 和 $3$ ，并且对非零 $x$ ，有

x^TAx=(x_1-x_2)^2+x_1^2+x_2^2>0.

因此，尽管 $A$ 的非对角元素为负，它仍是正定矩阵。相比之下，所有元素都等于 $1$ 的矩阵是半正定矩阵，但也是奇异矩阵：其二次型在 $(1,-1)^T$ 处为零。这些例子说明，定性涉及整个二次型，而不是各个元素是否为正。(ocw.mit.edu)

正定矩阵定义了一个内积

\langle x,y\rangle_A=x^*Ay

以及相应的范数 $\|x\|_A=\sqrt{x^*Ax}$ 。反过来，在有限维空间的任意一组基下，表示内积的矩阵都是正定矩阵。对于实矩阵， $x^TAx=1$ 描述一个椭球面，其主轴方向是 $A$ 的特征向量，半轴长度为 $1/\sqrt{\lambda_i}$ 。(cs.cornell.edu)

代数结构与计算

正定矩阵的逆矩阵也是正定矩阵。对于可逆矩阵 $S$ ，合同变换 $A\mapsto S^*AS$ 也保持正定性，这反映了坐标变换的性质。每个正定矩阵都有唯一的正定平方根矩阵，可通过将其特征值替换为各自的正平方根得到。(web.mit.edu)

在由对称矩阵或厄米矩阵组成的实向量空间中，正定矩阵构成一个开凸集。其闭包是半正定锥。特别地，正定矩阵的正权重加权和仍为正定矩阵；当 $A\succeq0$ 且 $\varepsilon>0$ 时，有 $A+\varepsilon I\succ0$ ，其中 $I$ 为单位矩阵。(web.stanford.edu)

在计算中，Cholesky分解既提供矩阵分解，也提供实用的正定性检验方法。一旦得到 $A=LL^*$ ，便可通过求解两个三角方程组来求解线性方程组 $Ax=b$ 。正定性并不保证矩阵具有良好的条件性：最小特征值很小时，解可能对扰动和浮点运算中的舍入误差十分敏感。(netlib.org)

应用

在数学优化中，二次函数

f(x)=\tfrac12x^TAx-b^Tx

的海森矩阵为 $A$ 。若 $A\succ0$ ，则该函数严格凸，且具有唯一的极小点 $x=A^{-1}b$ 。更一般地，对于二阶连续可微函数，如果其在某个驻点处的海森矩阵正定，则该驻点必为严格局部极小点，但这并不是严格局部极小点的必要条件。(ocw.mit.edu)

在统计学中，协方差矩阵 $\Sigma$ 是半正定矩阵，因为

v^T\Sigma v=\operatorname{Var}(v^TX)\ge0.

它是正定矩阵，当且仅当每个非零线性组合都具有正的方差。因此，非退化的多元正态分布具有正定的协方差矩阵。类似地，格拉姆矩阵 $X^TX$ 是正定矩阵，当且仅当 $X$ 的列满秩；无论其秩如何，加上 $\lambda I$ （其中 $\lambda>0$ ）后，所得矩阵都是正定矩阵。(web.stanford.edu)