柯西–施瓦茨不等式

柯西–施瓦茨不等式是线性代数和数学分析中的一个基本不等式。它指出，两个向量的内积的绝对值不超过它们长度的乘积。其重要性在于，它用同一个原理统一描述了有限维向量、无穷序列、函数和随机变量所满足的关系。其一般形式为

|\langle x,y\rangle|\leq \|x\|\,\|y\|.

这里的长度由内积诱导的范数来度量。(people.maths.ox.ac.uk)

表述与等号成立条件

设 $V$ 是一个定义在实数域或复数域上、配备了内积的向量空间。定义

\|x\|=\sqrt{\langle x,x\rangle}.

对任意 $x,y\in V$ ，该不等式也可等价地写成

|\langle x,y\rangle|^2 \leq \langle x,x\rangle\langle y,y\rangle.

等号成立当且仅当 $x$ 与 $y$ 线性相关：其中一个是另一个的标量倍数，或者至少有一个为零。因此，若两个非零向量线性无关，不等式就严格成立。这里不需要假设空间是有限维的或完备的；特别地，该结论在每个希尔伯特空间中都成立。(arxiv.org)

绝对值不可省略。实内积可能为负，而复内积不一定是实数。这个不等式约束的是内积的大小，而不是给复数规定大小次序。(people.maths.ox.ac.uk)

对于欧几里得空间 $\mathbb R^n$ 中的向量 $a,b$ ，由通常的点积可得

\left(\sum_{i=1}^{n}a_i b_i\right)^2 \leq \left(\sum_{i=1}^{n}a_i^2\right) \left(\sum_{i=1}^{n}b_i^2\right).

对于复数坐标，对应的表达式为

\left|\sum_{i=1}^{n}a_i\overline{b_i}\right|^2 \leq \left(\sum_{i=1}^{n}|a_i|^2\right) \left(\sum_{i=1}^{n}|b_i|^2\right),

其中横线表示复共轭。(linear.axler.net)

在实内积空间中，该不等式保证，对于非零向量，有

\frac{\langle x,y\rangle}{\|x\|\|y\|}\in[-1,1].

因此，可以将这一比值作为夹角的余弦值，来定义两个向量之间的夹角。在通常的欧几里得几何学中，等号成立意味着两个向量沿同一直线，方向相同或相反。这个比值也是余弦相似度的基础。(ximera.osu.edu)

例如，取 $a=(1,2)$ 、 $b=(3,4)$ ，得到严格不等式 $121\leq125$ 。若将 $b$ 换成 $(2,4)$ ，则由于 $b=2a$ ，等号成立。

一种直接的数学证明利用了范数平方的非负性。约定内积对第一个变量是线性的。若 $y=0$ ，结论显然成立。否则，令

c=\frac{\langle x,y\rangle}{\|y\|^2}, \qquad z=x-cy.

则 $\langle z,y\rangle=0$ 。向量 $cy$ 是 $x$ 在由 $y$ 张成的直线上的正交投影。展开范数的平方可得

0\leq\|z\|^2 =\|x\|^2-\frac{|\langle x,y\rangle|^2}{\|y\|^2}.

两边乘以 $\|y\|^2$ ，就证明了该不等式。等号成立当且仅当 $z=0$ ，这也证明了等号成立的条件。这一论证对实数和复数标量都适用。(linear.axler.net)

实数情形下的另一种证明考虑如下非负的多项式：

\|x-ty\|^2 =\|x\|^2-2t\langle x,y\rangle+t^2\|y\|^2.

这个二次多项式的判别式不可能为正，由此可得同样的界。(people.maths.ox.ac.uk)

在测度论中，平方可积函数构成 $L^2$ 空间，其内积为

\langle f,g\rangle=\int_\Omega f\overline g\,d\mu.

因此，

\left|\int_\Omega f\overline g\,d\mu\right| \leq \left(\int_\Omega|f|^2\,d\mu\right)^{1/2} \left(\int_\Omega|g|^2\,d\mu\right)^{1/2}.

由于 $|fg|$ 可积，乘积的积分是良定义的。等号成立意味着两个函数作为 $L^2$ 中的元素线性相关；因此，只要求它们几乎处处成比例，而不必在每一点都成比例。平方可和的无穷序列满足类似的不等式，而且它们对应项乘积组成的级数绝对收敛。(tropp.caltech.edu)

对于同一概率空间上具有有限二阶矩的实值随机变量 $X,Y$ ，取内积 $\langle X,Y\rangle=\mathbb E[XY]$ ，可得

|\mathbb E[XY]|^2\leq\mathbb E[X^2]\mathbb E[Y^2],

其中 $\mathbb E$ 表示期望值。将这一结论应用于中心化后的变量，可得

|\operatorname{Cov}(X,Y)| \leq \sqrt{\operatorname{Var}(X)\operatorname{Var}(Y)}.

因此，协方差的绝对值不超过两个标准差的乘积。当两个方差都为正时，衡量线性相关关系的皮尔逊相关系数介于 $-1$ 与 $1$ 之间。当且仅当中心化后的变量几乎必然成比例时，等号成立。(tropp.caltech.edu)