范数是一个取非负实数值的函数,用于度量向量空间中元素的大小。它将通常的长度概念推广到坐标向量、矩阵和函数等对象。与任意的大小度量不同,范数必须与标量乘法和加法相容,且只有零向量的范数为零。范数提供了定义距离和收敛的方法,从而将线性代数与数学分析联系起来。(ocw.mit.edu)
定义与基本性质
设 (V) 是实数域或复数域上的向量空间。范数是一个映射 [ |\cdot|:V\longrightarrow[0,\infty), ] 对所有 (x,y\in V) 和标量 (\alpha),均满足以下三个条件:
- 正定性: (|x|=0) 当且仅当 (x=0)。
- 绝对齐次性: (|\alpha x|=|\alpha||x|)。
- 三角不等式: (|x+y|\leq|x|+|y|)。
二元组 ((V,|\cdot|)) 称为赋范向量空间。这些公理蕴含对称性 (|-x|=|x|),以及反三角不等式: [ \bigl||x|-|y|\bigr|\leq|x-y|. ] 因此,范数函数相对于其诱导的距离是连续的。(tbetcke.github.io)
半范数保留了非负性、绝对齐次性和三角不等式,但在非零向量上也可能取零值。例如,(p(x_1,x_2)=|x_1|) 忽略了第二个坐标,因此不是 (\mathbb R^2) 上的范数。(ocw.mit.edu)
坐标范数与几何
对于 (x=(x_1,\ldots,x_n)\in\mathbb R^n) 或 (\mathbb C^n),(p)-范数定义为 [ |x|p=\left(\sum{i=1}^{n}|x_i|^p\right)^{1/p}, \qquad 1\leq p<\infty, ] 而无穷范数定义为 [ |x|_\infty=\max_i|x_i|. ] 其中的重要特例包括:对各坐标绝对值求和的 (1)-范数;(2)-范数,又称欧几里得范数;以及取各坐标绝对值最大值的无穷范数。欧几里得范数通过 (|x-y|_2) 给出通常的欧几里得距离。(tbetcke.github.io)
不同范数对应不同的几何形状。在 (\mathbb R^2) 中,(p=1,2,\infty) 时的单位球分别为菱形、圆盘和边平行于坐标轴的正方形。每个范数都是凸函数,其单位球都是凸集。这些性质可由齐次性和三角不等式推出。(stanford.edu)
当 (0<p<1) 时,在至少二维的空间中,同样的坐标公式不能定义范数,因为它不满足三角不等式。通常被称为“(0)-范数”的非零坐标个数也不是范数:将非零向量乘以非零标量不会改变这一计数,因此违反了齐次性。(stanford.edu)
距离、收敛与等价性
每个范数都可以通过 [ d(x,y)=|x-y| ] 定义一个度量空间。这一距离具有平移不变性。收敛是指 (|x_k-x|\to0)。如果每个柯西序列都收敛到空间中的某个元素,那么该赋范空间就是巴拿赫空间。完备性是一项额外性质,并非范数公理的一部分。(web.math.princeton.edu)
若存在正常数 (c,C),使得对每个 (x) 都有 [ c|x|_a\leq|x|_b\leq C|x|_a, ] 则称这两个范数等价。等价范数定义相同的拓扑,并具有相同的收敛序列。在一个给定的有限维实向量空间或复向量空间上,所有范数都等价。这并不意味着它们的数值或单位球相同。在无限维空间中,范数不一定等价。(math.mit.edu)
内积诱导的范数
内积通过 [ |x|=\sqrt{\langle x,x\rangle} ] 诱导一个范数。柯西—施瓦茨不等式可以证明这一构造满足三角不等式。并非每个范数都来自内积。实向量空间或复向量空间上的范数由内积诱导,当且仅当它满足平行四边形恒等式: [ |x+y|^2+|x-y|^2 =2|x|^2+2|y|^2. ] 当这一条件成立时,可以通过极化恒等式恢复唯一与该范数相容的内积。完备的内积空间称为希尔伯特空间。因此,希尔伯特空间是具有额外几何结构的巴拿赫空间。(ocw.mit.edu)
函数空间
范数也可以用来度量函数。在测度空间 ((X,\mu)) 上,Lp空间中的范数为 [ |f|_p=\left(\int_X|f|^p,d\mu\right)^{1/p}, \qquad 1\leq p<\infty. ] 该空间由使这一量有限的函数构成。其元素是函数的等价类,其中几乎处处相等的函数被视为同一元素;这样的处理保证了正定性。当 (p=\infty) 时,范数是本质上确界,即忽略测度为零的例外集合后得到的上确界。(math.ucdavis.edu)
对于紧区间上的连续函数, [ |f|_\infty=\max_x|f(x)|. ] 按这一上确界范数收敛就是一致收敛。相比之下,积分范数度量的是总体差异,因而可以容许函数在测度较小的集合上存在显著差别。这些区别在泛函分析中十分重要。(math.ucdavis.edu)
矩阵范数、对偶范数及应用
将矩阵 (A) 视为线性映射时,其诱导算子范数为 [ |A|=\sup_{x\ne0}\frac{|Ax|}{|x|}. ] 当向量范数取欧几里得范数时,这一算子范数等于矩阵的最大奇异值。弗罗贝尼乌斯范数则将矩阵视为元素数组来度量: [ |A|F=\left(\sum{i,j}|a_{ij}|^2\right)^{1/2}. ] 它通常不同于欧几里得范数诱导的算子范数。相容的诱导范数满足 (|AB|\leq|A||B|)。(tbetcke.github.io)
在 (\mathbb R^n) 上,对偶范数定义为 [ |y|*=\sup{|x|\leq1}|y^{\mathsf T}x|. ] 当 (1/p+1/q=1) 时,(p)-范数的对偶范数是 (q)-范数,其中也包括 (1)-范数与无穷范数互为对偶的情形。在数学优化中,范数用于度量残差并约束可行解。范数惩罚项还可以实现正则化:(1)-范数惩罚项可以促进稀疏解的产生,而 (2)-范数的平方惩罚项则控制系数的整体大小。(stanford.edu)