线性组合是将向量空间中的元素分别乘以标量,再将所得结果相加而形成的表达式。它是线性代数中的一种基本构造,将向量方程、生成集、坐标系和线性变换联系起来。参与组合的元素不一定是几何意义上的箭头,也可以是多项式、函数或矩阵,只要它们属于同一个向量空间。(mtaylor.web.unc.edu)
定义与适用范围
设 是域(数学) 上的向量空间。给定向量 和系数 ,它们的线性组合为
这些系数是标量,属于定义该向量空间所用的域。常用的标量域有实数域和复数域。向量空间对加法和标量乘法的封闭性保证了所得元素仍属于 。一般而言,并不要求系数为正,也不要求系数之和等于一。(mtaylor.web.unc.edu)
通常的代数定义采用有限和。即使一个集合包含无穷多个向量,每个线性组合也只使用其中有限多个向量。无穷级数需要额外引入收敛的概念,并不自动构成代数意义上的线性组合。将所有系数取为零便得到零向量;按照惯例,空和也定义为零向量。(mtaylor.web.unc.edu)
对于多项式,例如
就是 的线性组合。同样,对于定义域和标量域相同的函数, 表示在 处取值为 的函数。这些例子说明,线性组合的定义并不限于坐标向量的运算。(mtaylor.web.unc.edu)
几何解释与线性包
在实坐标空间中,标量乘法会改变向量的长度;当标量为负时,还会使向量的方向反转。向量加法则将所得位移合成。例如,
一个非零向量生成一条经过原点的直线。两个不平行的向量生成一个经过原点的平面,而两个平行的向量只能生成一条直线。因此,生成对象的几何形态取决于可用的方向,而不只是所列向量的数量。(textbooks.math.gatech.edu)
集合 的线性包记作 ,是由 中元素的所有有限线性组合构成的集合。它是包含 的最小线性子空间。一个线性组合是某个特定的表达式或所得向量,而线性包则是所有能够得到的向量组成的完整集合。空集的线性包为 。(interactivetextbooks.tudelft.nl)
线性无关、基与坐标
如果向量组 满足:由
必能推出 ,则称该向量组线性无关。否则,称其线性相关。在一个线性相关的有限向量组中,至少有一个向量可以表示为其余向量的线性组合,因此,去掉这个向量也不会改变所生成的线性包。(interactivetextbooks.tudelft.nl)
线性无关性决定了表示的唯一性:在线性无关向量组的线性包中,每个向量相对于该向量组都恰好对应一组系数。证明这一点,只需将两个可能的表示相减;线性无关性迫使所有对应系数之差均为零。对于线性相关向量组,则可以将一个系数不全为零的线性关系加到已有表示上,得到系数不同但结果相同的表示。(interactivetextbooks.tudelft.nl)
基(线性代数)是一个线性无关的生成集。因此,将基的元素按顺序排列后,就能为向量提供坐标:每个向量都由其系数唯一表示。在有限维空间中,基所含元素的个数就是该空间的维数(向量空间)。(textbooks.math.gatech.edu)
矩阵表示与计算
对于坐标向量 ,将它们作为列排成一个矩阵:
于是
判断目标向量 是否是这些列向量的线性组合,等价于求解线性方程组 。(textbooks.math.gatech.edu)
高斯消元法可以判断方程组是否有解,并在有解时求出系数。矩阵的秩衡量的是列向量线性包的维数。对于有解的方程组,系数唯一当且仅当其列向量线性无关;如果列向量线性相关,同一个目标向量就可以对应多个不同的系数向量。如果方程组无解,目标向量便不在列向量的线性包中。(textbooks.math.gatech.edu)
带约束的组合
几种相关构造对实数系数施加了额外条件:
- 仿射组合要求 。
- 锥组合要求 。
- 凸组合要求同时满足上述两个条件。(math.mit.edu)
对于两个不同的点 ,仿射组合 在实数 不受限制时,描述经过这两点的整条直线。凸组合则将 限制在 内,描述连接两点的线段。这些构造是仿射空间和凸集的基础;系数非负是额外条件,并非一般线性组合定义的一部分。(math.mit.edu)
线性映射与统计模型
线性映射保持线性组合:
因此,只要知道线性映射在一组基上的取值,就能确定它在整个空间中的取值。这一性质说明了线性组合与变换的矩阵表示之间的密切关系。(textbooks.math.gatech.edu)
在线性回归中,拟合得到的预测量是所选特征列的线性组合,其中通常包含一个用于表示截距的常数列。普通最小二乘法通过选择系数,使残差平方和最小。多项式项和交互项也可以作为特征:这里的“线性”指的是系数在模型中的作用,而不一定意味着模型对原始输入变量呈线性依赖。(online.stat.psu.edu)