正交矩阵是元素均为实数的方形矩阵，其列向量构成一组标准正交基，等价地，其行向量也构成一组标准正交基。它的定义方程是 (Q^{T}Q=I)，其中 (Q^{T}) 表示转置，(I) 表示单位矩阵。在线性代数中，正交矩阵表示保持长度和角度的变换，因此在几何、坐标变换和数值计算中具有基础性作用。虽然名称中只有“正交”二字，但其列向量不仅必须两两垂直，还必须具有单位长度。(graphsearch.epfl.ch)
定义与等价条件
对于 (Q\in\mathbb{R}^{n\times n})，正交性意味着
[ Q^{T}Q=QQ^{T}=I_n. ]
这里，(Q^{T}) 是 (Q) 的矩阵转置，(I_n) 是单位矩阵。等价地，(Q) 可逆，且其逆矩阵满足 (Q^{-1}=Q^{T})。由于 (Q) 是方阵，上述两个乘积等式中的任意一个都能推出另一个。(math.mit.edu)
将其列向量记为 (q_1,\ldots,q_n)，定义条件便可写成
[ q_i^{T}q_j= \begin{cases} 1,&i=j,\ 0,&i\ne j. \end{cases} ]
因此，这些列向量构成向量空间 (\mathbb{R}^{n}) 的一组基。行向量也具有同样的性质。尤其要注意，这里的正交性描述的是一套完整的坐标标架，而不只是一组相互垂直的方向。(graphsearch.epfl.ch)
几何解释
正交矩阵定义了一个线性映射 (x\mapsto Qx)，它保持标准内积不变：
[ (Qx)^{T}(Qy)=x^{T}Q^{T}Qy=x^{T}y. ]
因此，它保持向量的长度、非零向量之间的夹角以及欧几里得距离： [ |Qx-Qy|_2=|x-y|_2. ] 它使原点保持不动，因此单独的平移不能用正交矩阵表示。既保持距离又包含平移的变换则具有仿射形式 (x\mapsto Qx+b)。(web.ma.utexas.edu)
一个基本例子是平面旋转矩阵
[ R(\theta)= \begin{pmatrix} \cos\theta&-\sin\theta\ \sin\theta&\cos\theta \end{pmatrix}. ]
它将列向量逆时针旋转角度 (\theta)。相比之下，矩阵 (\operatorname{diag}(1,-1)) 表示平面关于水平轴的反射。两者都保持长度不变，但对定向的影响不同。(math.mit.edu)
行列式与群结构
对 (Q^{T}Q=I) 两边取行列式，得到
[ (\det Q)^2=1, ]
因此，每个正交矩阵的行列式都为 (+1) 或 (-1)。前者保持定向，后者反转定向。两者都保持体积的大小不变。不过，仅凭行列式为 (+1) 并不能判定矩阵具有正交性：一个矩阵可以在保持体积不变的同时，沿某些方向拉伸、沿另一些方向压缩。(math.mit.edu)
正交矩阵的乘积和逆矩阵仍然是正交矩阵。因此，全体 (n\times n) 正交矩阵以单位矩阵为单位元，构成正交群 (O(n))，这是群论中的一个重要对象。其中行列式为 (+1) 的矩阵构成的子群称为特殊正交群 (SO(n))。在二维情形下，这个子群由平面旋转组成；行列式为 (-1) 的矩阵则表示关于过原点直线的反射。(math.mit.edu)
特征值与相关矩阵类别
正交矩阵的特征值的绝对值均为一。虽然矩阵的元素都是实数，其特征值却可能是复数。若对某个非零复向量有 (Qv=\lambda v)，由复向量的欧几里得范数保持不变可得
[ |v|_2=|Qv|_2=|\lambda||v|_2. ]
因此，(|\lambda|=1)。实特征值只能是 (+1) 或 (-1)，而非实特征值则成共轭对出现。平面旋转的特征值为 (e^{i\theta}) 和 (e^{-i\theta})，所以它通常没有实特征向量。(ocw.mit.edu)
在复坐标空间中，对应的保持长度的矩阵类别是酉矩阵，其定义为 (U^{*}U=I)，这里使用的是共轭转置而非普通转置。每个实正交矩阵在被视为复矩阵时都是酉矩阵。(netlib.org)
构造与数值应用
格拉姆—施密特正交化可由线性无关的向量构造出一组标准正交基。将这样一组完整的基按列排列，就得到一个正交矩阵。正交因子也出现在QR分解中，该分解将实矩阵表示为 (A=QR)，其中 (R) 为三角矩阵或梯形矩阵。简化 QR 分解中的 (Q) 则可能是列向量标准正交的矩形矩阵。(math.mit.edu)
在计算实现中，通常利用豪斯霍尔德变换或吉文斯旋转构造正交因子。豪斯霍尔德反射具有如下形式：
[ H=I-2\frac{vv^{T}}{v^{T}v},\qquad v\ne0. ]
它表示关于与 (v) 垂直的超平面的反射。这些初等变换可以在保持矩阵所表示的欧几里得几何关系的同时，将矩阵中的某些元素化为零。(netlib.org)
正交变换在数值线性代数中占据核心地位，应用包括最小二乘问题和奇异值分解。其保持范数的性质有助于数值稳定性，因为施加精确的正交变换不会放大以欧几里得范数衡量的已有误差。但这并不能消除计算过程中引入的舍入误差。(netlib.org)
矩形矩阵与投影
对于满足 (m>n) 的 (m\times n) 矩阵 (Q)，条件 (Q^{T}Q=I_n) 表示其列向量标准正交，但此时 (QQ^{T}\ne I_m)。事实上，(QQ^{T}) 表示到这些列向量所张成空间的正交投影。因此，必须将简化分解中的正交因子与方形正交矩阵区分开来：前者在将 (\mathbb{R}^{n}) 映射到 (\mathbb{R}^{m}) 时保持长度不变，但并不构成整个较大空间上的可逆变换。(netlib.sandia.gov)