Skip to content

第 10 章:谱定理的球面路线与共同的降维归纳 ​

返回目录

这实际上是线性代数中非常重要的一个定理:实对称矩阵的谱定理(Spectral Theorem)。

你问的是:为什么只要一个矩阵满足

A^T=A

就一定能够找到 n 个两两正交的单位特征向量,从而写成:

\boxed{A=Q\Lambda Q^T}

我们可以不用预先假设它能对角化,而是从实对称这个条件出发,一步步证明它为什么必然能够对角化。

一、先明确需要证明什么 ​

假设 A 是一个 n\times n 的实对称矩阵。

我们需要证明存在 n 个向量:

\mathbf q_1,\mathbf q_2,\ldots,\mathbf q_n

同时满足:

  1. 每个都是特征向量:A\mathbf q_i=\lambda_i\mathbf q_i。
  2. 两两正交:\mathbf q_i^T\mathbf q_j=0,当 i\ne j。
  3. 长度均为 1:\|\mathbf q_i\|=1。

只要证明这三条,构造:

Q=\begin{bmatrix}\mathbf q_1&\cdots&\mathbf q_n\end{bmatrix}

就可以得到 Q^TQ=I 和 AQ=Q\Lambda,于是:

A=Q\Lambda Q^T

所以,真正困难的地方是:为什么一定能找到这样一整组特征向量?

二、第一步:证明至少存在一个实特征向量 ​

考虑一个实对称矩阵 A。

我们构造一个函数:

f(\mathbf x)=\mathbf x^TA\mathbf x

但限制:

\|\mathbf x\|=1

这意味着我们只在单位球面上寻找函数的最大值。

由于单位球面是紧集,f 又是连续函数,所以它一定能取得最大值。

假设最大值出现在单位向量 \mathbf v。

现在取任意一个垂直于 \mathbf v 的单位向量 \mathbf w,即:

\mathbf v^T\mathbf w=0

沿着球面附近的一条路径移动:

\mathbf x(t)=\cos t\,\mathbf v+\sin t\,\mathbf w

你可以验证:

\|\mathbf x(t)\|^2=\cos^2t+\sin^2t=1

因此它始终在单位球面上。

因为 t=0 时 \mathbf x(0)=\mathbf v,而 \mathbf v 是最大值点,所以:

\left.\frac{d}{dt}f(\mathbf x(t))\right|_{t=0}=0

利用乘积法则和 A^T=A:

\frac{d}{dt}(\mathbf x^TA\mathbf x)
=
2\mathbf x'(t)^TA\mathbf x(t)

在 t=0 时:

\mathbf x(0)=\mathbf v,\qquad
\mathbf x'(0)=\mathbf w

因此:

\boxed{2\mathbf w^TA\mathbf v=0}

也就是:

\boxed{\mathbf w^TA\mathbf v=0}

这一步非常关键。

因为 \mathbf w 可以是任何垂直于 \mathbf v 的向量,所以 A\mathbf v 与所有这些向量都垂直。

这意味着 A\mathbf v 只能沿着 \mathbf v 的方向。

因此必然存在一个实数 \lambda,使得:

\boxed{A\mathbf v=\lambda\mathbf v}

这正是特征向量的定义!

所以,我们已经证明:任意实对称矩阵至少存在一个实特征值和对应的实特征向量。

三、第二步:证明垂直于特征向量的空间不会被矩阵变换出去 ​

这是整个谱定理证明中最关键的一步。

我们已经找到:

A\mathbf v=\lambda\mathbf v

现在考虑所有与 \mathbf v 垂直的向量组成的空间:

V^\perp=\{\mathbf w:\mathbf v^T\mathbf w=0\}

例如,在三维空间中,假设 \mathbf v 指向竖直方向,那么 V^\perp 就是与它垂直的一个二维平面。

我们要证明:

\mathbf w\perp\mathbf v
\Longrightarrow
A\mathbf w\perp\mathbf v

证明非常简洁。

因为 A 对称:

\mathbf v^TA\mathbf w
=
(A\mathbf v)^T\mathbf w

代入 A\mathbf v=\lambda\mathbf v:

\mathbf v^TA\mathbf w
=
\lambda\mathbf v^T\mathbf w

而 \mathbf v^T\mathbf w=0,所以:

\boxed{\mathbf v^TA\mathbf w=0}

这意味着:

\boxed{A\mathbf w\perp\mathbf v}

这就证明了:实对称矩阵会把与某个特征向量垂直的整个子空间,仍然映射到该子空间内部。

数学上称它为不变子空间(Invariant Subspace)。

四、第三步:在剩下的子空间中继续寻找特征向量 ​

现在假设原来是三维空间。

我们已经找到第一个单位特征向量:

\mathbf q_1

与它垂直的空间是二维的。

而我们刚刚证明,矩阵 A 对这个二维子空间的变换不会跑到子空间外面。

更重要的是,限制在这个二维子空间上的线性变换仍然是实对称的。

因为对于子空间内任意 \mathbf u,\mathbf w,都有:

\mathbf u^TA\mathbf w=(A\mathbf u)^T\mathbf w

于是我们可以在二维子空间中,重复第一步的证明,找到第二个单位特征向量:

\mathbf q_2

并且自然满足:

\mathbf q_1^T\mathbf q_2=0

接下来,在同时垂直于 \mathbf q_1,\mathbf q_2 的一维子空间中,再找到:

\mathbf q_3

这样,三维空间中就有了三个两两正交的单位特征向量。

同样的过程可以推广到任意 n 维:

n\longrightarrow n-1\longrightarrow n-2
\longrightarrow\cdots\longrightarrow1

最终得到:

\boxed{
\mathbf q_1,\mathbf q_2,\ldots,\mathbf q_n
}

它们两两正交、长度为 1,并且每一个都是特征向量。

由于 n 个非零正交向量必然线性无关,它们就构成了整个 n 维空间的一组基。

所以:

\boxed{
A=Q\Lambda Q^T
}

谱定理证明完成。


五、为什么非对称矩阵不一定能做到? ​

我们看一个反例:

A=
\begin{bmatrix}
0&-1\\
1&0
\end{bmatrix}

这是一个将二维向量逆时针旋转 90° 的矩阵。

如果存在实特征向量 \mathbf v,应当满足:

A\mathbf v=\lambda\mathbf v

也就是旋转后的向量仍然与原向量共线。

但任何非零实向量旋转 90° 后都与原向量垂直,不可能共线。

所以,这个矩阵甚至不存在实特征向量。

因此,一般实矩阵并不具备谱定理所保证的性质。

补充:不借助谱定理完成严格归纳 ​

当 n=1,任意实数矩阵已有一个单位特征向量。设结论对维数 n-1 成立。通过本章球面法或上一章代数法,取得单位实特征向量 q,Aq=\lambda q。

令 V=\{w:q^Tw=0\}。q^T 是秩为一的线性泛函,故 \dim V=n-1。通过一般线性空间取基和 Gram–Schmidt,选取 V 的正交归一基,组成 B\in\mathbb R^{n\times(n-1)},满足 B^TB=I。

不变性保证 AB 的每列属于 V,因而 AB=BC,其中 C=B^TAB。并且

C^T=B^TA^TB=B^TAB=C.

由归纳假设,存在 (n-1) 阶正交矩阵 R 使 C=RDR^T。于是 BR 的列在 V 中两两正交归一,且 A(BR)=(BR)D。连同 q 组成

Q=[\,q\ \ BR\,],\qquad
Q^TQ=I,\qquad AQ=Q\operatorname{diag}(\lambda,D).

因此 A=Q\operatorname{diag}(\lambda,D)Q^T。这段归纳没有预先假定原矩阵可对角化,也没有预先假定重特征值的重数等于特征空间维数。

补充:球面构造为什么能被想到 ​

已知特征向量若归一化,则 Av=\lambda v 推出 \lambda=v^TAv。因此先研究单位方向上的二次型,是从目标方程倒推候选量。长度不固定时,二次型按 c^2 缩放,无法单独比较方向。

球面极值条件说 Av 没有切向分量。严格地,取 z=Av-(v^TAv)v,则 z\perp v;已证明所有 w\perp v 都有 w^TAv=0,所以取 w=z 得 \|z\|^2=0,从而 Av=(v^TAv)v。这补足了“只能沿着 v”的代数依据。

球面方法中的 n=1 无需选择垂直单位向量,已经由归纳基直接解决。拉格朗日乘数可帮助发现方程,但本章沿球面曲线求导的证明无需另引用乘数定理。

保留每一次追问,认真走完每一步证明。