二次型与正定矩阵

高中解析几何里，椭圆和双曲线都是"二次的"：方程里只有平方项与交叉项. 第 7 章的谱定理说，对称矩阵总能旋转到主轴；这一章把两件事合起来：把二次式写成 $\mathbf{x}^{\mathsf{T}}A\mathbf{x}$，旋转到主轴后交叉项消失，是椭圆、双曲线还是鞍形，直接从特征值的符号里读出来. 最后落到优化和机器学习里出现频率最高的词：正定.

高中那点工具，够用到哪里

这一章研究的对象，选必一整章都在讲：

• 选必一 3.1 椭圆、3.2 双曲线：标准方程 $x^2/a^2 + y^2/b^2 = 1$ 与 $x^2/a^2 - y^2/b^2 = 1$ 都是"二次的"；2.4 圆的方程是它的等伸缩特例.
• 必修一 一元二次函数与判别式：$\Delta = b^2 - 4ac$ 决定抛物线与 $x$ 轴的关系——它是二次型行列式 $ac - b^2$ 的"差一个符号"的表亲，两个都在测量"退化".
• 高中做"斜椭圆"时用过配方和旋转：当时旋转是技巧、配方是算术；这一章回答当时没法问的问题——该转到哪个角度（特征方向），为什么总能成功（谱定理）.

圆锥曲线就是二次型的等值线. 椭圆

$$\frac{x^2}{4} + y^2 = 1$$

写成矩阵形式 $q(\mathbf{x}) = \mathbf{x}^{\mathsf{T}}A\mathbf{x}$，其中 $A = \operatorname{diag}(\frac14, 1)$：特征值 $\lambda = \frac14, 1$ 都为正——正定，等值线是椭圆，半轴 $\sqrt{1/\lambda} = 2$ 与 $1$（正好是高中记的 $a$ 和 $b$）. 双曲线 $x^2 - y^2 = 1$ 则是特征值 $1, -1$ 的不定型. 高中背的两类标准方程，是同一台机器（特征值的符号）的两个输出.

二次型与它的矩阵

定义（二次型） 只含二次项的 $n$ 元多项式叫二次型. 任何二次型都能写成

$$q(\mathbf{x}) = \mathbf{x}^{\mathsf{T}} A \mathbf{x}$$

的形状，其中 $A$ 是 $n \times n$ 矩阵.

拿二维试一个：

$$2x^2 + 4xy + 5y^2 = \begin{bmatrix} x & y \end{bmatrix} \begin{bmatrix} 2 & 2 \\ 2 & 5 \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix}.$$

核对一遍：右端 $= (2x + 2y)x + (2x + 5y)y = 2x^2 + 2xy + 2xy + 5y^2$ ✓. 规则是：平方项的系数放对角线；交叉项 $xy$ 的系数劈一半，摆在对称的两个位置. 反推也容易：看到 $4xy$ 就知道 $A$ 的两个非对角元都是 $2$.

为什么总假设 $A$ 对称. 若 $N$ 是反对称的（$N^{\mathsf{T}} = -N$），对任何 $\mathbf{x}$ 都有 $\mathbf{x}^{\mathsf{T}}N\mathbf{x} = 0$——因为它是标量，等于自己的转置：

$$\mathbf{x}^{\mathsf{T}}N\mathbf{x} = (\mathbf{x}^{\mathsf{T}}N\mathbf{x})^{\mathsf{T}} = \mathbf{x}^{\mathsf{T}}N^{\mathsf{T}}\mathbf{x} = -\mathbf{x}^{\mathsf{T}}N\mathbf{x}.$$

所以 $\mathbf{x}^{\mathsf{T}}A\mathbf{x}$ 只看得见 $A$ 的对称部分 $(A + A^{\mathsf{T}})/2$. 以后默认 $A$ 对称.

主轴定理：旋转到平方和

定理（主轴定理） 设 $A$ 是实对称矩阵，则 $A = Q\Lambda Q^{\mathsf{T}}$（第 7 章谱定理）. 令 $\mathbf{y} = Q^{\mathsf{T}}\mathbf{x}$（把坐标转到特征方向上），二次型变成

$$q(\mathbf{x}) = \lambda_1 y_1^2 + \cdots + \lambda_n y_n^2.$$

证明一行：$\mathbf{x}^{\mathsf{T}}A\mathbf{x} = \mathbf{x}^{\mathsf{T}}Q\Lambda Q^{\mathsf{T}}\mathbf{x} = (Q^{\mathsf{T}}\mathbf{x})^{\mathsf{T}}\Lambda (Q^{\mathsf{T}}\mathbf{x}) = \sum_i \lambda_i y_i^2$.

几何直觉. 高中学的"斜椭圆"就是主轴没对齐的椭圆. 旋转 $Q^{\mathsf{T}}$ 把坐标轴转到特征方向上，交叉项立刻消失，椭圆变成轴对齐的标准形. 特征值 $\lambda_i$ 决定 $q = 1$ 的等值线在 $y_i$ 轴上的截距 $\sqrt{1/\lambda_i}$——$\lambda_i$ 越大，那个方向越陡、截距越短，椭圆越扁.

二维分类表. 设 $\lambda_1 \ge \lambda_2$，看等值线（$q$ 取同一常数的点连成的曲线，像地形图上的等高线）：

特征值	$q = 1$ 的形状	$q = -1$ 的形状	类型
$\lambda_1 \ge \lambda_2 > 0$	椭圆	空	正定
$0 > \lambda_1 \ge \lambda_2$	空	椭圆	负定
$\lambda_1 > 0 > \lambda_2$	双曲线	双曲线	不定
$\lambda_1 > 0 = \lambda_2$	一对平行直线	空	半正定
$\lambda_1 = 0 > \lambda_2$	空	一对平行直线	半负定
$\lambda_1 = \lambda_2 = 0$	空	空	零型

例子. $q = 2x^2 + 4xy + 5y^2$：$A = \begin{bmatrix} 2 & 2 \\ 2 & 5 \end{bmatrix}$，$\operatorname{tr} A = 7$、$\det A = 6$，特征值

$$\lambda = \frac{7 \pm \sqrt{49 - 24}}{2} = \frac{7 \pm 5}{2} = 6,\ 1.$$

$\lambda = 6$ 的特征向量是 $(1,2)$，$\lambda = 1$ 的是 $(2,-1)$（互相垂直 ✓）. 于是 $q = 6y_1^2 + y_2^2$：椭圆，半轴 $1/\sqrt{6} \approx 0.41$ 与 $1$——沿 $(1,2)$ 方向更陡、更窄.

回到圆锥曲线：高中方程的新读法

选必一背过的椭圆、双曲线标准方程，用主轴定理读一遍，全是特征值.

椭圆：半轴与离心率都是特征值的函数. 椭圆

$$\frac{x^2}{a^2} + \frac{y^2}{b^2} = 1 \quad (a > b > 0)$$

是二次型 $\mathbf{x}^{\mathsf{T}}A\mathbf{x}$ 的等值线 $q = 1$，其中 $A = \operatorname{diag}(1/a^2,\ 1/b^2)$，特征值 $\lambda_1 = 1/a^2$、$\lambda_2 = 1/b^2$（都为正——正定）. 半轴

$$\sqrt{1/\lambda_1} = a, \qquad \sqrt{1/\lambda_2} = b$$

——高中记的 $a$、$b$ 就是特征值的开方倒数. 离心率呢？

$$e = \frac{c}{a} = \sqrt{1 - \frac{b^2}{a^2}} = \sqrt{1 - \frac{\lambda_1}{\lambda_2}}.$$

离心率是特征值之比的函数：两个特征值越接近（$e$ 越小），椭圆越圆；比值越悬殊（$e$ 越接近 1），椭圆越扁——和条件数"最大最小特征值之比"是同一类度量.

双曲线：渐近线就是 $q = 0$ 的方向. 双曲线

$$\frac{x^2}{a^2} - \frac{y^2}{b^2} = 1$$

对应不定型 $A = \operatorname{diag}(1/a^2,\ -1/b^2)$，特征值一正一负. 让它等于零：

$$\frac{x^2}{a^2} - \frac{y^2}{b^2} = 0 \iff y = \pm\frac{b}{a}x,$$

正是高中背的两条渐近线. 换句话说：渐近线是不定型取零值的方向——高中当结论背的式子，这里是二次型符号变化的分解线.

圆是等特征值的情形. $x^2 + y^2 = r^2$ 的矩阵是单位矩阵的倍数，两个特征值相等（两个半轴一样长）. 一般的圆 $(x-a)^2 + (y-b)^2 = r^2$ 展开后多出线性项，是"二次型 + 平移"——配方就是把平移消掉，圆心是平移的原点.

退化的情形也要认得. $4x^2 + 4xy + y^2 = 1$ 的矩阵 $\begin{bmatrix} 4 & 2 \\ 2 & 1 \end{bmatrix}$ 行列式为零，其实 $q = (2x+y)^2$，等值线是一对平行直线 $2x + y = \pm 1$——二次曲线"抛物线型"的退化，高中见过的两条平行线在这里有了名字.

例题（教材风格）. 已知椭圆 $\frac{x^2}{9} + \frac{y^2}{4} = 1$：(1) 写出二次型矩阵并求特征值；(2) 求半轴与离心率；(3) 换成斜椭圆 $x^2 + xy + y^2 = 1$，求主轴方向.

解. (1) $A = \operatorname{diag}(\frac19, \frac14)$，特征值 $\lambda = \frac19$、$\frac14$. (2) 半轴 $\sqrt{9} = 3$ 与 $\sqrt{4} = 2$；离心率

$$e = \sqrt{1 - \frac{1/9}{1/4}} = \sqrt{1 - \frac49} = \frac{\sqrt{5}}{3} \approx 0.745.$$

(3) 斜椭圆的矩阵 $A = \begin{bmatrix} 1 & \frac12 \\ \frac12 & 1 \end{bmatrix}$：$\operatorname{tr} A = 2$、$\det A = \frac34$，特征值

$$\lambda = \frac{2 \pm \sqrt{4 - 3}}{2} = \frac32,\ \frac12,$$

主轴方向是特征向量 $(1,1)$ 与 $(1,-1)$（互相垂直）. 沿 $(1,1)$ 方向更陡更窄（半轴 $1/\sqrt{3/2} \approx 0.82$），沿 $(1,-1)$ 方向更长（半轴 $1/\sqrt{1/2} \approx 1.41$）——斜椭圆"斜"在主轴没对齐坐标轴，转到特征方向就变回标准形.

正定：碗形

定义（正定 / 半正定） 对称矩阵 $A$ 称为正定，若对一切 $\mathbf{x} \ne \mathbf{0}$ 都有 $q(\mathbf{x}) = \mathbf{x}^{\mathsf{T}}A\mathbf{x} > 0$；若只要求 $q(\mathbf{x}) \ge 0$，称为半正定. 全部反过来是负定、半负定.

正定有三个等价判据，选哪个用看场景：

1. 特征值全为正：由主轴定理，$q = \sum \lambda_i y_i^2$ 对一切 $\mathbf{y} \ne \mathbf{0}$ 为正，当且仅当每个 $\lambda_i > 0$.
2. 顺序主子式全为正（Sylvester 判据）：左上角 $1 \times 1$、$2 \times 2$、…、$n \times n$ 的行列式全大于零. 2×2 时就是 $a > 0$ 且 $ac - b^2 > 0$.
3. 存在可逆 $R$ 使 $A = R^{\mathsf{T}}R$（Cholesky 分解的雏形）：这样 $q(\mathbf{x}) = |R\mathbf{x}|^2$，一个"平方长度"，自然 $\ge 0$；$R$ 可逆时除零向量外都大于零.

几何直觉. 正定是碗：等值线是一层层同心的椭圆，从原点出发往任何方向走都在上升. 半正定是槽：有一条谷底直线（零特征方向），沿它走高度不变. 不定是鞍：有的方向上升、有的方向下降. 优化的目标就是找最低点——碗最好办，鞍最麻烦.

判断练习. $q = 2x^2 + 4xy + 5y^2$：$a = 2 > 0$，$ac - b^2 = 10 - 4 = 6 > 0$，正定——与 $\lambda = 6, 1$ 一致. $q = x^2 - y^2$：$a = 1 > 0$ 但 $ac - b^2 = -1 < 0$，不定 ✓.

高维：超曲面与惯性指数

主轴定理对 $n$ 维一字不差：$q(\mathbf{x}) = \lambda_1 y_1^2 + \cdots + \lambda_n y_n^2$. 二维里画出来的碗、鞍、槽，在 $n$ 维里是 $\mathbb{R}^n$ 中的一张等值超曲面 $q(\mathbf{x}) = 1$（"超"说的是维数：它比空间本身低一维，是 $n-1$ 维的曲面）.

先数符号. 把特征值分成三堆——正、负、零：

定义（惯性指数） 正特征值的个数 $p$ 叫正惯性指数，负特征值的个数 $s$ 叫负惯性指数；$(p, s)$ 合称惯性指数，秩 $r = p + s$.

三维空间里的形状可以列全（下表是 $q = 1$ 的等值面；$q = -1$ 的形状把 $p$、$s$ 对调）：

$(p, s)$	$q = 1$ 的形状（$n = 3$）	例子
$(3, 0)$	椭球面	$x^2 + y^2 + z^2 = 1$
$(2, 1)$	单叶双曲面	$x^2 + y^2 - z^2 = 1$
$(1, 2)$	双叶双曲面	$x^2 - y^2 - z^2 = 1$
$(2, 0)$	椭圆柱面	$x^2 + y^2 = 1$
$(1, 1)$	双曲柱面	$x^2 - y^2 = 1$
$(1, 0)$	一对平行平面	$x^2 = 1$

定理（Sylvester 惯性定律） 不管用哪个可逆线性替换 $\mathbf{x} = P\mathbf{z}$ 把二次型化成平方和（不一定是特征方向），正、负系数的个数 $p$、$s$ 永远不变. 换句话说，$(p, s)$ 是二次型换元下的"指纹"：规范形

$$z_1^2 + \cdots + z_p^2 - z_{p+1}^2 - \cdots - z_{p+s}^2$$

里的 $p$、$s$ 唯一.

证明（p 是内在的）

只需论证 $p$（对 $-q$ 用同样论证得 $s$）. 在规范形坐标系里，子空间 $\{z_{p+1} = \cdots = z_n = 0\}$ 的维数是 $p$，且 $q$ 在它上面恒正. 反过来，任何使 $q$ 在其上恒正的子空间 $U$，维数不能超过 $p$：若 $\dim U > p$，则 $U$ 与 $\{z_1 = \cdots = z_p = 0\}$（维数 $n - p$）必有非零的交向量（两个维数之和超过 $n$），而后者上 $q \le 0$——同一个非零向量上 $q > 0$ 与 $q \le 0$ 同时成立，矛盾. 所以 $p$ 等于"使 $q$ 正定的子空间的最大维数"，这个描述与坐标系无关. $\blacksquare$

怎么判断：把定义变成有限次计算. "对一切非零向量验证 $q(\mathbf{x}) > 0$"没法逐个试，但有限维的好处是它等价于有限次运算：

1. 数惯性指数：正定 $\iff p = n$（所有特征值为正）；半正定 $\iff s = 0$.
2. 顺序主子式（Sylvester）：从左上角开始，$1 \times 1$、$2 \times 2$、…、$n \times n$ 的行列式全大于零. 拿 $A = \begin{bmatrix} 2 & 1 & 1 \\ 1 & 2 & 1 \\ 1 & 1 & 2 \end{bmatrix}$ 走一遍：$2 > 0$，$\det\begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix} = 3 > 0$，$\det A = 4 > 0$ → 正定（与习题 8 的平方和分解互相印证）. 半正定要把条件放宽成"所有主子式 $\ge 0$"——只查顺序主子式会漏.
3. 合同消元：对 $A$ 做对称消元、把二次型配方成平方和，主元全正即正定；复杂度 $O(n^3)$，全程不用求特征值——数值计算里 Cholesky 分解会不会中断，就是这个判据.

（这三条都依赖"有限个特征值、有限个主元"；无限维空间里定义不变，判断方式要整个换掉——泛函分析的剧情.）

几何直觉. 高维画不了图，但图景没变：椭球是"每个特征方向各自拉伸的球"，第 $i$ 条半轴长 $1/\sqrt{\lambda_i}$——特征值越小，那根轴拉得越长. 比如 $A = \operatorname{diag}(9, 4, 1)$：三条半轴依次 $1/3$、$1/2$、$1$. 惯性指数数的就是"朝上的方向有几个、朝下的有几个、平的有几个"；高维椭球的扁度还是条件数 $\sqrt{\lambda_{\max}/\lambda_{\min}}$——最长半轴比最短半轴.

实验里能转着看的是 $n = 2$ 的曲面；$n$ 维的图景只能像上面这样靠特征值读——这也是为什么"特征值的符号"比任何一张图都可靠.

正定为什么重要

• 最小二乘：拟合超定方程组 $A\mathbf{x} \approx \mathbf{b}$ 时，正规方程 $A^{\mathsf{T}}A\mathbf{x} = A^{\mathsf{T}}\mathbf{b}$ 里的 $A^{\mathsf{T}}A$ 半正定；当 $A$ 列满秩时正定，解存在且唯一. 这是"最小二乘总有解"的矩阵语言（矩阵分析单元细讲）.
• 优化：临界点处 Hessian（二阶导矩阵）正定 $\iff$ 局部极小. 碗的"扁度"——条件数 $\lambda_{\max}/\lambda_{\min}$——决定梯度下降要多慢：椭圆越扁，越容易来回震荡.
• 概率统计：协方差矩阵半正定（方差不能为负）；多元正态分布的密度函数要求协方差矩阵正定，等密度面就是超椭球，马氏距离把它拉回单位球.
• 机器学习：核方法里的 Gram 矩阵半正定；PCA 的主方向是协方差矩阵（半正定）的特征向量.

实验：曲面与正定性

1. 「正定（碗）」：曲面是一张开口向上的碗，从原点向任何方向都上升；拖点满场跑，$q$ 恒为正.
2. 「不定（鞍）」：马鞍面——沿一条主轴向上弯、沿另一条向下弯，蓝色面（$q > 0$）与黄色面（$q < 0$）在原点交汇.
3. 「槽（半正定）」：沿 $\lambda_2 = 0$ 方向是一道平直的谷底，曲面像槽钢；谷底上 $q$ 恒等于零.
4. 「负定」：倒扣的碗，曲面整个沉在底面之下.
5. 「窄碗」：$\lambda_1/\lambda_2 = 5$，两个方向的陡峭程度差很多——条件数大，梯度下降会震荡.
6. 拖空白处旋转视角、双击复位；点格子改矩阵，盯着 $\lambda_1$、$\lambda_2$ 的符号看曲面怎么变.

实验 10

二次型曲面：碗、鞍与槽

λ₁3.00

λ₂1.00

det3.00

类型正定

预设

对称矩阵 A（点格子改）

q = 3.00·y₁² + 1.00·y₂²

点 (1.2, 0.8)：q = 6.08

正定：碗形曲面. 两个特征值都为正，从原点向任何方向都向上翘——最低点就在原点.

拖空白处旋转视角（双击复位）；拖白色圆点沿底面移动，竖线伸到曲面上的高度就是 q 的值（高度做了归一化显示）. 蓝色曲面是 q > 0 的部分、黄色是 q < 0 的部分；浅灰实线是两条主轴方向上的剖面——碗是向上的抛物线，鞍一上一下. 点格子改矩阵，看 λ 的符号组合怎么决定碗、鞍还是槽.

习题

1. 写出 $q = 3x^2 - 4xy + 2y^2$ 的矩阵，判断类型.
2. 判断 $q = x^2 + 2xy + y^2$ 的类型，并用配方验证.
3. $q = x^2 - y^2$：写出矩阵、特征值、主轴方向与类型.
4. 判断 $A = \begin{bmatrix} 1 & 2 \\ 2 & 1 \end{bmatrix}$ 是否正定.
5. 证明：$A$ 正定 $\implies A^{-1}$ 正定.
6. 设 $A$ 对称，$\mathbf{x}$ 取单位向量. 用主轴坐标证明：$q(\mathbf{x})$ 的最大值是 $\lambda_{\max}$、最小值是 $\lambda_{\min}$.
7. 写出 $q = x^2 + y^2 - z^2$ 的惯性指数，并说明 $q = 1$ 与 $q = -1$ 分别是什么超曲面.
8. 用"平方和"证明 $q = 2x^2 + 2y^2 + 2z^2 + 2xy + 2yz + 2xz$ 正定，并写出它的惯性指数.

参考答案

1. 交叉项系数 $-4$ 劈半：$A = \begin{bmatrix} 3 & -2 \\ -2 & 2 \end{bmatrix}$. Sylvester：$3 > 0$，$\det A = 6 - 4 = 2 > 0$，正定. （特征值 $(5 \pm \sqrt{17})/2 \approx 4.56,\ 0.44$，都为正 ✓.）

2. $A = \begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix}$，特征值 $2$ 与 $0$，半正定. 配方：$x^2 + 2xy + y^2 = (x+y)^2 \ge 0$，在 $x + y = 0$ 这条线上取零——那就是 $\lambda_2 = 0$ 的谷底方向.

3. $A = \begin{bmatrix} 1 & 0 \\ 0 & -1 \end{bmatrix}$（已经是对角阵），特征值 $1$ 与 $-1$，主轴就是 $x$ 轴与 $y$ 轴；类型不定，等值线是双曲线 $x^2 - y^2 = \pm 1$.

4. $a = 1 > 0$ 但 $\det A = 1 - 4 = -3 < 0$，不定. （特征值 $3$ 与 $-1$.）

5. $A$ 正定 $\implies$ 特征值 $\lambda_i > 0$；第 7 章习题 4 说过 $A^{-1}$ 的特征值是 $1/\lambda_i$，仍然全为正 $\implies$ $A^{-1}$ 正定. 也可以直接用二次型验证：$\mathbf{x} \ne \mathbf{0}$ 时令 $\mathbf{u} = A^{-1}\mathbf{x} \ne \mathbf{0}$，则 $\mathbf{x}^{\mathsf{T}}A^{-1}\mathbf{x} = \mathbf{u}^{\mathsf{T}}A\mathbf{u} > 0$.

6. 令 $\mathbf{y} = Q^{\mathsf{T}}\mathbf{x}$. $Q^{\mathsf{T}}$ 保持长度：$|\mathbf{y}| = |\mathbf{x}| = 1$，所以 $\sum y_i^2 = 1$. 于是 $q = \sum \lambda_i y_i^2$ 是 $\lambda_i$ 的加权平均（权重 $y_i^2$ 非负、和为 1），必在最小与最大特征值之间；取 $\mathbf{x}$ 为对应的特征向量即取到等号.

7. 特征值 $1, 1, -1$：$p = 2$、$s = 1$、秩 $3$. $q = 1$ 是单叶双曲面 $x^2 + y^2 - z^2 = 1$；$q = -1$ 是双叶双曲面 $z^2 - x^2 - y^2 = 1$.

8. $q = (x + y + z)^2 + x^2 + y^2 + z^2 \ge 0$；等号要求 $x = y = z = 0$，所以正定，惯性指数 $(3, 0)$. （顺带：特征值是 $4, 1, 1$——$(1,1,1)$ 方向伸缩 $4$ 倍，另外两个方向伸缩 $1$ 倍.）

交叉

• 优化与机器学习：Hessian 正定 $\iff$ 局部极小；条件数 = 等高线椭圆的扁度 = 梯度下降的收敛速度；核矩阵半正定.
• 概率统计：协方差矩阵半正定；多元正态需要正定矩阵.
• 矩阵分析：Cholesky 分解把正定矩阵"开平方"（$A = R^{\mathsf{T}}R$），是解线性方程组最快的路子之一；SVD 把本章的主轴定理推广到任意矩阵.

延伸

线性代数这一组到这里收官. 下一单元《矩阵分析》会把这些工具打磨成工程形态：范数、LU/QR/Cholesky、SVD 与低秩逼近、条件数、矩阵微积分、广义逆与最小二乘. 本章的谱定理是 SVD 的对称特例；"碗的扁度"在那边有了正式名字——条件数，也成了可计算、可优化的量.