笔记10-《程序员的数学3：线性代数》线性代数的整体图景  

目录
  1. 线性代数的整体图景
  2. 各章的因果关系
  3. 三个反复出现的判据
  4. 概念之间的对应关系
  5. 三个容易踩的坑
  6. 落到实处

线性代数的整体图景

  • 全书的一条主线

    • 矩阵 = 映射，矩阵乘法 = 映射复合
      • 第 1 章的核心：打破「矩阵就是数字排列」的印象
      • 线性映射 = 「平直」的关系：f(a+b)=f(a)+f(b)f(\mathbf{a} + \mathbf{b}) = f(\mathbf{a}) + f(\mathbf{b})、f(ca)=cf(a)f(c\mathbf{a}) = cf(\mathbf{a})
    • 问题从「顺问题」转向「逆问题」
      • 第 2 章：已知结果 y=Ax\mathbf{y} = A\mathbf{x} 推测原因 x\mathbf{x}
      • 现实中的逆问题大多带噪声
    • 可逆与否决定解的数量
      • 良性：det⁡A≠0\det A \ne 0，解唯一
      • 恶性：y∉ImA\mathbf{y} \notin \mathrm{Im} A 无解；在 ImA\mathrm{Im} A 里则无穷多解
    • 秩-零化度定理：rankA+nullity(A)=n\mathrm{rank} A + \mathrm{nullity}(A) = n
      • 信息损失和信息保留是同一件事的两面
    • 分解是把昂贵计算前置
      • 第 3 章：A=LUA = LU（或 A=PLUA = PLU）
      • 一次分解，多次使用：解多个方程组、求行列式、求逆矩阵
    • 特征值决定长期行为
      • 第 4 章：AtA^t 会不会爆炸，取决于特征值
      • 可对角化时 At=PDtP−1A^t = PD^tP^{-1}，完全由 DD 的对角元素决定

各章的因果关系

把全书串成一条链：

第 1 章  矩阵 = 映射
         ↓  那么映射能不能倒过来？
第 2 章  逆问题
         ↓  能倒过来需要什么条件？
         可逆矩阵（det ≠ 0）→ 解唯一
         不可逆 → 无解或无穷多解，靠秩和零化度刻画
         ↓  就算可逆，怎么才算得出来？
第 3 章  LU 分解
         一次消元，多次使用
         顺带得到 det A = U 的对角乘积
         ↓  但如果系统是随时间演化的呢？
第 4 章  幂矩阵 A^t
         ↓  什么时候 A^t 会爆炸？
         特征值 λ：|λ| > 1 失控
         ↓  可对角化时特征值就够了
         不可对角化时 → Jordan 标准型补边界情况

三个反复出现的判据

判据一：解的数量，由 ImA\mathrm{Im} A 和 KerA\mathrm{Ker} A 决定。

情况解
KerA={o}\mathrm{Ker} A = \{o\} 且 ImA\mathrm{Im} A = 全空间唯一解
KerA≠{o}\mathrm{Ker} A \ne \{o\} 且 y∉ImA\mathbf{y} \notin \mathrm{Im} A无解
KerA≠{o}\mathrm{Ker} A \ne \{o\} 且 y∈ImA\mathbf{y} \in \mathrm{Im} A无穷多解

判据二：信息损失，由秩决定。

A=BCA = BC 的瓶颈型分解把 nn 维压成 rr 维再扩张。压掉的 n−rn - r 维就是永久丢失的信息。

判据三：长期行为，由特征值决定。

∣λ∣>1|\lambda| > 1 失控，∣λ∣<1|\lambda| < 1 收敛，∣λ∣=1|\lambda| = 1 需要看 Jordan 块。

概念之间的对应关系

书里反复出现的几组对应，整理在一起：

线性代数几何/映射数值计算
矩阵 AA线性映射系数矩阵
ImA\mathrm{Im} A映射覆盖到的区域拟合的可达集合
KerA\mathrm{Ker} A被压扁的方向约束的冗余方向
rankA\mathrm{rank} A幸存的信息维数有效参数个数
特征值 λ\lambda方向上的伸缩倍率系统增益
A=LUA = LU映射的分解一次分解多次用
A=PDP−1A = PDP^{-1}换到好的基底谱分解

三个容易踩的坑

第一，把「不可逆」当成「无解」。

「方程的解」的最原始定义是「代入之后使方程成立的值」。「AA 可逆则解是 A−1yA^{-1}\mathbf{y}」只是从定义推导出的性质。AA 奇异时这条性质不能用，但不能因此说无解 —— 可能只是有无穷多个解。书里专门为这个写了一节，因为这个错误很常见。

第二，混淆「秩」和「秩-零化度」。

秩是保留的信息维数，零化度是丢失的维数。求解问题时关心零化度（解的自由度），分析信息损失时关心秩。

第三，用初等变换代替变量替换。

第 2 章里初等变换几乎无所不能，但第 4 章不行。原因是变量替换要求递推式两边经过同一个变换，而初等变换是在矩阵左右两边分别乘不同的可逆矩阵。

落到实处

学线性代数最容易犯的错，是把它当成一堆计算技巧。书里那句「知其所以然」其实点明了意图：计算方法可以查书，但「为什么是这么算」必须自己建立。

这本书建立的其实是一条判断链：

拿到一个矩阵 A 和一个目标 y
  → A 可逆吗？（算 det 或看秩）
    → 可逆：解唯一，用 LU 分解算
    → 不可逆：y 在 Im A 里吗？
      → 不在：无解，退而求其次找最接近的解（最小二乘）
      → 在：无穷多解，选一个最合理的
  → 如果是随时间演化的系统：算特征值，看会不会失控

每一步都有明确的判据，没有一步需要猜。这就是这本书想给的东西。

学习  :分类
,  :标签
123.8k