切换深浅主题
梯度、谱定理与紧致性笔记
从矩阵梯度追问到谱定理、紧致性与二阶判别。
阅读方式
网站按章阅读；整篇可下载为离线 HTML、PDF 或 Markdown。公开下载版已移除原始对话链接。
第一版 · 2026-10-18（北京时间）
来源：Transformer梯度矩阵推导。按完整 20 轮对话整理，保留追问、定义、两条证明路线和条件边界；将聊天演示改为本版静态图示，补全原对话略过的分析与归纳步骤。
章节目录
- 第 1 章：从矩阵梯度追到实数完备性的思考路线
- 第 2 章：标量对矩阵的梯度、链式法则与参数更新
- 第 3 章：梯度为何是最速方向，以及它位于哪个空间
- 第 4 章：内部极值为什么必须驻点，为什么还要看二阶
- 第 5 章：矩阵、特征向量与换坐标：看懂正交对角化
- 第 6 章：正交矩阵为什么能选出，以及 Gram–Schmidt 如何操作
- 第 7 章：紧致性、闭且有界和收敛子序列
- 第 8 章：连续像为什么紧致，连续函数为什么能取到极值
- 第 9 章：谱定理的代数路线：先从特征方程找一个实方向
- 第 10 章：谱定理的球面路线与共同的降维归纳
- 第 11 章：正定性、正特征值与统一二次下界
- 第 12 章：回到 Hessian：用泰勒余项严格完成二阶判别
- 第 13 章：具体例子、易错边界与回到训练问题
- 第 14 章：原对话逐轮覆盖索引与复习问题