本页为 01.知识-02.Math 下 Math-03 线性代数 子系列的索引与规划。面向 ML / DL / 大模型读者,衔接 Math-00 数学分布、Math-02 相关性检验 与 02.开发-20.MachineLearn 存量文章。
段末注释:线性代数(linear algebra)研究向量空间与线性映射;ML 中数据、参数、梯度均以矩阵/张量表示。
一、系列定位
| 维度 | 说明 |
|---|---|
| 前置 | 基础代数;Math-00/30 多元正态(协方差矩阵) |
| 目标 | 掌握 ML/DL 必需的矩阵运算、分解、范数与数值稳定概念 |
| 与 Math-02 | 相关矩阵 = 协方差标准化;PCA 与偏相关互补 |
| 与 Math-04 | 梯度是向量;Hessian 是矩阵 → 优化系列 |
| 与存量 | 扩展 特征降维-t-SNE、UMAP |
二、命名规范
1 | Math-03.线性代数-{篇号}.{标题}.md |
| 篇号段 | 用途 |
|---|---|
| 00 | 系列规划(本文) |
| 01 | 总论(ML 视角的线性代数地图) |
| 02–09 | 核心概念(向量、矩阵、特征值、SVD、范数…) |
| 10–19 | ML 应用(PCA、嵌入、协方差) |
| 20–29 | DL/大模型(Attention、LoRA、并行) |
三、篇目索引
| 篇号 | 文件名 | 状态 | 要点 |
|---|---|---|---|
| 00 | Math-03.线性代数-00.系列规划.md |
本文 | — |
| 01 | Math-03.线性代数-01.总论.md |
已发布 | ML 视角地图、选型 |
| 02 | Math-03.线性代数-02.向量与矩阵运算.md |
已发布 | 点积、矩阵乘、广播 |
| 03 | Math-03.线性代数-03.线性变换与秩.md |
已发布 | 秩、可逆、子空间 |
| 04 | Math-03.线性代数-04.特征值与特征向量.md |
已发布 | 谱、PCA 数学 |
| 05 | Math-03.线性代数-05.SVD与低秩分解.md |
已发布 | 截断 SVD、LoRA |
| 06 | Math-03.线性代数-06.范数与距离.md |
已发布 | L1/L2、Frobenius、clip |
| 07 | Math-03.线性代数-07.正定矩阵与条件数.md |
已发布 | 数值稳定、Cholesky |
| 10 | Math-03.线性代数-10.PCA与协方差.md |
已发布 | 特征分解、白化 |
| 20 | Math-03.线性代数-20.Attention与LoRA.md |
已发布 | QKV、低秩适配 |
四、单篇建议维度
- 定义与几何直观(D1–D2)
- 核心公式与性质(D3)
- 计算复杂度与数值注意(D8)
- ML/DL/LLM 场景(D7)
- 局限与误用(D8)
- NumPy / PyTorch 示例(D12)
- 四图标准:fig01 直观、fig02 公式/运算、fig03 场景、fig04 局限
五、推荐阅读路线
1 | Math-00.数学分布-01.总论(期望、方差) |
六、小结
Math-03 线性代数 规划内专篇已全部完成(01–07 核心 + 10 PCA + 20 Attention/LoRA,共 9 篇 + 36 图)。下一步:Math-05 信息论 或 Math-04 优化。
段末注释:SVD(singular value decomposition,奇异值分解)将任意矩阵分解为 $U\Sigma V^\top$;LoRA(Low-Rank Adaptation,低秩适配)用低秩矩阵近似权重更新。