Math-03.线性代数-00.系列规划

本页为 01.知识-02.MathMath-03 线性代数 子系列的索引与规划。面向 ML / DL / 大模型读者,衔接 Math-00 数学分布Math-02 相关性检验02.开发-20.MachineLearn 存量文章。

段末注释线性代数(linear algebra)研究向量空间与线性映射;ML 中数据、参数、梯度均以矩阵/张量表示。


一、系列定位

维度 说明
前置 基础代数;Math-00/30 多元正态(协方差矩阵)
目标 掌握 ML/DL 必需的矩阵运算、分解、范数与数值稳定概念
与 Math-02 相关矩阵 = 协方差标准化;PCA 与偏相关互补
与 Math-04 梯度是向量;Hessian 是矩阵 → 优化系列
与存量 扩展 特征降维-t-SNEUMAP

二、命名规范

1
Math-03.线性代数-{篇号}.{标题}.md
篇号段 用途
00 系列规划(本文)
01 总论(ML 视角的线性代数地图)
02–09 核心概念(向量、矩阵、特征值、SVD、范数…)
10–19 ML 应用(PCA、嵌入、协方差)
20–29 DL/大模型(Attention、LoRA、并行)

三、篇目索引

篇号 文件名 状态 要点
00 Math-03.线性代数-00.系列规划.md 本文
01 Math-03.线性代数-01.总论.md 已发布 ML 视角地图、选型
02 Math-03.线性代数-02.向量与矩阵运算.md 已发布 点积、矩阵乘、广播
03 Math-03.线性代数-03.线性变换与秩.md 已发布 秩、可逆、子空间
04 Math-03.线性代数-04.特征值与特征向量.md 已发布 谱、PCA 数学
05 Math-03.线性代数-05.SVD与低秩分解.md 已发布 截断 SVD、LoRA
06 Math-03.线性代数-06.范数与距离.md 已发布 L1/L2、Frobenius、clip
07 Math-03.线性代数-07.正定矩阵与条件数.md 已发布 数值稳定、Cholesky
10 Math-03.线性代数-10.PCA与协方差.md 已发布 特征分解、白化
20 Math-03.线性代数-20.Attention与LoRA.md 已发布 QKV、低秩适配

四、单篇建议维度

  1. 定义与几何直观(D1–D2)
  2. 核心公式与性质(D3)
  3. 计算复杂度与数值注意(D8)
  4. ML/DL/LLM 场景(D7)
  5. 局限与误用(D8)
  6. NumPy / PyTorch 示例(D12)
  7. 四图标准:fig01 直观、fig02 公式/运算、fig03 场景、fig04 局限

五、推荐阅读路线

1
2
3
4
5
6
Math-00.数学分布-01.总论(期望、方差)
→ Math-02.相关性检验-01.总论(相关矩阵)
→ Math-03.线性代数-01.总论
→ 02 向量矩阵 → 04 特征值 → 05 SVD
→ 10 PCA / 20 Attention+LoRA
→ Math-04 优化(训练)

六、小结

Math-03 线性代数 规划内专篇已全部完成(01–07 核心 + 10 PCA + 20 Attention/LoRA,共 9 篇 + 36 图)。下一步:Math-05 信息论Math-04 优化

段末注释SVD(singular value decomposition,奇异值分解)将任意矩阵分解为 $U\Sigma V^\top$;LoRA(Low-Rank Adaptation,低秩适配)用低秩矩阵近似权重更新。

-------------本文结束感谢您的阅读-------------