線性代數史 -- AI 偵探風格#

以「推理探案」的方式，追查線性代數從《九章算術》的損益消去法，到今日 GPU 與 Transformer 的矩陣乘法，每一步的前因是什麼？線索在哪裡？推理如何展開？後果又如何重塑了整個數學、物理與資訊科學？

這樁「懸案」橫跨兩千三百年：中國算籌早就會解聯立方程，Leibniz 與 Cramer 替它取了「行列式」的名字，Grassmann 看見了 n 維空間卻無人理會，Cayley 給了它「矩陣」的語言，Peano 寫下公理、Markov 讓它動起來，Strassen 打破 \(O(n^3)\) ——而今天，矩陣乘法就是每一個大型語言模型的心臟。

案件卷宗（歷史年表）#

遠古與行列式前夜（前 300–1795）#

行列式時代（1812–1850）#

矩陣時代（1858–1888）#

動態與統計（1900–1936）#

計算與現代（1951–至今）#

關鍵人物年表#

案件主軸：三幕劇#

1. 第一幕：命名（前300–1850）——從算籌的損益消去到行列式的名字：解聯立方程的需求催生了 \(x_i=\det(A_i)/\det(A)\) ；Hamilton 放棄交換律、Grassmann 看見 n 維空間，為「結構」的思想開路。
2. 第二幕：結構（1858–1888）——Cayley 的矩陣代數、Jordan 的分類、Frobenius 的秩與特徵多項式、Gibbs 的向量、Peano 的公理：線性代數從「計算工具」升格為「數學結構」。
3. 第三幕：加速（1906–至今）——Markov 讓矩陣描述隨機、SVD 提煉資訊、Householder 確保數值穩定、Strassen 打破計算量下界；最終矩陣乘法成為 GPU 與 LLM 的心臟。

核心數學一覽#

• Cramer 法則： \(x_i = \dfrac{\det(A_i)}{\det(A)}\)
• 最小平方法： \(\hat{x} = (A^TA)^{-1}A^Tb\)
• 行列式乘法： \(\det(AB) = \det(A)\det(B)\)
• Cayley–Hamilton： \(p_A(A) = 0\) ，其中 \(\chi_A(\lambda)=\det(\lambda I - A)\)
• Jordan 標準形： \(A = PJP^{-1}\)
• SVD： \(A = U\Sigma V^T\)
• Markov 穩態： \(\pi = \pi P\)
• Krylov 子空間： \(\mathcal{K}_k = \operatorname{span}\{b, Ab, \dots, A^{k-1}b\}\)
• Strassen： \(O(n^{2.807}) < O(n^3)\)
• 注意力機制： \(\operatorname{softmax}\!\left(\dfrac{QK^T}{\sqrt{d}}\right)V\)