跳轉到

10.1 希爾伯特空間觀點#

本章導言#

本書前九章反覆使用一套直觀:函數 = 向量、積分 = 內積、正交 = 垂直、級數 = 座標分解。本章把這套直觀鑄成公理:Hilbert 空間——完備內積空間。1907 年 Fischer–Riesz 定理(3.1 節)證明 \(L^2 \cong \ell^2\) (函數空間同構於數列空間)是誕生信號;David Hilbert(1862–1943) 的積分方程理論(1904–10)提供早期骨架;John von Neumann(1903–1957) 在 1927–30 年把它公理化並植入量子力學。本節將正式定義 Hilbert 空間、重述本書各章的定理為抽象譜理論(Riesz 表示、正交分解、投影定理、酉算子、譜定理)、並展示「傅立葉分析 = 抽象群的表示論」的統一視角(Pontryagin 對偶)——這是本書的理論總綱:一切具體工具都是一座抽象大廈的房間。

公理與基本定理#

定義:Hilbert 空間 \(H\) = 完備內積空間(內積 \(\langle\cdot,\cdot\rangle\) 線性、正定、共軛對稱;完備 = Cauchy 序列收斂)。範數 \(\|x\| = \sqrt{\langle x, x\rangle}\) 。兩個原型:(1) \(\ell^2 = \{\sum|x_n|^2 < \infty\}\) (Hilbert 本人 1906 年研究的空間,雖然他當時不知道它是「最典型」);(2) \(L^2[a, b]\) (Lebesgue 可積平方——Fischer–Riesz 1907 證其完備)。

核心定理四件套:

  1. 正交投影定理:閉凸集 \(C\) 中存在唯一点 \(\mathrm{proj}_C(x)\) 最近於 \(x\) ;特例(閉子空間 \(M\) ): \(x = m + n\) ( \(m \in M\) 、 \(n \perp M\) )唯一。證明:取距離極小化序列、用平行四邊形恆等式證 Cauchy、完備性收口——完備性在此首次出手。3.1 節「最佳逼近定理」(傅立葉部分和 = 均方最佳)就是 \(M = \mathrm{span}\{e^{inx}: |n|\le N\}\) 的特例。
  2. Riesz 表示定理: \(H\) 上每個連續線性泛函 \(T\) 恰為 \(T(x) = \langle x, y\rangle\) (唯一 \(y \in H\) )。5.2 節分配理論的 Hilbert 版註腳: \(L^2\) 上的連續泛函都是「與某函數的內積」——δ 不在 \(L^2\) 域內(它不連續於 \(L^2\) 範數!),這就是「δ 不是 \(L^2\) 函數」的泛函分析證明。
  3. Bessel / Parseval:正交系 \(\{e_n\}\) 下 \(\sum|\langle x, e_n\rangle|^2 \le \|x\|^2\) ,等號 \(\Leftrightarrow\) \(\{e_n\}\) 完備——本書 3.1 節的兩條定理在抽象層次是同一句話(投影不等式與投影完備性),不依賴傅立葉的任何特殊性。
  4. 酉算子與譜定理:酉 \(U\) (保內積: \(\langle Ux, Uy\rangle = \langle x, y\rangle\) )滿足 \(\|U\| = 1\) 、 \(U^*U = I\) 。傅立葉變換是 \(L^2\) 的酉算子(Plancherel,4.1 節);自伴算子 \(A = A^*\) 的譜定理: \(A\) 酉等價於「乘法」——離散譜時 \(A = \sum\lambda_n P_n\) (特徵分解)、連續譜時直接對角化為乘法算子。量子力學的觀測量 = 自伴算子、測量值 = 譜點——von Neumann 1932《量子力學的數學基礎》的全部架構。

四大譜理論對照(本書各章的抽象化):

空間 算子 譜 本書章節
\(\mathbb{R}^N\) 對稱矩陣 \(N\) 個實特徵值 線性代數基礎
\(L^2[0, L]\) Sturm–Liouville \(\lambda_n = (n\pi/L)^2\) 1.3、9.1
\(L^2(\mathbb{R})\) 傅立葉變換 \(\mathcal{F}\) \(\{1, -1, i, -i\}\) (Hermite) 4.1–4.2
\(L^2(\mathbb{R})\) 位置/動量 連續譜 \(\mathbb{R}\) 量子力學

Pontryagin 對偶:傅立葉分析的終極語法#

抽象定理(Pontryagin 1934;van Kampen 1935–36):每個局部緊交換群 \(G\) 有特徵群 \(\hat G\) (連續同態到單位圓 \(S^1\) ),且 \(\hat{\hat G} \cong G\) (雙對偶)。傅立葉分析 = \(L^2(G)\) 在 \(\hat G\) 的表示分解。四象限(6.2 節)的群論版本:

群 \(G\) 對偶群 \(\hat G\) 分析的形態
\(\mathbb{Z}\) (整數) \(S^1\) (單位圓) DTFT(序列的連續譜)
\(\mathbb{Z}/N\) (有限循環) \(\mathbb{Z}/N\) DFT(6.2 節)
\(S^1\) / \(\mathbb{R}/T\mathbb{Z}\) (週期) \(\mathbb{Z}\) 傅立葉級數(第 2 章)
\(\mathbb{R}\) \(\mathbb{R}\) 傅立葉轉換(第 4 章)

「週期 ↔ 離散、非週期 ↔ 連續」的對偶在群論層次是同構陳述( \(S^1\) 的對偶是離散的 \(\mathbb{Z}\) 、反之亦然)——本書 6.1–6.2 節反覆出現的取樣/週期化對偶,在 Pontryagin 語言下是一張四格對稱的地圖。更遠的推廣:非交換群(無交換性)→ 表示論(Wigner、Mackey 的系統化)→ 粒子物理的對稱群(SU(3)、量子數)——傅立葉是「對稱性的諧波分解」的第一個實例,量子力學的角動量分解(球諧函數, \(SO(3)\) 的表示)是其第二例。

一個具體例題#

例題 10.1.1:把本書三個「非平凡」定理翻譯成 Hilbert 空間語言,驗證抽象化的收益:(1)3.1 節最佳逼近定理 → 投影定理;(2)4.2 節 \(\mathcal{F}^4 = I\) → 酉算子的譜計算;(3)9.1 節熱方程解 → 半群 \(e^{tA}\) 。

解:

(1)最佳逼近: \(M_N = \mathrm{span}\{e^{inx}\}_{|n|\le N}\) 是有限維(故閉)子空間;投影定理給唯一最佳逼近元 \(S_N \in M_N\) ,且 \(x - S_N \perp M_N\) ——正交條件恰為係數公式( \(\langle x - S_N, e^{imx}\rangle = 0\) 即 1.3 節的積分公式)。抽象化的收益:證明不需要計算——正交性與完備性由公理承擔;同一證明覆蓋一切正交系(小波、球諧、Chebyshev——9 章與 8 章的特徵函數)。

(2)** \(\mathcal{F}^4 = I\) : \(\mathcal{F}\) 酉(Plancherel)⇒ 譜在單位圓上; \(\mathcal{F}^4 = I\) ⇒ 譜 \(\subset \{1, i, -1, -i\}\) ;Hermite 函數提供四組特徵向量( \(\hat h_n = (-i)^n\sqrt{2\pi}h_n\) )⇒ 譜恰為** \(\{1, i, -1, -i\}\) 各無窮重。分數傅立葉 \(\mathcal{F}^\alpha = \sum_{n}(-i)^{\alpha n}\langle\cdot, h_n\rangle h_n\) ——譜分解自動給出分數冪的定義(4.2 節場景五的嚴格身分)。

(3)熱方程半群: \(A = \alpha\Delta\) (自伴、下有界);譜定理給 \(A = \sum\lambda_n P_n\) ( \(\lambda_n = -\alpha(n\pi/L)^2\) );半群 \(e^{tA} = \sum e^{\lambda_n t}P_n\) ——9.1 節的級數解就是這條譜分解的具體形式,且「即時光滑」( \(e^{\lambda_nt}\) 超指數壓制高頻)與「最大值原理」( \(e^{tA}\) 正性)成為抽象性質。收益:同一套語言處理任意自伴發展方程——Schrödinger(酉群 \(e^{-itH}\) ,能量守恆!)、波方程( \(e^{ct\sqrt{-\Delta}}\) )、Laplace(穩態)——「解方程 = 計算譜分解 + 套半群」的普適流程。

歷史啟示#

  • 抽象化的複利:投影定理證明一次、用在傅立葉(2 章)、小波(8 章)、有限元(數值)、最小平方法(統計)。公理化的本質是「把證明做成可複用的庫」——von Neumann 的 1927 公理化被後世每一個正交變換的應用者免費使用。
  • Hilbert 的「無意識播種」:Hilbert 研究積分方程(1904–10)時稱對象為「歐氏空間的推廣」但沒有定義抽象空間;Riesz(Frigyes,3.3 節 Fejér 學派)在 1907–09 年完成 \(C[0,1]\) 上的完備性;命名權給了 Hilbert,公理權給了 von Neumann,定理權給了 Riesz——數學冠名史的一貫混亂(3.1 節 Parseval 案的同款)。
  • 物理與數學的雙向驅動:量子力學(1925–32)迫使 Hilbert 空間理論三年內成熟(無界算子、譜定理的連續譜版);反過來 Hilbert 空間成為量子力學「可理解」的唯一框架。沒有另一個時代,數學與物理的同步進化如此緊密。

與其他章節及領域的關聯#

  • 3.1 節:Parseval/Riesz–Fischer——本章的誕生證據。
  • 5.2 節:Gelfand 三元組 \(\mathcal{D} \subset H \subset \mathcal{D}'\) ——Hilbert 的擴張框架。
  • 8.2 節:框架理論——Hilbert 空間的冗餘表示。
  • 9.1 節:半群與譜解法——本章例題(3)。
  • 9.3 節:預解式 \((sI - A)^{-1}\) ——譜的載體。
  • 7.1 節:LTI 算子的對角化——交換 Banach 代數的 Gelfand 理論。
  • 量子計算:量子位元空間 \(\mathbb{C}^{2^n}\) 、QFT(6.3 節場景四)——Hilbert 空間的計算時代。
  • 機器學習:核方法(RKHS,reproducing kernel Hilbert space)、SVM 的幾何——「在 Hilbert 空間做幾何」是現代 ML 的底層語言。

練習#

  1. 證明平行四邊形恆等式 \(\|x + y\|^2 + \|x - y\|^2 = 2\|x\|^2 + 2\|y\|^2\) ,並用於投影定理的存在性步驟(極小化序列是 Cauchy)。
  2. 在 \(\ell^2\) 中構造正交系 \(\{e_n\}\) (標準基),並對 \(x = (x_n)\) 驗證 Bessel 不等式即 Cauchy–Schwarz 的逐項應用;找出使 \(\sum|\langle x, e_n\rangle|^2 = \|x\|^2\) 恰成立的充要條件(完備性)。
  3. 證明 \(\delta\) 泛函 \(\varphi \mapsto \varphi(0)\) 在 \(L^2[-1,1]\) 上不連續(構造 \(\varphi_n\) :支撐 \([0, \frac1n]\) 、 \(\|\varphi_n\|_2 = 1\) 但 \(\varphi_n(0) = \sqrt n \to \infty\) ),從而由 Riesz 表示定理推出「無 \(L^2\) 函數代表 δ」——5.1 節的矛盾證明的泛函分析升級版。
  4. 對乘法算子 \((Mf)(t) = t\,f(t)\) 於 \(L^2[0,1]\) :證明其自伴、譜為 \([0, 1]\) (連續譜,無特徵向量——「特徵函數 \(\delta(t - t_0)\) 不在 \(L^2\) 」),並驗證預解式 \((sI - M)^{-1}\) 的奇點恰在 \(s \in [0,1]\) 。
  5. 思考題:von Neumann 稱 Hilbert 空間理論為「具體的抽象」(concrete abstraction)。用本書的案例(傅立葉→小波→圖訊號)討論:抽象化在什麼條件下增益、在什麼條件下損失?(提示:增益 = 定理複用與統一譜語言;損失 = 具體結構如緊支撐、多速率因果性不再「免費」——8.3 節 Mallat 算法在純抽象語言中不可見。)

進階研讀:Hilbert 空間的五個深化場景#

場景一:Sobolev 空間與現代 PDE。 \(H^m\) (5.2 節場景四)= 傅立葉加權的 Hilbert 空間: \(\|f\|_{H^m}^2 = \sum(1 + n^2)^m|c_n|^2\) (週期版)——光滑度 = 譜的加權能量。Sobolev 嵌入、跡定理、正則性理論(橢圓的 bootstrap)全部是 Hilbert 空間幾何的 PDE 應用;有限元方法的收斂性證明 = 投影定理在 \(H^1\) 的應用。現代 PDE 課本的每一章都是本章定理的 PDE 化妝。

場景二:RKHS 與核方法。再生核 Hilbert 空間(Aronszajn 1950):每個正定核 \(K(x, y)\) 對應一個以 \(K_x(\cdot) = K(\cdot, x)\) 為特徵向量的 Hilbert 空間,滿足再生性 \(f(x) = \langle f, K_x\rangle\) 。SVM(Vapnik–Cortes 1995)、Gaussian 過程的數學底座:「把非線性分類搬到高維 Hilbert 空間做線性幾何」——Mercer 定理(1909)保證核 = 譜分解 \(\sum\lambda_n\phi_n\phi_n\) 。傅立葉的投影思想在 21 世紀的機器學習中重演(10.2 節場景五的字典學習是近親)。

場景三:壓縮與 frame 的率失真。冗餘表示(frame,8.2)+ 量化 = 率失真理論(Shannon 1948 的率失真函數 \(R(D)\) ):變換係數的統計(稀疏、重尾)決定最優位元分配——高斯源 + Karhunen–Loève 變換(KL = 最優正交變換定理,Hotelling 1933)是率失真的經典解;非高斯用變換 + 量化器設計(Lloyd–Max 1957/1960)。3.1 節 Parseval(能量守恆)+ 本節投影(最佳逼近)+ Shannon 率失真 = 壓縮理論的三根柱。

場景四:非交換的推廣——von Neumann 代數。量子力學的可觀測量代數( \(B(H)\) 的子代數)——von Neumann 代數(1930s,與 Murray 合作):因子分類(I、II、III 型)、非交換測度論與非交換機率。Connes 的非交換幾何(1980s) 把幾何對象編碼為算子代數——「空間 = 算子的譜理論」的哲學極致(非交換環面、標準模型的重力版猜想)。傅立葉(交換群)→ 算子譜(單算子)→ von Neumann 代數(算子族) 的三級抽象階梯。

場景五:隨機視角——Hilbert 空間中的機率。Gauss-Hilbert 空間:中心化 Gauss 隨機變數的 \(L^2\) 封閉 = Hilbert 空間;Karhunen–Loève 展開(隨機過程的特徵分解: \(\xi(t) = \sum\sqrt{\lambda_n}\xi_n\phi_n(t)\) , \(\phi_n\) = 協方差核的特徵函數)——隨機過程 = Hilbert 空間中的「曲線」,模態分解隨機化(9.1 節場景三的嚴格版)。Wiener 混沌分解(多次 Hermite 多項式)是隨機分析的基石。確定性調和分析與隨機調和分析(Wiener 1930)在本章匯流——統一不是口號而是同一定理的兩種讀法。

補充:von Neumann 的 1927–1932 三年#

John von Neumann(1903–1957) 布達佩斯出身(Fejér 學派的學生——3.3 節傳承樹),1926 年 23 歲時讀到 Heisenberg 與 Schrödinger 的兩種量子力學,發現兩者等價(矩陣力學與波動力學是同一 Hilbert 空間理論的兩種座標)——1927 年論文《算子的一般特徵值理論》,1932 年《量子力學的數學基礎》(Mathematische Grundlagen der Quantenmechanik):公理化 Hilbert 空間、無界自伴算子、測量的投影公設、純態與混合態的密度矩陣——量子力學至今仍住在這本書的房子裡。他同年的繼續(與 Murray)開創 von Neumann 代數;1944 年的博弈論、1945 年的存儲程序計算機架構、1950s 的元胞自動機——一位數學家同時建造了量子力學、計算機與博弈論的地基。本書各章的「抽象化」敘事,最終匯入這位 Fejér 學生的名字。

名詞速查表(本節出現的核心術語)#

  • Hilbert 空間:完備內積空間; \(\ell^2\) 、 \(L^2\) 為原型。
  • 正交投影定理:閉子空間的唯一最佳逼近。
  • Riesz 表示定理:連續泛函 = 內積。
  • Parseval / Bessel(抽象版):投影能量不等式與完備性。
  • 酉算子:保內積;FT、DFT、幺正演化。
  • 譜定理:自伴算子 = 乘法(離散/連續譜)。
  • 半群 \(e^{tA}\) :發展方程的解算子。
  • 預解式 \((sI - A)^{-1}\) :譜的編碼器。
  • Pontryagin 對偶: \(G \leftrightarrow \hat G\) ;四象限的群論地圖。
  • Sobolev 空間 \(H^m\) :譜加權光滑度。
  • RKHS:再生核空間;核方法與 SVM。
  • Karhunen–Loève 展開:隨機過程的特徵分解。
  • von Neumann 代數:可觀測量代數;非交換幾何的語言。
  • Gelfand 三元組: \(\mathcal{D} \subset H \subset \mathcal{D}'\) 。

年表速查(本節涉及的關鍵年份)#

  • 1904–10:Hilbert 積分方程理論(空間的史前史)。
  • 1906: \(\ell^2\) 的研究(Hellinger–Toeplitz)。
  • 1907:Fischer–Riesz 完備性定理( \(L^2 \cong \ell^2\) )。
  • 1909:Mercer 定理(核的譜分解)。
  • 1927:von Neumann 的算子理論與量子公理化起步。
  • 1930:Stone–von Neumann 定理(Heisenberg 群唯一性)。
  • 1932:von Neumann《量子力學的數學基礎》。
  • 1934:Pontryagin 對偶。
  • 1943:Gelfand–Naimark( \(C^*\) 代數)。
  • 1949:Moyal 恆等式;隨機譜理論成熟。
  • 1950:Aronszajn RKHS。
  • 1980s:Connes 非交換幾何。
  • 1995:SVM(RKHS 的 ML 勝利)。
  • 2000s–:量子計算、張量網路——Hilbert 空間的計算世紀。

深化問答三則#

問:Hilbert 空間理論「取代」了傅立葉分析嗎? 答:包涵而不取代。具體傅立葉理論的精細結果(Dirichlet 核的 \(L^1\) 增長、Fejér 核的非負性、Gibbs 超調的 8.95%)無法從公理推出——它們是傅立葉基的特殊結構稅收。抽象理論提供框架與複用;具體理論提供深度與例外。「知道自己在哪個 Hilbert 空間、用什麼基」是抽象的好處,「知道這個基的核長什麼樣」是具體的深度——本書的寫法正是兩者的雙螺旋。

問:連續譜(如位置算子)「沒有特徵向量」,那正交展開還成立嗎? 答:成立但換了形式:離散譜的和 \(\sum\lambda_nP_n\) 換成積分 \(\int\lambda\,dE(\lambda)\) (譜測度);「展開」變成積分表示(如 \(f(x) = \frac{1}{2\pi}\int\hat f(\omega)e^{i\omega x}d\omega\) ——傅立葉反演就是連續譜的展開)。δ 型的「廣義特徵向量」住在 \(\mathcal{D}'\) (5.2 節 Gelfand 三元組)——分配理論正是為了讓連續譜也能「看得見特徵向量」而生的語言。第 5 章與本章互為表裡。

問:學完本書,讀者的下一步應該攻什麼? 答:三條路線(按興趣):(1)調和分析正統:Stein–Shakarchi《Fourier Analysis》→ Stein《Singular Integrals》《Harmonic Analysis》——微局部與多尺度理論的巔峰;(2)應用譜理論:Mallat《A Wavelet Tour》→ Mallat–Bruna 的散射變換(scattering transform,2012——CNN 的數學化身);(3)量子與計算:Nielsen–Chuang《Quantum Computation》→ QFT 數學(Glimm–Jaffe)。本書的每一章都是這三條路線的站台——傅立葉的旅程從 1807 年的熱桿開始,至今仍是進行時(10.2、10.3 節收尾)。

(本節完)