跳轉到

10.2 訊號處理與算子理論#

本章導言#

Fourier 變換是酉算子（3.3 節）；平移算子生成酉群（9.1 節）；捲積算子在頻域是乘法（6.3 節）。訊號處理的每個基本操作——濾波、採樣、壓縮、預測——都是這些算子理論的直接應用。本節沿「平移不變系統→濾波器→採樣定理→小波與稀疏」的路線，展示算子理論如何成為數位世界的數學地基；同時回望 Wiener 1949 年的預測理論如何用 Wold 分解與 Hilbert 空間幾何解決工程問題。

LTI 系統=平移不變算子#

線性時不變（LTI）系統 \(T\) 滿足：線性（2.1 節）+平移不變（ \(TS = ST\) ， \(S\) =平移算子）。基本分類定理（卷積理論）：

\[ T \text{ 平移不變且有界} \implies Tf = h * f \ (\text{某些意義下})，\quad \widehat{Tf} = \hat h \cdot \hat f. \]

在 \(L^2(\mathbb{R})\) 上： \(T = \mathcal{F}^{-1}M_m\mathcal{F}\) （ \(m = \hat h\) ）——LTI 系統=乘法算子經 Fourier 共軛（6.3 節譜定理的工程化身）。 \(m\) 是頻率響應， \(|m|\) 是增益、 \(\arg m\) 是相位。濾波器設計=選 \(m\) （低通： \(\mathbf{1}_{|\xi| < B}\) ；帶通：頻窗）。

因果性： \(h\) 支撐在 \(t \ge 0\) （不預知未來）。因果 LTI 的算子刻畫： \(T\) 保持在 \(t \le 0\) 的子空間不變——半群的不變子空間（9.1 節）；Nevanlinna–Pick 理論與 H∞ 控制（1980s）用 Hardy 空間 \(H^\infty\) （解析函數）刻畫因果系統的增益極限——因果+穩定 \(\iff\) \(H^\infty\) 函數（Nehari 定理 1957 的工程化）。

採樣定理與帶限空間#

Shannon–Whittaker–Kotelnikov 採樣定理（1949）：帶限訊號 \(f\) （ \(\hat f\) 支撐在 \([-B, B]\) ）由樣本 \(f(n/2B)\) 完全決定：

\[ f(x) = \sum_{n \in \mathbb{Z}} f\!\left(\frac{n}{2B}\right) \operatorname{sinc}\big(2Bx - n\big). \]

算子觀點：帶限函數空間 \(PW_B = \{f \in L^2 : \operatorname{supp}\hat f \subset [-B, B]\}\) 是 \(L^2\) 的閉子空間（投影 \(P_B = \mathcal{F}^{-1}M_{\mathbf{1}_{[-B,B]}}\mathcal{F}\) ，3.3 節投影+6.3 節譜投影）。採樣映射 \(f \mapsto \{f(n/2B)\}\) 是 \(PW_B \to l^2\) 的酉同構（Shannon 基 \(\{\operatorname{sinc}(2Bx - n)\}\) 是 \(PW_B\) 的正交基）。混疊（aliasing）=欠採樣時採樣映射非單射（頻譜折疊）——「Nyquist 頻率」=投影子空間與採樣格的相容性。

更深的算子理論：非均勻採樣、有限速率創新（Landau 1967 密度定理：採樣密度 \(\ge 2B\) 的 Landau 必要條件）、以及有限維矩陣的帶限理論——採樣=「從連續空間到格點的酉/框架映射」，框架理論（Duffin–Schaeffer 1952）是 Riesz 基（3.3）的放寬版本，今日壓縮感知的數學祖先。

例題#

例題 10.2.1：證明理想低通濾波器 \(T = P_B\) （乘 \(\mathbf{1}_{[-B,B]}\) 後逆變換）的核是 \(\operatorname{sinc}\) 函數，且 \(T\) 是投影算子（ \(T^2 = T = T^\dagger\) ）、非因果。

解： \(T = \mathcal{F}^{-1}M_{\mathbf{1}_{[-B,B]}}\mathcal{F}\) ，核 \(h(x) = \mathcal{F}^{-1}\mathbf{1}_{[-B,B]}(x) = \frac{\sin(2\pi Bx)}{\pi x} = 2B\operatorname{sinc}(2Bx)\) 。投影性： \(M_{\mathbf{1}}^2 = M_{\mathbf{1}}\) 、自伴⇒ \(T^2 = T = T^\dagger\) 。非因果： \(h(x) \neq 0\) 對 \(x < 0\) （sinc 是偶函數）——理想濾波不可實現（需要未來數據）。工程妥協：因果逼近（Butterworth、Chebyshev 濾波器，有理函數 \(m\) ）——逼近論（連續演算 8.2 的 \(\|f - g\|\) 收斂）成為濾波器設計的數學。∎

例題 10.2.2（Wold 分解的訊號版）：平穩隨機過程 \(\{X_t\}\) 的預測問題：已知過去 \(\{X_s : s \le 0\}\) ，預測 \(X_T\) 。用 Wold 分解（3.3 場景二）證明：預測誤差由「奇異成分」決定，並解釋白噪聲的不可預測性。

解：把過去視為閉子空間 \(M = \overline{\operatorname{span}}\{X_s : s \le 0\} \subset L^2(\Omega)\) ，最佳預測=正交投影 \(P_MX_T\) （3.3 節最佳逼近！）。平穩性給出時間酉半群 \(U(t)\) （ \(U(t)X_s = X_{s+t}\) ）， \(M\) 是不變子空間。Wold 分解：過程=奇異（完全可預測， \(M\) 含全部未來）+正則（白噪聲的滑動和，新息過程）。預測誤差方差=新興方差 \(\sigma^2\) （譜密度 \(\Phi\) 的 \(\int\log\Phi = -\infty\) 條件，Kolmogorov–Wiener 1941）。預測=投影，譜密度=譜測度——時間序列分析完全是算子理論（3.3+6.3）的方言。∎

小波、時頻與稀疏#

  • Gabor 變換（1946）：時間-頻率的聯合分析；Balian–Low 定理（1981）：Gabor 框架不能同時時頻局部化良好——不確定性原理的框架版（CCR 的陰影，10.1）；
  • 小波（Meyer 1985、Daubechies 1988）： \(\psi_{a,b}(x) = a^{-1/2}\psi(\frac{x - b}{a})\) 的仿射系統；多分辨分析=Mallat 1989 的濾波器組——仿射酉表示（仿射群的系統理論，與 Mackey 系統理論 10.1 場景二同構）；
  • 壓縮感知（Candès–Romberg–Tao、Donoho 2006）：稀疏訊號的欠定線性系統 \(y = \Phi x\) 可恢復，條件是 \(\Phi\) 滿足限制等距性（RIP）——隨機矩陣的奇異值集中（8.3 場景三的 RMT 極限理論的應用）；「稀疏子空間上的投影理論」。

歷史啟示#

  • Wiener 的雙重遺產：Tauber 定理（8.1）與預測理論（本節）都源於工程需求（防空火控 1940s），數學基礎都是 Hilbert 空間幾何——「工程問題→算子理論」是 20 世紀的標準管線。
  • 採樣定理的三重誕生：Kotelnikov（1933，蘇聯）、Whittaker（1915/1929，數學）、Shannon（1949，通訊）——獨立發現反映時機成熟：譜理論+正交基的語言已普及。
  • 從正交基到框架到字典：理論的演進「酉基（Fourier）→冗餘框架（Gabor、小波）→自適應字典（matching pursuit）」對應算子理論從「正規算子對角化」到「非正規與稀疏恢復」的擴張——非正規算子理論（4.1 場景二、6.3 深化三）的工程回報。

與其他章節及領域的關聯#

  • 2.1–2.3 節：有界算子、範數（增益）、對偶（採樣的泛函形式）。
  • 3.3 節：Fourier 酉算子、投影（濾波）、Wold 分解（預測）。
  • 6.3 節：乘法算子與譜投影=LTI 濾波。
  • 9.1 節：平移半群與因果系統；9.2 節離散時間的推移半群（H∞ 控制的 \(H^2\) 理論）。
  • 10.1 節：時頻不確定性=CCR 的分析學版本。
  • 姊妹卷（複變函數）：Z 變換與 Hardy 空間；Nevanlinna–Pick 插值=控制器的存在性。
  • 數值分析：FFT（Cooley–Tukey 1965）=Fourier 酉算子的快速實現；譜方法（PDE 的特徵基離散，5.2 節）。

練習#

  1. 證明 sinc 基的正交性： \(\int \operatorname{sinc}(x - m)\operatorname{sinc}(x - n)dx = \delta_{mn}\) （Parseval+示性函數的平移）。
  2. 對有限長訊號（循環卷積）：把 DFT 寫成酉矩陣 \(\frac{1}{\sqrt N}(\omega^{jk})\) ，驗證其正規性與特徵值（ \(\pm1, \pm i\) 的分配）。
  3. 混疊的算子論：欠採樣映射 \(f \mapsto \{f(nT)\}\) （ \(T > 1/2B\) ）何時單射？何時有非平凡核（混疊子空間）？
  4. 證明 Wiener 濾波器：從 \(X + N\) （訊號+噪聲，譜密度已知）恢復 \(X\) 的最佳線性濾波是 \(m(\xi) = \frac{\Phi_X}{\Phi_X + \Phi_N}\) ——譜域的除法（乘法算子的演算，6.3）。
  5. 思考題：為什麼「時頻同時超局部化」不可能（Balian–Low）？把 Gabor 原子 \(e^{2\pi ibx}g(x - a)\) 的完備性與 CCR 的表示論連接。

進階研讀：三個深化場景#

場景一：H∞ 控制與算子逼近。控制系統的「最壞增益」最小化（Zames 1981）化為 Nehari 問題：Hankel 算子 \(\Gamma\) （ \(L^2\) 上的算子，矩陣為 \(\{a_{j+k}\}\) ）的範數最小化；Adamjan–Arov–Krein（1968）定理： \(\operatorname{dist}(f, H^\infty) = s_1(\Gamma)\) （最大奇異值！）——Hankel 算子的奇異值=模型約簡的誤差（6.2 節 Schatten 理論的工程回報）。

場景二：Frames 與相空間量子化。Frame 條件 \(A\|f\|^2 \le \sum|\langle f, \varphi_n\rangle|^2 \le B\|f\|^2\) 是「冗餘正交基」的穩定性；小波框架與仿射系統理論（Daubechies 1992《Ten Lectures》）——表示論（可積系統、Stone–von Neumann 定理的仿射版）在訊號的系統實現：量子力學的數學結構（酉表示、相干態）成為訊號字典。

場景三：機器學習的算子面。核方法（RKHS，3.1 場景三）、譜聚類（圖 Laplacian 的譜分解）、注意力機制的 softmax 核與低秩近似（隨機特徵、Nyström 法=Eckart–Young 的應用 6.1 場景二）、神經算子（Li et al. 2021：學習算子而非函數，半群/譜分解的參數化）——算子理論正在成為學習理論的新語言，回到本書第 1 章的起點：把「變換的規則」當作一級對象。

場景四：感測器陣列與算子束。多通道訊號（麥克風陣列、MIMO 天線）的空間濾波：協方差矩陣的特徵分解（MUSIC 演算法 1986）把「訊號子空間」與「噪聲子空間」分離——譜投影（6.3 節）的工程化。更一般地，「算子束」 \(\Phi(z) = zA_1 + A_0\) 的極點=廣義特徵值問題（振動模式的阻尼頻率），其指標與 Kronecker 結構（Gantmacher 1959）控制系統的極點配置理論（Kalman 1960）——第 4 章的譜結構經由算子束成為控制工程的日常語言。結構化奇異值 \(\mu\) （Packard–Doyle 1993）把 4.1 節的偽譜思想推廣到多迴路系統的穩健性分析。

本節對照表#

訊號概念 算子理論概念
LTI 系統 與平移交換的算子=頻域乘法
頻率響應 乘子 \(m\) ； $|T| = \operatorname*{ess\,sup}
濾波 譜投影 \(P_B\) （乘 \(\mathbf{1}_{[-B,B]}\) ）
採樣定理 帶限子空間的 sinc 正交基（酉座標化）
混疊 採樣映射的核（非單射）
最佳預測 向過去子空間的正交投影（Wold 分解）
Wiener 濾波 譜域乘法演算的增益函數
時頻分析 酉表示（Weyl/仿射群）與框架
壓縮感知 稀疏子空間的投影幾何+隨機矩陣

名詞速查表#

  • LTI 系統：平移不變線性算子=頻域乘法（Fourier 對角化）。
  • 頻率響應 \(m\) ：乘法算子的乘子； \(\|T\| = \operatorname*{ess\,sup}|m|\) 。
  • 採樣定理：帶限空間 \(PW_B\) 的 sinc 正交基；Nyquist 條件。
  • Wold 分解：平穩過程=奇異+正則；預測=投影。
  • Wiener 濾波：譜域的 Wiener 增益 \(\Phi_X/(\Phi_X + \Phi_N)\) 。
  • 小波：仿射系統的多分辨分析；Daubechies 緊支撐小波。
  • 壓縮感知：RIP 條件下的稀疏恢復；隨機矩陣理論的應用。

年表速查#

  • 1915–1933：Whittaker、Kotelnikov 採樣理論先驅。
  • 1941：Kolmogorov–Wiener 預測理論。
  • 1946：Gabor 變換。
  • 1949：Shannon《通訊的數學理論》；採樣定理普及。
  • 1952：Duffin–Schaeffer 框架理論。
  • 1957：Nehari 定理。
  • 1965：FFT。
  • 1968：AAK 定理（Hankel 奇異值）。
  • 1985–1989：Meyer 小波、Mallat 多分辨分析；Daubechies 1988。
  • 2006：壓縮感知。

深化問答三則#

問：為什麼 LTI 系統在工程中無所不在？ 答：因為「時不變」是大多數物理介質的近似（電路、傳輸線、光學介質在固定參數下），而「線性」是工作點附近的第一階近似。數學上：LTI=可同時對角化（平移群的酉表示的 Fourier 對角化）⇒設計與分析降到「標量函數 \(m(\xi)\) 的設計」——可交換性=可對角化=工程可操作性（8.1 節「交換性=函數性」的工程版）。

問：採樣定理與譜投影的關係是什麼？ 答：採樣定理說： \(PW_B\) （ \(P_B\) 的值域）有「離散正交基」（sinc 平移系）。換言之，從 \(P_B\) 的譜子空間到 \(l^2\) 的映射是酉的。這是 6.3 節譜投影 \(E_{[-B,B]}\) 的「座標化」：連續譜的子空間獲得離散座標。數位化=「連續譜子空間的離散座標化」——採樣定理是譜定理的通訊工程翻譯。

問：壓縮感知為什麼「跳出了 Nyquist」？ 答：Nyquist 條件是對一般帶限訊號的；若訊號在已知基下稀疏（少數係數非零），恢復只需 \(O(k\log N)\) 次測量。數學上：欠定系統 \(y = \Phi x\) 在稀疏約束下的唯一解（ \(\ell^1\) 最小化）——RIP 條件保證 \(\ell^1\) 與 \(\ell^0\) 等價。算子理論的角色： \(\Phi\) 的奇異值集中性（隨機矩陣）與稀疏子空間的投影幾何（3.3 節投影理論的高維推廣）。稀疏性+隨機性戰勝採樣密度——線性代數直覺（奈奎斯特）讓位於高維幾何。

（本節完）