6.1 Nyquist–Shannon 取樣定理#
本章導言#
連續的聲音如何變成檔案裡的一串數字?答案的核心是 20 世紀資訊工程的奠基石:Nyquist–Shannon 取樣定理——只要訊號的頻譜被限制在 \(B\) 以內(帶限),以每秒 \(2B\) 次取樣就足以完整記錄整個連續訊號,且可用 sinc 插值完美重建。這條定理把「連續 vs. 離散」的鴻溝架起橋樑,使 CD(44.1 kHz)、電話(8 kHz)、數位影像成為可能。本節將證明定理、剖析混疊(aliasing)現象、追溯 1924–1949 年間 Nyquist、Gabor、Shannon 的接力史,並用第 5 章的 Dirac 梳語言揭示:取樣定理本質上是「頻譜的週期複製不重疊」這一句幾何陳述。
歷史接力:Nyquist(1924, 1928)→ Gabor(1946)→ Shannon(1949)#
Harry Nyquist(1889–1976),瑞典裔美國工程師,貝爾實驗室(Bell Labs)的電報與通信理論先驅。1924 年論文《影響電報速度的若干因素》與 1928 年續篇指出:每秒傳送 \(2W\) 個脈衝是頻寬 \(W\) 通道的極限——「兩倍頻寬」的經驗規則從電報工程中誕生。Nyquist 還在 1932 年給出回授系統穩定性的 Nyquist 判據(控制理論經典)。但 Nyquist 沒有給出重建公式——他知道需要 \(2B\) ,但沒有證明 \(2B\) 就夠。
Dennis Gabor(1900–1979)(後以全像術獲 1971 諾貝爾物理獎)在 1946 年《通信理論》中引入「Gabor 元」(時頻原子)並討論取樣密度,提出「每秒每赫茲兩個自由度」的直觀(與 8.2 節時頻分析直接相連)。Claude Shannon(1916–2001) 在 1948 年《通信的數學理論》(資訊論誕生論文)與 1949 年的專文中正式陳述並證明取樣定理,並給出 sinc 重建公式,同時把它嵌入頻寬–雜訊–容量的資訊論框架。蘇聯的 V. A. Kotelnikov(1933) 與英國的 E. T. Whittaker(1915,內插級數理論) 與 J. M. Whittaker(1935) 也獨立建立過相應理論——取樣定理是又一個「多人撞見」的定理,Shannon 的冠名得益於資訊論的巨大影響力(他本人曾公正指出 Nyquist 的先驅地位)。
定理陳述與證明#
定理(Nyquist–Shannon–Whittaker–Kotelnikov):設 \(f \in L^2(\mathbb{R})\) 帶限: \(\hat f(\omega) = 0\) 當 \(|\omega| \ge \pi/T\) (即最高頻低於奈氏頻率 \(\frac{1}{2T}\) ,取樣週期 \(T\) )。則 \(f\) 由取樣值 \(\{f(nT)\}_{n\in\mathbb{Z}}\) 完全決定,且重建公式(Whittaker–Shannon 插值):
取樣率條件: \(f_s = \frac{1}{T} > 2B\) ( \(B\) = 最高頻率,赫茲制)——奈奎斯特率。
證明(Dirac 梳路線):取樣訊號 \(f_s(t) = f(t)\cdot\text{III}_T(t) = \sum_n f(nT)\,\delta(t - nT)\) (分配意義)。由 5.3 節乘法定理與梳的自對偶:
取樣使頻譜成為週期複製(間距 \(\frac{2\pi}{T}\) )!若原譜支撐在 \([-\frac{\pi}{T}, \frac{\pi}{T}]\) (帶限條件),各複製份互不重疊——中間有「保護帶」。於是可以用矩形窗 \(\chi_{[-\pi/T, \pi/T]}(\omega)\) 挖出 \(k = 0\) 份,恢復原譜: \(\hat f = T\,\widehat{f_s}\cdot\chi_{[-\pi/T,\pi/T]}\) 。反變換(捲積定理反向:頻域乘矩形 = 時域與 sinc 捲積):
代入 \(f_s\) 的 δ 表示即得 sinc 插值公式。 \(\blacksquare\)
兩個深層註解:(1)sinc 核 = 理想低通濾波器的衝擊響應(4.3 節)——重建器就是帶通 \([-\frac{\pi}{T},\frac{\pi}{T}]\) 的低通;(2)sinc 的 \(\frac{1}{t}\) 慢尾巴意味著每一個取樣值影響整條時間軸——帶限訊號是整體解析的(4.1 節場景四),完美重建的代價是零局部性。
混疊:當取樣率不夠#
若 \(\hat f\) 支撐超出 \([-\frac{\pi}{T}, \frac{\pi}{T}]\) ,複製份重疊——高頻成分「偽裝」成低頻:頻率 \(\omega\) 與 \(\omega - \frac{2\pi}{T}\) 在取樣序列 \(\{f(nT)\}\) 中不可區分(因 \(e^{i(\omega - 2\pi k/T)nT} = e^{i\omega nT}e^{-i2\pi kn} = e^{i\omega nT}\) ——離散指數對頻率以 \(\frac{2\pi}{T}\) 為週期!)。這就是混疊(aliasing)。
經典示範:車輪在影片中「倒轉」——24 fps 攝影機對輻條取樣,旋轉頻率超過 12 Hz 的部分摺疊成低頻「倒轉」。音訊的對策:抗混疊濾波器(anti-aliasing filter)在取樣前先低通到 \(\frac{f_s}{2}\) ——先濾後採是數位系統的鐵律。CD 標準 44.1 kHz 的來由:人耳上限 ~20 kHz,取 44.1 給抗混疊濾波器留 2 kHz 過渡帶( \(\frac{44.1}{2} - 20 = 2.05\) ),使早期類比濾波器可實現(4.3 節的折衷思想)。
一個具體例題#
例題 6.1.1:訊號 \(f(t) = \sin(2\pi\cdot 5t) + 0.5\cos(2\pi\cdot 12t)\) (5 Hz 與 12 Hz 兩個成分)。(1)確定奈氏率與適當取樣週期;(2)以 \(f_s = 10\) Hz 取樣,指出 12 Hz 成分混疊到哪個頻率,寫出取樣序列的「假象訊號」;(3)以 \(f_s = 30\) Hz 取樣驗證完美重建的可能性。
解:
(1)最高頻 \(B = 12\) Hz,奈氏率 \(2B = 24\) Hz。取 \(f_s = 30\) Hz( \(T = \frac{1}{30}\) s)安全。
(2) \(f_s = 10\) Hz 時,取樣序列 \(f(n/10) = \sin(\pi n) + 0.5\cos(2.4\pi n)\) 。第一項 \(\sin(\pi n) \equiv 0\) ——5 Hz 訊號在 10 Hz 取樣下被完全消滅(每半週期取樣,恰踩零點——取樣與訊號共振的最壞情況)!第二項 \(\cos(2.4\pi n)\) :頻率摺疊 \(12 \to 12 - 10 = 2\) Hz。取樣序列等價於 \(g(t) = 0.5\cos(2\pi\cdot 2t)\) ——聽起來是 2 Hz 的低音,而真實訊號是 12 Hz。混疊使高頻偽裝成低頻,且取樣值完全無法告知真相(10 Hz 情況下 5 Hz 成分甚至無聲消失)。
(3) \(f_s = 30\) Hz > 24 Hz:頻譜複製份間距 30 Hz,原譜支撐 \([-12, 12]\) ,複製份不重疊(保護帶 \(15 - 12 = 3\) Hz)。sinc 插值(截止 15 Hz)完美重建兩個成分。數值檢查: \(f(n/30) = \sin(\frac{\pi n}{3}) + 0.5\cos(0.8\pi n)\) ,序列非退化且無摺疊。這個例子的教訓:取樣率不足時,數據會「說謊」且無法偵測——唯一防禦是取樣前知曉/限制訊號頻寬(帶限假設是定理的靈魂)。
歷史啟示#
- 從經驗規則到定理:Nyquist 1928 的「 \(2W\) 個脈衝」是工程經驗,Shannon 1949 把它變成帶等式與重建公式的定理。工程直觀 + 數學證明 = 可靠的產業標準(CD 的 44.1 kHz 到今日的 5G,皆立於此)。
- 「帶限」假設的隱蔽力量:定理不說「任何訊號都能取樣」,只說「帶限訊號可以」。假設不是限制而是分工:工程用抗混疊濾波把現實訊號強制帶限,再享受定理紅利。理論的純潔性由工程的前處理購買。
- 零局部性的代價:完美重建需無限長 sinc 尾巴——資訊完整與因果局部互斥。實務的有限長窗(FIR 插值、加窗 sinc)是「完美」與「可實現」的妥協,Gibbs 振鈴(2.3)如影隨形。
與其他章節及領域的關聯#
- 5.3 節:Dirac 梳與其自對偶譜——本節證明的全部技術。
- 4.3 節:重建低通濾波器、抗混疊濾波的設計原則。
- 2.3 節:重建器的 Gibbs 振鈴(有限項截斷時)。
- 6.2 節:DFT 是有限取樣的頻譜分析;混疊在離散域的表現。
- 6.3 節:FFT 使取樣-變換-處理-重建的閉環在計算上可行。
- 7.1 節:離散時間 LTI 系統與數位濾波(Z 域)。
- 8.1 節:「帶限 ⇒ 解析 ⇒ 零局部」的時頻互斥底層。
- 10.2 節:壓縮感知——突破奈氏率(對稀疏訊號)的 2006 年革命。
- 醫學成像:MRI 的 k-space 取樣正是本節定理的直接應用(k-space 不足 → 摺疊偽影)。
練習#
- 訊號 \(f(t) = \mathrm{sinc}^2(\pi t)\) ( \(=\left(\frac{\sin\pi t}{\pi t}\right)^2\) )求其譜(三角形!用捲積定理:矩形 ⊛ 矩形),確定其帶寬與奈氏率,寫出以 \(T = 1\) 取樣的重建公式。
- 以 \(f_s = 100\) Hz 取樣下列訊號,指出各成分是否混疊、混疊到何頻率: \(f(t) = \sin(2\pi\cdot 40t) + \sin(2\pi\cdot 60t) + \sin(2\pi\cdot 160t)\) (提示:摺疊公式 \(\omega_{alias} = |\omega - k f_s|\) 取最靠近 0 者; \(60 \to 40\) 、 \(160 \to 40\) ——注意 \(160\) Hz 混疊到 40 Hz 與真實 40 Hz 成分無法區分)。
- 證明帶限訊號的能量等式: \(\int|f|^2 dt = T\sum_n |f(nT)|^2\) (Parseval 的取樣版;帶限條件使譜複製份不重疊, \(L^2\) 能量守恆推得)。取樣值序列的能量 = 連續訊號能量——數位化不丟能量。
- 零階保持(Zero-Order Hold):實際 DAC 用階梯 \(\sum f(nT)\,\chi_{[0,T]}(t - nT)\) 而非理想 δ。求其等效濾波器(ZOH 的譜 = \(T\,\mathrm{sinc}(\omega T/2)e^{-i\omega T/2}\) ),說明它帶來的幅值失真( \(\mathrm{sinc}\) 下降)與相位延遲,以及「補償濾波」的必要性。
- 思考題:以 \(f_s\) 均勻取樣在理論上完美,但實務上「非均勻取樣」也常發生(抖動 jitter、感測器故障)。查閱「非均勻取樣定理」(Landau 1967:取樣密度 \(\ge\) 帶寬密度即可,位置可以亂但密度是下限),並思考:Landau 密度下限是奈氏率的推廣——這如何預示了 10.2 節壓縮感知「少量隨機取樣」的思想?
進階研讀:取樣理論的五個深化場景#
場景一:帶通取樣。訊號帶限在 \([f_1, f_2]\) (如 FM 電台 88–108 MHz)不必取樣到 \(2f_2\) :帶通取樣定理允許 \(f_s \ge 2(f_2 - f_1)\) (配合合適的取樣相位,使頻譜複製份剛好填滿空隙)——SDR(軟體無線電)直接射頻取樣的理論根據。奈氏率由帶寬而非最高頻決定——節省的倍率正是頻譜的「空洞率」。
場景二:多維取樣與掃描順序。影像(2D)取樣率的混疊是方向性的:Moiré 紋(紗窗、螢幕拍攝)是 2D 混疊。矩形柵格不是最密取樣:六角柵格在圓形頻譜下省 13.4% 取樣數;人眼視覺皮層的六角感光拓撲與之暗合(生物取樣的經濟性)。多維取樣理論(Petersen–Middleton 1962)是本節的幾何擴張。
場景三:抖動與量化。取樣(時間離散)之外還有量化(幅值離散): \(b\) 位元量化噪聲的 SNR \(\approx 6b + 1.76\) dB。抖動(dither)技術:故意加入微小雜訊,使量化誤差從「與訊號相關的失真」變成「與訊號無關的底噪」——用雜訊換取無失真,是資訊論「隨機化優於確定性」的微型範例。Dither 的數學(Schuchman 條件 1964)是特徵函數計算(4.3 節機率插播的直接應用)。
場景四:過取樣與噪聲整形。過取樣(oversampling, \(f_s \gg 2B\) )配合雜訊整形(noise shaping,ΔΣ 調變):把量化噪聲推向高頻、再用數位低通砍掉——1 位元 DAC(ΔΣ)以 64 倍過取樣實現 16 位元精度。SACD 音訊格式即 ΔΣ。時間與幅值的解析度可以互換——又一次時頻/時幅交換的工程勝利(測不準思想的離散化身)。
場景五:有限速率下的取樣——資訊論視角。Shannon 容量 \(C = W\log_2(1 + \mathrm{SNR})\) :帶寬 \(W\) 、信噪比給定時的極限位元率。取樣定理回答「要幾個樣本」,容量公式回答「每樣本幾位元」——兩者相乘才是完整的數位化預算。10.2 節壓縮感知將追加第三個維度:若訊號在變換域稀疏,樣本數還能低於奈氏率(但需非線性重建)。三定理合觀,就是「數位時代的三根柱子」。
補充:44.1 kHz 與 8 kHz 的歷史巧合#
CD 的 44.1 kHz 來自 1980 年 Sony–Philips 的妥協:利用當時專業視訊錄影機作音訊儲存(PCM 轉接器),PAL 視訊每行 3 樣本 × 588 行 × 25 幀 = 44100。音訊工業標準竟由視訊設備的行頻決定——工程標準的「路徑依賴」最佳範例。電話的 8 kHz 則來自 Bell 系統:語音 300–3400 Hz + 300 Hz 保護帶 → 8 kHz 通道(DS0),整個電信數位階層(T1 = 24 通道)由此築起。兩個「任意」數字統治了全球音訊與電信半世紀——標準一旦鋪設,數學只能在其內發揮。
名詞速查表(本節出現的核心術語)#
- 帶限訊號: \(\hat f\) 支撐有限;取樣定理的適用前提。
- 奈氏率: \(f_s > 2B\) ;完美重建的最低取樣率。
- Whittaker–Shannon 插值:sinc 加權取樣和;完美重建公式。
- 混疊:取樣不足使頻率摺疊偽裝;不可事後偵測。
- 抗混疊濾波:取樣前低通;「先濾後採」鐵律。
- Dirac 梳取樣: \(f\cdot\text{III}_T\) ;頻譜週期複製的機械。
- 帶通取樣:以帶寬(非最高頻)定取樣率。
- 過取樣 / ΔΣ:以時間解析度換幅值精度。
- 抖動 dither:隨機化量化誤差。
- Shannon 容量: \(W\log_2(1+\mathrm{SNR})\) ;速率極限。
- Landau 密度下限:非均勻取樣的必要密度。
年表速查(本節涉及的關鍵年份)#
- 1915:E. T. Whittaker 內插級數理論(sinc 展開的數學前身)。
- 1924 / 1928:Nyquist 電報速度論文( \(2W\) 規則)。
- 1933:Kotelnikov(蘇聯)取樣定理。
- 1935:J. M. Whittaker 重建理論。
- 1946:Gabor《通信理論》。
- 1948:Shannon《通信的數學理論》(資訊論誕生)。
- 1949:Shannon 取樣定理的正式證明。
- 1962:Petersen–Middleton 多維取樣。
- 1967:Landau 非均勻取樣密度下限。
- 1960s–1980s:ΔΣ 調變理論與實用化。
- 1982:CD 問世(44.1 kHz / 16 bit)。
深化問答三則#
問:為什麼取樣定理如此「精確」——不多不少剛好 \(2B\) ? 答:因為它是資訊守恆的等式:帶限訊號每秒的自由度(數學上:帶限函數空間每秒的正交維數)恰好 \(2B\) (Landau 密度定理給出上界與下界的統一)。取樣少於 \(2B\) 必丟資訊(下界違反),等於 \(2B\) 剛好可逆(臨界取樣),多於則有冗餘(可用於降噪與容錯)。定理的精確性來自「自由度計數」的幾何。
問:CD 的 44.1 kHz 是否「科學證明」了人耳聽不出更高取樣率? 答:定理只保證 20 kHz 帶限內完美——它不回答「人耳是否感知超聲成分」。高解析音訊(96/192 kHz)的辯論本質是心理聲學問題(超聲互調、暫態假說)。數學定理界定表示的完備性;感知的完備性需要另一門科學。混淆兩者,是科普常見的謬誤。
問:取樣定理與「數位化」的哲學關係? 答:它證明了連續世界可以在離散語言中無損表示——這是「模擬 vs. 數位」之爭的數學裁決書。但注意前提:帶限 + 完美 sinc + 無限精度幅值。現實中三者皆近似,因此數位化是「可控的有損」而非「絕對的無損」——數位優勢的真正來源是「誤差可管理、複製不漂移」,不是「零誤差」。
(本節完)