4.2 高斯通道與頻寬#

導言：工程師最常引用的一條公式#

\[ C = W \log_2\!\left(1 + \frac{P}{N}\right) \text{ bits/s} \]

這條 Shannon–Hartley 公式（Shannon 1948，Hartley 1928 的率觀念為前身）出現在手機規格書、Wi-Fi 晶片資料表與衛星鏈路預算表中。它回答：帶寬 \(W\) Hz、訊號功率 \(P\) 、雜訊功率 \(N\) 的通道，每秒最多能零錯誤地傳多少位元。本節推導它、拆解它、並看它如何支配通訊工程的每個決策。

從離散到連續：兩步走#

第一步：取樣把頻寬變成自由度#

8.1 節（取樣定理，1.2 節）說：帶限 \(W\) 的訊號每秒有 \(2W\) 個自由度。於是「每秒容量」= 「每樣本容量」× \(2W\) 。

第二步：高斯樣本的互資訊#

AWGN 通道的離散時間模型（每個樣本）：

\[ Y = X + Z, \qquad Z \sim \mathcal{N}(0, \sigma^2), \quad X \text{ 與 } Z \text{ 獨立} \]

功率約束 \(E[X^2] \le P\) 。連續變數的互資訊（3.3 節，微分熵形式）：

\[ I(X;Y) = h(Y) - h(Y \mid X) = h(Y) - h(Z) \]

因為 \(Y = X + Z\) 給定 \(X\) 時 \(Y\) 的不確定性就是雜訊熵 \(h(Z) = \frac12 \log_2(2\pi e \sigma^2)\) 。

關鍵一步：給定方差 \(P + \sigma^2\) ， \(h(Y)\) 的最大值是高斯熵（3.1 節最大熵原理）：

\[ h(Y) \le \frac12 \log_2\big(2\pi e (P + \sigma^2)\big) \]

且等號在 \(X\) 為高斯 \(\mathcal{N}(0, P)\) 時成立。因此

\[ I_{\max} = \frac12 \log_2\!\left(1 + \frac{P}{\sigma^2}\right) \text{ bits/樣本} \]

最佳輸入是高斯的——高斯輸入 + 高斯雜訊 = 高斯輸出，把可用熵推到極大。乘上 \(2W\) 個樣本/秒：

\[ C = 2W \cdot \frac12 \log_2\!\left(1 + \frac{P}{\sigma^2}\right) = W \log_2\!\left(1 + \frac{P}{N}\right) \]

其中 \(N = \sigma^2\) 是總帶內雜訊功率。

功率譜密度與雜訊功率#

熱雜訊的功率譜密度（Johnson–Nyquist 雜訊，1928 同一年！）：

\[ N_0 = kT \quad (\text{W/Hz，單邊}) \]

其中 \(k\) 是 Boltzmann 常數、 \(T\) 是絕對溫度。頻寬 \(W\) 內的雜訊功率：

\[ N = N_0 W = kTW \]

室溫 \(T = 290\) K： \(N_0 \approx 4 \times 10^{-21}\) W/Hz \(= -204\) dBW/Hz \(= -174\) dBm/Hz。這個數字（ \(-174\) dBm/Hz）是射頻工程的常數座右銘。

訊雜比的兩種寫法：

\[ \text{SNR} = \frac{P}{N_0 W}, \qquad \frac{E_b}{N_0} = \frac{P \cdot T_b}{N_0} = \frac{P}{N_0 R} \]

後者以「每資訊位元的能量」為單位，是比較不同碼與調變的標準座標。

例題：鏈路預算的實戰計算#

例 1（撥接數據機）： \(W = 3000\) Hz、SNR = 30 dB（ \(P/N = 1000\) ）：

\[ C = 3000 \log_2(1001) \approx 3000 \times 9.967 = 29{,}900 \text{ bits/s} \]

33.6 kbps 數據機已逼近極限——1.3 節的預告在此兌現。

例 2（深空通訊）：航海家 1 號距地球 \(2.4 \times 10^{10}\) m，發射功率 20 W，天線增益高但路徑損耗巨大，接收功率約 \(10^{-16}\) W 級。頻寬極窄（每秒僅數百位元），靠 \(\frac{E_b}{N_0}\) 約 3 dB 以下工作 + 極強通道編碼（Reed–Solomon + 摻積碼串接，7.3 節）達成。深空是香農極限的極端測試場。

例 3（Wi-Fi 6）：20 MHz 通道、SNR 25 dB：

\[ C = 20 \times 10^6 \times \log_2(1 + 316) \approx 20 \times 10^6 \times 8.31 = 166 \text{ Mbps} \]

實際 Wi-Fi 在此條件下約 100–140 Mbps（含標頭與編碼損耗），距極限 20–40%——工程現實。

Shannon 公式的工程啟示#

啟示一：頻寬與功率可以互換#

\[ C = W \log_2(1 + \text{SNR}) \]

功率受限區（SNR 低）： \(C \approx W \cdot \text{SNR} \cdot \log_2 e\) ，容量與功率成正比——深空、衛星屬此。
頻寬受限區（SNR 高）： \(C \approx W \log_2 \text{SNR}\) ，容量只與功率對數相關——加 10 dB 功率才加倍容量；此時增加頻寬更有效——蜂窩網路屬此。

啟示二： \(-1.59\) dB 的香農極限#

把容量式改寫為 \(E_b/N_0\) 的函數，令 \(C \to 0\) （任意低速率），可得

\[ \left(\frac{E_b}{N_0}\right)_{\min} = \ln 2 \approx 0.693 \;\; \text{即} \; -1.59 \text{ dB} \]

任何系統的 \(E_b/N_0\) 低於 \(-1.59\) dB 就不可能可靠通訊，無論編碼多聰明。這個數是所有通訊系統的宇宙級下界。Turbo/LDPC 碼（第 10 章）實測距它僅 0.1–0.5 dB——人類花了 50 年把 Shannon gap 從 12 dB 壓到 0.5 dB。

例題：極限的計算#

速率 \(R\) 、頻寬 \(W\) ，譜效率 \(\rho = R/W\) ：

\[ \frac{E_b}{N_0} = \frac{2^{\rho} - 1}{\rho} \]

代入 \(\rho \to 0\) ： \(\frac{E_b}{N_0} \to \ln 2 = -1.59\) dB。代入 \(\rho = 2\) ： \(\frac{E_b/N_0} = 1.5\) （1.76 dB）。這條曲線（譜效率 vs \(E_b/N_0\) ）是所有調變編碼方案（MCS）在效能圖上要攀爬的「香農牆」。

頻譜效率與調變的連接#

\[ \rho = \frac{R}{W} = \log_2(1 + \text{SNR}) \text{ bits/s/Hz（極限）} \]

SNR	極限譜效率	實用調變（8.3 節）
0 dB	1.00	QPSK 約 1.8（帶碼率後約 0.9）
10 dB	3.46	16-QAM 約 2.7
20 dB	6.66	64-QAM 約 5.4
30 dB	9.97	256-QAM 約 7.2

高階 QAM 的星座點越密，越需高 SNR——調變選擇就是沿著香農牆選工作點（8.3 節）。

歷史前因後果#

誰、何時、為什麼#

1928 Nyquist：帶限與符號速率極限（1.2 節）。
1928 Hartley： \(H = \log_2 M\) 的率度量（1.2 節）。
1928 Johnson–Nyquist：熱雜訊的實驗與理論（ \(N_0 = kT\) ）。
1948 Shannon：合併兩者 + 高斯最大熵 → Shannon–Hartley 公式。
1949 Shannon：通信數學理論一書版，連續通道章節完整。
1993 Berrou et al.（Turbo 碼）：第一次實作逼近 \(-1.59\) dB 極限（10.1 節）。

解決了什麼問題#

數據機設計：給定電話線條件，能傳多快？答案直接命中 33.6/56 kbps 的工程極限。
頻譜規劃：頻寬是稀缺資源，公式量化了「用頻寬換功率」與「用功率換頻寬」的匯率。
系統評價標準：任何系統的效能圖都能對照香農牆定位好壞。

引發什麼新問題#

多天線：把 \(W\) 換成「空間自由度」？——MIMO 容量（Telatar, 1995–1998），容量隨天線數線性成長（10.3 節）。
多用戶：多個發射機共享功率與頻寬，容量域是區域而非數——多址接入通道、廣播通道（10.3 節）。
衰落通道：SNR 隨時間變，容量變成隨機變數——遍歷容量 vs 中斷容量的區分（10.3 節）。
有限碼長：接近極限需長碼 → 延遲；短封包（IoT）的極限理論仍活躍。

與其他領域的關聯#

傅立葉分析#

帶限、頻寬、功率譜密度全部是傅立葉概念； \(2W\) 自由度/秒直接來自取樣定理（8.1 節）。

統計力學#

最大熵原理選出高斯輸入； \(kT\) 中的 Boltzmann 常數提醒我們熱雜訊就是統計力學； \(-1.59\) dB 極限與 Landauer 極限（擦除 1 bit 耗 \(kT\ln 2\) ）遙相呼應——資訊處理的兩個 \(kT\ln 2\) （10.3 節）。

線性代數（MIMO 預告）#

MIMO 通道 \(\mathbf{y} = \mathbf{H}\mathbf{x} + \mathbf{z}\) 的容量由 \(\mathbf{H}\) 的奇異值分解給出： \(C = \sum_i \log_2(1 + \lambda_i P_i/N)\) ——奇異值分解從線性代數直接走進容量公式。

經濟學#

頻譜拍賣、漫遊定價、5G 的網路切片——頻寬的「匯率」由香農公式背書，頻譜經濟學是資訊理論的商業化身。

小結與思考題#

Shannon–Hartley 公式由「取樣定理 + 高斯最大熵」兩塊積木組成；它給出頻寬/功率的互換法則、 \(-1.59\) dB 的宇宙下界、以及譜效率的極限曲線。通訊工程的一切取捨都發生在這條公式畫出的座標系裡。

思考題

推導 \(\rho \to 0\) 時 \(E_b/N_0 \to \ln 2\) 。
SNR 提高兩倍，頻寬不變，容量增加多少？頻寬提高兩倍、SNR 不變，容量增加多少？（低 SNR 區與高 SNR 區的答案不同！）
計算 \(W = 1\) MHz、 \(N_0 = 10^{-20}\) W/Hz、 \(P = 10^{-9}\) W 的容量。
為什麼 5G 在高頻（毫米波）用大頻寬、而在低頻用高階調變？用功率受限 vs 頻寬受限區解釋。
高斯輸入在實務上如何近似？（提示：高階 QAM 星座在高 SNR 下近似高斯。）

下一節：容量定理的證明思想——隨機編碼、典型序列與 Fano 不等式的三重奏。

深入探討：Shannon–Hartley 公式的推廣與系統工程#

一、公式的完整推導鏈（逐步算清每個常數）#

4.2 節的推導跳過了一些常數，這裡給出無省略版本（單位對帳是工程常見錯源）：

實帶限 \([-W, W]\) 、取樣率 \(2W\) （8.1 節）。
雜訊：雙邊功率譜密度 \(\frac{N_0}{2}\) W/Hz，每樣本方差 \(N = \frac{N_0}{2} \times 2W = N_0 W\) 。
每樣本容量： \(\frac12 \log_2(1 + P/(N_0 W))\) 。
**乘以 \(2W\) **：

\[ C = 2W \cdot \frac12 \log_2\!\left(1 + \frac{P}{N_0 W}\right) = W \log_2\!\left(1 + \frac{P}{N_0 W}\right) \text{ bits/s} \]

單位檢查： \(P\) 與 \(N_0 W\) 同為瓦特，比值無量綱； \(W\) 給 bits/s。dB 換算：SNR(dB) = \(10\log_{10}(P/(N_0 W))\) 。

二、 \(E_b/N_0\) 與譜效率的完整曲線#

4.2 節給了兩個端點，這裡畫出完整函數表，因為它是所有鏈路設計的 lookup 表：

\[ \frac{E_b}{N_0} = \frac{2^{\rho} - 1}{\rho}, \qquad \rho = R/W \text{（bits/s/Hz）} \]

\(\rho\)	\(E_b/N_0\) （倍數）	dB	備註
0.01	0.695	−1.58	接近極限
0.1	0.733	−1.35
0.5	0.828	−0.82	深空工作區
1	1.0	0
2	1.5	1.76
4	3.75	5.74	Wi-Fi 高階 MCS
6	10.5	10.2	64-QAM 區
8	31.9	15.0	256-QAM 區

兩個工作區的讀法：

\(\rho < 1\) （功率受限）： \(E_b/N_0\) 幾乎不隨 \(\rho\) 變——降低速率幾乎不省能量。深空、衛星、物聯網在此區。
\(\rho > 4\) （頻寬受限）：每加 1 bit/s/Hz 約需 +3 dB——譜效率的代價是指數的。蜂窩與 Wi-Fi 在此區，因此它們優先爭頻寬與空間復用（10.3 節 MIMO）而非加功率。

三、衰落通道：SNR 變成隨機變數#

真實無線通道的 SNR 不是常數（多徑衰落、遮蔽）。模型： \(C\) 依賴隨機增益 \(h\) ：

\[ C(h) = \log_2(1 + |h|^2 \, \mathrm{SNR}) \]

兩種容量定義：

遍歷容量： \(E[C(h)]\) ——長時間平均可達速率（需要跨時間編碼）。
中斷容量： \(C_{p\%}\) ——99% 時間可支援的速率（對延遲敏感業務）。

例題：Rayleigh 衰落（ \(|h|^2\) 指數分佈）、平均 SNR = 10 dB。遍歷容量：

\[ E[\log_2(1 + X)]，\quad X \sim \mathrm{Exp}(\mathrm{mean} = 10) \]

數值積分或解析式 \(\frac{e^{1/\bar\gamma} E_1(1/\bar\gamma)}{\ln 2}\) 得約 3.1 bits/s/Hz——比固定通道的 3.46 低約 10%。中斷容量（99%）只看衰落的 1% 尾部，約 0.2 bits/s/Hz——差 15 倍。這個差距解釋了為什麼行動通訊需要 HARQ 重傳（4.1 節反饋）與自適應調變（8.3 節 MCS）：用時間分集把中斷事件平均掉。

四、MIMO 的容量公式與一個完整例子#

10.3 節將詳述 MIMO，這裡先給最小例子展示「空間自由度」的威力。 \(2 \times 2\) MIMO、通道矩陣

\[ \mathbf{H} = \begin{pmatrix} 1 & 0.5 \\ 0.5 & 1 \end{pmatrix} \]

奇異值： \(\sigma_{1,2}^2 = 1.5, 0.5\) 。等功率分配、每發射天線功率 \(P/2\) ：

\[ C = \sum_{i=1}^{2} \log_2\!\left(1 + \sigma_i^2 \frac{P/N}{2}\right) \]

\(P/N = 10\) ： \(C = \log_2(1 + 7.5) + \log_2(1 + 2.5) = 3.0 + 1.7 = 4.7\) bits/s/Hz。SISO 同功率只有 \(\log_2(11) = 3.46\) ——空間復用增益 36%。若通道矩陣奇異（兩天線完全相關），增益歸零——散射環境的豐富度決定 MIMO 增益，這是 5G 大規模 MIMO 陣列設計（間距、極化、波束）的物理根據。

五、頻譜經濟學：香農公式如何定價頻寬#

4.2 節末提到經濟學接口，展開如下：

頻寬的邊際價值：在高 SNR 區，容量 \(\propto W \log_2 \text{SNR}\) ——頻寬線性貴、功率對數貴。拍賣中 1 MHz 的價值 ≈ 該頻段可承載的 bits/s × 每位元收益。
功率的邊際價值：低 SNR 區 \(C \propto P\) ——每瓦的容量增益是常數，基站功率預算可直接換算覆蓋面積。
空間的價值：MIMO 把 \(\min(t,r)\) 疊乘上去——頻譜拍賣價格因此沒有隨 MIMO 普及而跌（空間維度吸收了需求增長）。
重新分配的效率：動態頻譜共享（cognitive radio）的理論基礎是「干擾溫度」模型——每個新用戶對既有用戶的容量侵蝕可用網路容量域（10.3 節）定量。

香農公式因此不只是物理定律的陳述，而是頻譜這種稀缺資源的定價引擎。

六、歷史案例：56k 數據機如何「作弊」逼近極限#

1.3 節說 33.6 kbps 逼近撥接極限，56k 又如何可能？完整分析是理解香農公式的絕佳案例：

撥接通道的量化雜訊來自電話交換機的 8 位元 μ 律量化（64 kbps PCM，8.2 節）。
33.6 kbps：兩端都過交換機，量化雜訊限制了 \(\log_2(1+\text{SNR})\) 。
56k 的洞察：若ISP 端直接數位接入（跳過一次量化），量化雜訊只發生一次（用戶端 DAC），下行可用「直接映射 PCM 碼字」傳 7 bits/樣本 × 8 kHz = 56 kbps。
本質：56k 沒有違反香農公式，而是改變了通道模型——消除了模型中的一部分雜訊源。這是資訊理論思維的教科書操作：先精確寫下雜訊是什麼，再問雜訊是否可從系統設計中移除。

七、補充思考題#

對第二節表格：找出 \(\rho = 3\) 的 \(E_b/N_0\) （dB），並說明 8-PSK（3 bits/符號）系統的最小 SNR 需求。
Rayleigh 衰落例中，若用兩根天線做最大比合併（SNR 增益 \(|h_1|^2 + |h_2|^2\) ，卡方分佈），99% 中斷容量如何變化？這是「分集增益」的容量讀法。
證明 \(W \to \infty\) 時 \(C \to \frac{P}{N_0}\log_2 e\) ，並對 \(P/N_0 = 10^4\) （bps 極限約 14400）討論深空系統的設計含義。
56k 案例中，上行為何仍限於 33.6 kbps？（用戶端 ADC 之後仍有交換機量化——雜訊源無法從上行路徑移除。）