1.1 電報與第一個編碼（1837–1844）#

導言：資訊首次被「編碼」#

在人類歷史上，訊息的傳遞長期受限於物理載體：信使、烽火、旗語、驛馬。十九世紀三十年代，電的應用徹底改變了這個局面。1837 年，英國的 William Cooke 與 Charles Wheatstone 在英格蘭展示了第一套實用的電報系統；同年，美國畫家 Samuel Morse 也在紐約大學示範了他自己的電報裝置。1844 年 5 月 24 日，Morse 在華盛頓國會大廈敲出那句著名的訊息：

"What hath God wrought"（上帝所為何事）

這句話由巴爾的摩的收報員正確還原，標誌著「將訊息轉為符號、以電訊傳輸、再由符號還原訊息」這一整條現代通訊鏈的誕生。資訊理論的所有核心問題——如何表示訊息、如何壓縮、如何抗雜訊——都可以追溯到這個時代。

電報之前：訊號系統的先驅#

在電報之前，法國工程師 Claude Chappe 於 1792 年建立了「光學旗語塔」（semaphore）網路，用機械臂的不同角度表示字與詞，在巴黎與里尔之間傳遞軍事訊息。光學系統的致命弱點是依賴天氣與晝夜；電報則不受此限。Chappe 系統的「碼本」概念——把常用詞彙編成短碼以節省傳輸時間——正是日後「信源編碼」（第 5 章）的思想雛形。

Morse 碼：不等長編碼的先驅#

Morse 與其助手 Alfred Vail 設計的編碼系統，用「點」（短音）與「劃」（長音）的序列表示字母。其最關鍵的設計決策是：常用字母給短碼，罕用字母給長碼。

傳說中，Vail 翻遍當地報紙，統計各字母出現頻率，讓 E、T（英文中最常見的字母）得到最短的碼。以現代術語來說，這就是依機率分佈做的不等長信源編碼，正是 Shannon 信源編碼定理（第 5 章）的直觀前身。我們將在第 5.2 節看到，Huffman 編碼正是把這個直觀做到極致的演算法。

例題：比較固定長度與 Morse 編碼#

英文 26 個字母，若用固定長度二元碼需要 \(\lceil \log_2 26 \rceil = 5\) 個位元。假設一段文字的字母頻率分佈為：

則 Morse 碼平均長度為

相較固定長度的 5 個符號，節省了 \(1 - 2.20/5 = 56\%\) 的傳輸時間。這個數字具體說明了「依頻率分配碼長」的威力，也預示了熵 \(H(X)\) 作為壓縮極限的角色（第 3 章）。

可解碼性問題：碼與碼之間的縫隙#

Morse 碼有一個微妙問題：.-（A）與 --（M）之間，若連續發送 .-.-，收報者無法立即判定是 A+A 還是 N（-.）誤收。因此 Morse 電文在字母之間需插入停頓，單字之間需要更長的停頓。這在編碼理論中被稱為唯一可解碼性（uniquely decodable）與即時可解碼性（instantaneous / prefix-free）問題：

• 唯一可解碼：任何碼字序列都只有一種切割方式對應原訊息。
• 即時可解碼（前綴碼）：任何碼字都不是另一個碼字的前綴，收到完整碼字即可立即解碼，無需往後看。

Morse 碼的字母碼本身不是唯一可解碼的（要靠停頓分隔），但若把「停頓」視為第三種符號，整個系統仍可解碼。第 5.1 節的 Kraft 不等式將精確刻劃：什麼樣的碼長組合存在即時可解碼碼。這條 1949 年由 Leon Kraft 提出的不等式，回頭照亮了 Morse 一百多年前的工程直覺。

例題：檢驗前綴性質#

考慮三個候選碼：

方案丙中訊息 000 有兩種切法（0|0|0 與 00|0），對應不同字母序列，故非唯一可解碼，不能用於通訊。這類「碼的結構是否可解」的分析，是第 5 章信源編碼的起點。

技術細節：Morse 系統的通訊模型#

我們可以將 Morse 系統抽象成現代通訊模型：

flowchart LR
    A[原文訊息] --> B[信源編碼<br/>Morse 碼]
    B --> C[通道編碼<br/>操作員重複確認]
    C --> D[調變<br/>電鍵通斷]
    D --> E[實體通道<br/>電線 + 雜訊]
    E --> F[解調變<br/>耳朵聽音長]
    F --> G[解碼<br/>查碼表]
    G --> H[還原訊息]

這個方塊圖與現代數位通訊系統的架構完全一致（第 4、5、6、8 章將逐一分析每個方塊）。Morse 系統中：

• 信源編碼：不等長碼節省時間。
• 通道編碼：早期靠操作員「重複關鍵字」或「問句確認」來防錯——人工的錯誤更正，正是第 6 章 Hamming 碼想自動化的工作。
• 調變：把符號變成電流的有無，相當於最原始的 on-off keying（見 8.3 節）。
• 通道雜訊：線路老化、絕緣不良、電感干擾，會把「點」聽成「劃」。

歷史前因後果#

誰、何時、為什麼#

• 1837 年：Cooke 與 Wheatstone 的針式電報在英國取得專利並服務鐵路系統；Morse 在美國展示其記錄式電報。
• 1840 年：Morse 取得美國專利。
• 1843 年：美國國會撥款三萬美元建設華盛頓—巴爾的摩線。
• 1844 年：首條電報線啟用。

Morse 的動機帶有個人色彩：1825 年他接到妻子病危的家書時人已在紐約，趕回家時妻子已下葬。這種「訊息延遲的痛」驅使他投入快速通訊的研究——工程史上的重大突破，常常源自具體的痛點。

解決了什麼問題#

電報把跨大陸的通訊時間從「天」壓到「分鐘」，直接催生了：鐵路調度系統、現代新聞業（美聯社 1846 年即靠電報傳新聞）、金融市場（跨市套利）、以及軍事指揮的革新。

引發什麼新問題#

1. 容量問題：一條線每分鐘能傳多少字？這是通道容量的最早直觀（第 4 章）。
2. 保密問題：電報內容易被竊聽，催生了電報密碼學（第 9.3 節）。
3. 編碼效率問題：如何讓同樣的電池電力與線路傳遞更多訊息？——熵與壓縮的問題（第 3、5 章）。
4. 可靠度問題：海底電纜（1858 年首度跨大西洋）訊號嚴重衰減與失真，William Thomson（後來的 Lord Kelvin）1855 年的電報方程式分析，是傅立葉分析進入通訊的先聲（第 8 章）。

與其他領域的關聯#

機率統計#

Vail 的字母頻率統計，是「用機率模型描述信源」的第一步。第 2 章將形式化這個觀念：信源是一個隨機變數，字母頻率是機率分佈 \(p(x)\) ，而壓縮極限由分佈的熵決定。

線性代數#

電報碼本可視為一個「映射」：字母集 \(\mathcal{X} \to \{., -\}^*\) （點劃序列）。編碼理論後來發現，好的碼往往具有線性結構——碼字集合是有限體上向量空間的子空間（第 6、7、9.1 章）。Morse 碼當然不是線性的，但「碼=集合、解碼=找最近的合法元素」這個框架在那時已經成形。

傅立葉分析#

電脈衝沿電纜傳播會色散（dispersion）：高頻成分衰減較快，導致方波脈衝變鈍。Kelvin 用傅立葉級數分析電報方程式，預測了訊號速率與電纜長度的限制。這是頻域分析進入通訊的濫觴，為取樣定理（8.1）與頻寬概念（4.2）鋪路。

資訊理論的直接譜系#

1837 電報 → 1838 Morse 碼 → 1885 Balzer 統計字母頻率的更精確表 → 1928 Nyquist 與 Hartley 的訊息量度量（1.2 節）→ 1948 Shannon 的熵與通道容量（1.3 節）。每一代人都站在前一代的碼本之上。

小結與思考題#

電報時代給資訊理論留下三大遺產：

1. 編碼意識：訊息必須先轉成符號序列才能傳輸，而符號的選擇有優劣之分。
2. 頻率意識：常用者短、罕用者長——不等長編碼的效率來自統計。
3. 可靠度意識：雜訊無所不在，錯誤會發生，必須有系統性的對策。

思考題

1. 把「點、劃、字母間停頓、單字間停頓」視為四個符號，估計 Morse 碼的即時可解性；此時它是否為前綴碼？
2. 若你只能用二元碼（0/1）替 26 個字母設計前綴碼，最短的碼長集合可以是 \(\{1,2,3,4,5,5,5,5,5,5,6,\dots\}\) 嗎？用 Kraft 不等式（先預習 5.1 節）檢驗 \(\sum 2^{-l_i} \le 1\) 是否成立。
3. Morse 碼把「E」編成 .，但這在雜訊下未必是最穩健的選擇。試討論「效率」與「抗雜訊」之間的張力，這正是信源編碼（第 5 章）與通道編碼（第 6 章）分工的起點。

下一節，我們將快進到 1920 年代：電話取代電報，工程師們開始追問「一秒鐘的聲音，到底包含多少資訊？」——Nyquist 的取樣定理與 Hartley 的對數度量，將把資訊從「碼本」推向「數學」。

深入探討：電報時代的完整技術解剖#

一、Morse 系統的實體層細節#

Morse 電報的實體鏈路包含四個層次，每一層都是現代通訊系統的遠祖：

1. 鍵盤與電源：操作員以手工電鍵（telegraph key）切斷與接通電池電流。早期用 Daniell 電池（銅-鋅-硫酸銅），每組約 1.1 V，長線路串聯數十組。電源的「內阻 × 線路電阻」決定了可傳距離——這是最早的鏈路預算（link budget）問題，4.2 節的功率分析是它的直系後代。
2. 線路：最初是單線 + 大地回流（ground return），1850 年代改為雙線以減少大地雜訊。線徑、絕緣子形狀（玻璃吊掛式）都是實驗出來的工程傳統。線路的分佈電容與電感造成脈衝色散，正是 Kelvin 1855 年電報方程式處理的對象。
3. 繼電器（relay）：接收端以電磁鐵吸動簧片、閉合本地電路——弱訊號驅動強電流的再生器。繼電器是「放大器」的先驅，也是 1936 年 Shannon 碩士論文（布林代數 × 繼電器電路）的主角。沒有繼電器，跨大陸電報不可能。
4. 記錄與聽音：早期用針在紙帶上劃點劃，後來操作員發現「聽」比「讀」快——耳朵可以同時辨識點長、劃長與停頓的三維資訊。這是「人類解調器」的時代：訓練有素的報務員可達每分鐘 30–40 個字。

二、Wheatstone-Cooke 與 Morse 的技術路線差異#

兩個系統代表兩種設計哲學，值得併排比較：

Cooke 系統「硬體直讀」犧牲了編碼效率；Morse 系統「軟體解碼」換來了任意文本的傳輸能力。這個取捨在今天依然存在：硬體加速的固定功能 vs 可編程的通用處理（見 8.3 節 OFDM 的 DSP 化歷程）。

三、第一個「通道容量」的經驗估計#

1850 年代的英國郵政總局（由 Cooke 與 Faraday 等人顧問）做過系統測試：單線每分鐘可靠傳送約 15–20 個字（Wheatstone 自動電報可達 200 字/分鐘但需紙帶讀寫）。以每字平均 4.5 字母、每字母約 3 個點劃單位估算：

若每單位攜帶約 \(\log_2 4 = 2\) bits（點/劃/短停/長停四態的粗略上限），則資訊率約 9 bits/s。以今日標準荒誕地低，但它是人類第一次能夠為一條通訊線路寫下一個速率數字。第 4 章的容量公式會告訴我們：同一條線在今日的數位技術下可達 10 Gbps——相差九個數量級的進步，全部來自理論與調變技術的疊加。

四、電報碼的第二次演化：Baudot 碼與五單位碼#

1874 年，法國工程師 Émile Baudot 發明五單位均勻碼（5-bit，32 組合），每個字母固定 5 位，並以同步時脈取代 Morse 的不等長停頓——這是從「非同步不等長碼」到「同步定長碼」的路線切換。理由：

• 定長碼讓多路復用（時分多工 TDM）成為可能：多條線路輪流佔用時槽。
• 停頓的消除使機器對機器通訊成為可能（電傳打字機 teletype）。

Baudot 的名字後來成為速率單位 baud（符號/秒，見 8.3 節）。注意兩條路線的張力至今未解：Morse 式的統計壓縮（第 5 章）追求每符號平均位元最少；Baudot 式的定長同步追求系統簡單與多工友好。現代系統的答案是「分層」：壓縮層做不等長（算術編碼），通道層做定長（位元流 + 時脈），各取所長。

五、海底電纜：雜訊物理的第一次正面衝突#

1858 年第一條跨大西洋電纜只工作了數週便失效；1866 年成功的電纜奠定了長距離通訊的物理規範。關鍵工程教訓：

1. Kelvin 的電報方程式（1855）：把電纜視為分佈式 RC 電路，脈衝沿線擴散（擴散方程式而非波動方程式，因電感可忽略時信號「滲」過去），上升時間 \(\propto R C L^2\) （ \(L\) 為長度）。長度平方的懲罰解釋了為什麼需要中繼與粗銅芯。
2. 訊號速率與頻寬的取捨：Kelvin 證明降低速率可大幅縮短上升時間——1858 年電纜的失敗部分來自操作員用過高的電壓與速率，燒穿絕緣。這是「帶寬 vs 速率」的第一筆定量記錄，8.1 節取樣定理與 4.2 節容量公式把這個取捨變成普適法則。
3. 中繼的誕生：海底電纜的繼電式增音器（repeater）是「通道分段」思想的起點；今日光纖的 EDFA 放大器與 5G 的小基站，都是同一思想的現代版本。

六、一個完整的計算例：Morse 電文的熵估計#

用 2.1 節的英文頻率與 Morse 碼長（點=1 單位、劃=3 單位、字母間停頓=1、單字間停頓=3），我們可以估計英文電文每字母的傳輸單位數。以字母頻率 \(p_i\) 加權：

加總約 5.5 個單位/字母。操作員的耳-手系統每秒約 10–15 個單位，換算每秒約 2–3 字母、每分鐘 15–25 字——與歷史記錄的 20 字/分鐘吻合。這個小計算是「統計 + 編碼 + 通道」三層聯合分析的微型範例，正是本書第 2、3、5、8 章的方法論預演。

七、電報帶來的社會資訊結構變化#

資訊理論的影響從來不止於工程：

• 新聞業：1846 年美聯社成立，用電報彙集新聞；「倒金字塔」寫作格式（最重要的資訊在前）正是為了適應電報中斷風險——訊息截斷時前段仍可用。這是「先傳重要資訊」的冗餘分配思想，與今日的分層編碼（layered coding，重要位元保護更強）同一血脈。
• 市場：跨市價差套利使紐約與芝加哥的小麥價格在數分鐘內收斂——資訊傳播速度首次成為經濟變數。今日高頻交易的光纖拉直（芝加哥-紐約直線光纖省 3 ms）是同一邏輯的極端版。
• 語言：電報催生「電報體」（省略冠詞與虛詞）——人類主動為通道做信源編碼。這證明：壓縮的需求會由使用者自發產生，即使沒有演算法（5.3 節的 LZ 才把這件事自動化）。

八、複習要點與延伸閱讀方向#

回顧本章小節的三個理論種子，並標記它們在後續章節的花開之處：

1. 頻率–碼長對應（Morse/Vail）→ 2.1 節機率模型 → 3.1 節熵 → 5.1–5.2 節 Kraft 與 Huffman。
2. 碼的可解性結構（停頓的必要性）→ 5.1 節前綴碼與 Kraft 不等式。
3. 人工重複確認（報務員的除錯）→ 6.1 節 Hamming 碼的自動化。

延伸閱讀（按本書進度對應）：讀完第 5 章後回來重算第六節的例題，你會發現可以用熵正規化地推導「理論最優的電報碼」；讀完 8.3 節後，思考如果把 Morse 碼放上載波（on-off keying），通道容量會如何受限於帶寬與功率。

電報時代教給我們的不是任何單一公式，而是一個姿態：把通訊拆成層，逐層優化，再重新組裝。這個姿態將貫穿全書。