跳轉到

5.3 Kolmogorov 的公理化（1933）#

本章導言#

1933 年，26 歲的蘇聯數學家 Andrei Kolmogorov（柯莫哥洛夫，1903–1987） 在柏林出版了德文小冊《機率論基礎》（Grundbegriffe der Wahrscheinlichkeitsrechnung），全書不到六十頁，卻把機率論從兩百年爭議的泥沼中拔起：機率是測度。本節講述公理化如何解決古典機率的概念危機，以及它為二十世紀機率論鋪設的全部地基。

危機：三百年來機率論缺一個根基#

1930 年之前，機率論的尷尬處境如下：

  • 古典定義（Laplace）循環：等可能性預設機率（1.2 節），Bertrand 悖論（1889）使「隨機」失效。
  • 連續樣本空間無定義：單點機率為零、區間機率怎麼定？Borel 1898 年起以集合論探索，但缺乏統一語言。
  • 極限定理缺乏嚴格基礎：Borel 1909 年強大數法則證明有漏洞；「幾乎必然收斂」「隨機變數」都沒有精確意義。
  • 哲學分裂：頻率派（von Mises 的集體理論, 1919）與主觀派（1.3 節）互不相容，雙方都無法覆蓋全部數學需求。

Kolmogorov 的天才在於繞過哲學、直接占領數學：不爭論機率「是什麼」，只規定它「滿足什麼」。

公理系統#

定義：設 \(\Omega\) 為樣本空間， \(\mathcal{F}\) 為 \(\Omega\) 的子集構成的 \(\sigma\) -代數（對補集與可數並封閉），函數 \(P : \mathcal{F} \to [0,1]\) 稱為機率測度，若：

  1. 非負性： \(P(A) \ge 0\) ；
  2. 規範性： \(P(\Omega) = 1\) ；
  3. 可數可加性：互斥可數事件列 \(A_1, A_2, \ldots\) 滿足 \(P\left(\bigcup_n A_n\right) = \sum_n P(A_n)\) 。

三元組 \((\Omega, \mathcal{F}, P)\) 稱為機率空間。隨機變數 \(X\) 定義為（關於 \(\mathcal{F}\) 的）可測函數；期望值 \(\mathbb{E}[X] = \int X \, dP\) 以 Lebesgue 積分定義；條件期望以積分關係定義（4.3 節）。

技術細節需要欣賞：為什麼要 \(\sigma\) -代數而不是「所有子集」？因為 \([0,1]\) 的所有子集中存在不可測集（Vitali 1905 年用選擇公理構造——無法一致指派長度），「一切子集皆可測」與平移不變性矛盾。 \(\sigma\) -代數是「可討論的事件族」的形式化。為什麼要可數可加而非有限可加？因為極限定理（Borel–Cantelli、強大數法則）必須對可數事件列操作——這條公理正是為極限理論預留的發動機。

積分與測度論的裝配#

Kolmogorov 的框架直接搬入 Lebesgue（1875–1941） 1902 年的積分理論：機率測度就是總測度為 1 的測度；隨機變數就是可測函數；收斂定理（單調收斂、控制收斂、Fatou 引理）成為機率論的計算律；Radon–Nikodym 定理（1913）為條件期望與密度（似然！）提供存在性。Fubini 定理使「獨立乘積空間」的計算合法。換言之：1933 年之前機率論缺的每一塊，分析學已經備好，Kolmogorov 做的是完整的裝配——但這個「裝配」的識別力是天才級的：他看穿了「機率 = 測度」這個同構的充分性。

公理化的直接報酬#

公理化在一夜之間解決了累積三百年的問題：

舊問題 公理化下的解答
Bertrand 悖論（1889） 「隨機」= 指定測度；不同測度給不同答案，皆合法
單點機率為零但可能發生 機率零 \(\neq\) 空集；「幾乎必然」成為精確概念
Borel 強大數法則的漏洞 可數可加性 + 測度論收斂定理，1933 年補全
條件機率在 \(P(B) = 0\) 時無定義 以 Radon–Nikodym 定義條件期望（任意 \(\sigma\) -代數）
von Mises 集體理論的笨重 不需要「集體」，隨機性交由模型承載

更深遠的報酬是無窮維的自由：Kolmogorov 延拓定理（1933，同書給出）保證：只要各有限維分布相容（Kolmogorov 相容性條件），就能構造無窮序列 \(\{X_n\}\) 的聯合分布。這條定理是隨機過程（6、7 章）的存在許可證——Wiener 過程、馬可夫鏈、Poisson 過程全部由它合法誕生。1933 年之後，「無窮多次試驗」從哲學爭議變成普通數學物件。

Kolmogorov：機率論的巨匠#

Kolmogorov 1903 年生於坦波夫，母親難產去世，由姨母撫養；1925 年（22 歲）即與 Khinchine 合發三級數定理；1931 年任莫斯科大學教授；1933 年同時出版《機率論基礎》與《解析力學》教材；1937–39 年建立馬可夫過程的一般理論（與 Chapman 1928 年的方程並稱 Chapman–Kolmogorov）；1941 年提出湍流的 K41 理論（能量譜的 \(k^{-5/3}\) 律，物理學引用最多的結果之一）；1950s 轉向資訊論與算法複雜性（Kolmogorov 複雜度, 1965——「隨機性 = 不可壓縮」的定義，回應了 von Mises 的隨機性問題！）；晚年投身教育改革。他是二十世紀最後一位全能數學家之一，培養了 Arnold、Gelfand、Dobrushin 等一代大師。

一個具體例題#

例題 5.3.1：在 \([0, 1]\) 上取機率空間： \(\Omega = [0,1]\) 、 \(\mathcal{F} =\) Borel 集合族、 \(P\) = Lebesgue 測度。(a) 驗證公理；(b) 證明單點集機率為 0；(c) 計算 \(P(\mathbb{Q} \cap [0,1])\) ；(d) 討論「幾乎必然」的含義。

解：

(a) \(P(\Omega) = 1\) （單位區間長度）；非負性顯然；可數可加性由 Lebesgue 測度的可數可加性繼承——機率公理在此是測度論的特例。 \(\checkmark\)

(b) 對單點 \(\{x\}\) ： \(P(\{x\}) \le P\left([0, 1/n]\right) = \frac{1}{n}\) 對包含 \(x\) 的任意小區間成立，令 \(n \to \infty\) 得 \(P(\{x\}) = 0\) 。每個具體點都是零機率事件，但取點總會得到某點——「機率零但非不可能」在測度語言中完全合法。

(c) 有理數 \(\mathbb{Q} \cap [0,1]\) 可數： \(\{q_1, q_2, \ldots\}\) 。由可數可加性：

\[ P(\mathbb{Q} \cap [0,1]) = \sum_{n=1}^{\infty} P(\{q_n\}) = \sum_{n=1}^{\infty} 0 = 0. \]

注意：這個計算必須用可數可加性——有限可加只能處理有限並集，會得出「無窮多個零的行為不明」的僵局。公理 3 的可數性在此兌現價值。

(d) 「性質 \(A\) 幾乎必然成立」定義為 \(P(A) = 1\) 。例如「隨機取的數是無理數」幾乎必然成立（機率 1），但存在反例（有理數）——反例集合是零測的「例外」。這個精確語言取代了古典機率中「必然/不可能」的二值邏輯，是公理化贈送給理論機率的基本詞彙。

歷史啟示#

  • 繞過本體論、占領方法論：不回答「機率是什麼」，只規定「機率的運算規則」——數學公理化的經典策略（Hilbert 對幾何的操作是先例），成功將哲學爭議與數學發展脫鉤。
  • 借力打力：Kolmogorov 沒有發明測度論，但他識別出「機率 = 測度」的完整同構——重大突破常是「發現現成工具的意外適用性」。
  • 一條公理（可數可加）換一整門學科：極限理論、隨機過程、鞅論全部依賴它。公理選擇的深遠性往往在多年後才顯現。
  • 問題的回收：von Mises 未能解決的「隨機序列」問題，在 1965 年被 Kolmogorov 本人以算法複雜度解決——他自己關閉了自己 1933 年繞開的大門。

與其他章節及領域的關聯#

  • 2.1 節：隨機變數在公理化下 = 可測函數；Bertrand 悖論獲得解答。
  • 4.3 節：條件期望 = Radon–Nikodym 導數，鞅論的基礎。
  • 5.1、5.2 節：大數法則與 CLT 在公理框架內成為嚴格定理。
  • 6、7 章：Kolmogorov 延拓定理是隨機過程的存在許可證；馬可夫過程的一般理論（1936–39）由 Kolmogorov 本人建立。
  • 8–10 章：統計學的抽樣模型「 \(X_1, \ldots, X_n\) iid 於某分布」在公理語言中是標準機率空間上的普通物件。
  • 測度論課：本節是機率與實變分析的接軌點，讀者修「實分析」時會重逢 Lebesgue 積分、Radon–Nikodym、Fubini。
  • 算法資訊理論：Kolmogorov 複雜度是資料壓縮（MDL 原則）與「隨機性」研究的現代語言。

練習#

  1. 證明由公理可推出： \(P(\varnothing) = 0\) 、有限可加性、單調性 \(A \subseteq B \Rightarrow P(A) \le P(B)\) 、以及 \(P(A \cup B) = P(A) + P(B) - P(AB)\) 。
  2. 舉一個 \((\Omega, \mathcal{F}, P)\) 的完整例子，其中 \(\Omega\) 有限、 \(\mathcal{F}\) 是 \(\Omega\) 的全部子集；再舉一個 \(\mathcal{F}\) 不是全部子集的例子（如 \(\Omega\) 兩點、 \(\mathcal{F} = \{\varnothing, \Omega\}\) ）並說明這種「粗 \(\sigma\) -代數」的意義（資訊不足）。
  3. 用例題 5.3.1 的空間證明：對可數個零機率集合之並，機率仍為零；並舉出不可數個零測集之並可以為全集的例子（單點集的並）。
  4. 說明 Vitali 不可測集的構造思想（把 \([0,1]\) 按 \(x - y \in \mathbb{Q}\) 分類，取代表元集），並解釋為何它不可測。
  5. 思考題：Kolmogorov 公理化被批評為「把機率論變成了測度論的應用」。你同意嗎？請從「隨機過程理論需要哪些測度論沒有的新概念」（如可測性隨時間的適應、停時）討論機率論的獨立性。

進階研讀：公理化之後的五個深化場景#

場景一：乘積空間與無窮試驗。 \(n\) 次試驗的空間是乘積 \(\Omega^n\) ；無窮次試驗需要無窮乘積測度（Kolmogorov 延拓定理保證存在）。擲無窮次硬幣的空間 \(\{0,1\}^{\mathbb{N}}\) 與 \([0,1]\) （二進位展開）同構——「無窮次隨機試驗」與「區間上的 Lebesgue 測度」是同一個數學物件，這個識別使 Borel 1909 年的直覺獲得形式。

場景二：停時與賭局的嚴格化。停時 \(\tau\) ：{何時停}只依賴到當下為止的資訊（不能偷看未來）。Doob 停時定理（1953）：有界停時下鞅的期望不變——「公平賭局中任何『聰明』的停止策略都無利可圖」獲得證明。賭徒破產、最優停止、美式選擇權定價（Snell envelope, 1952）共用這套語言，是 6.1、6.2 章隨機過程的推論工具。

場景三：Kolmogorov 複雜度與隨機性的終極定義。1965 年 Kolmogorov 定義序列的複雜度 \(K(x)\) = 生成 \(x\) 的最短程式長度；「隨機」 \(= K(x) \ge |x|\) （不可壓縮）。Martin-Löf（1966）以此建立可計算的隨機性檢驗理論。von Mises 的集體思想在四十餘年後以完全不同的數學（可計算性理論）獲得嚴格化身——繞過的問題最終被提出者本人解決，是科學史上罕見的閉環。

場景四：測度語言的推廣。公理框架不限定 \(\Omega\) 的結構：隨機矩陣（Wigner 1955 年半圓律）、隨機圖（Erdős–Rényi 1959）、隨機幾何（病態剛體群）都在「某集合族 + 機率測度」的模板下研究。隨機性可以附加於任何數學結構——這是公理化最深的通用性：機率論從「骰子的理論」變成「測度的理論的機率視角」。

場景五：公理的界限與批評。非可數可加的「有限可加機率」（de Finetti 主張）能表達某些無窮均勻先驗（自然常數的均匀先驗），但在標準框架中非法；「條件於零機率事件」（如條件於 \(X = x\) 連續分布）需要正則條件分布或 disintegration 理論（Blackwell–Dubins 1963）補救。公理系統有邊界，這些邊界催生了 1960–70 年代的精緻化——公理化不是終點而是地基。

名詞速查表（本節出現的核心術語）#

  • 機率空間： \((\Omega, \mathcal{F}, P)\) ，樣本空間、事件族、機率測度三元組。
  • ** \(\sigma\) -代數**：對補與可數並封閉的事件族；「可討論的事件」範圍。
  • 可數可加性：互斥可數事件的機率相加，極限理論的發動機。
  • 可測函數：隨機變數的現代定義。
  • Kolmogorov 延拓定理：相容有限維分布 \(\Rightarrow\) 無窮過程存在。
  • 幾乎必然：機率 1 成立，允許零測例外。
  • Vitali 集：選擇公理構造的不可測集。
  • Radon–Nikodym 定理：條件期望與似然的存在性根據。
  • Kolmogorov 複雜度：最短描述長度，隨機性 = 不可壓縮。

年表速查（本節涉及的關鍵年份）#

  • 1902：Lebesgue 積分與測度論。
  • 1905：Vitali 不可測集。
  • 1909：Borel 強大數法則（有漏洞）。
  • 1913：Radon–Nikodym 定理。
  • 1919：von Mises 集體理論。
  • 1925：Kolmogorov–Khinchine 三級數定理。
  • 1928：Chapman 方程。
  • 1933：Kolmogorov《機率論基礎》出版；延拓定理；補全強大數法則。
  • 1936–39：Kolmogorov 馬可夫過程一般理論。
  • 1941：Kolmogorov 湍流 K41 理論。
  • 1953：Doob《隨機過程》，鞅論系統化。
  • 1965：Kolmogorov 複雜度；Martin-Löf 隨機性。
  • 1963–66：正則條件分布與 disintegration 理論的補全。

深化問答三則#

問：公理化「解決」了機率的哲學問題嗎？ 答：沒有，它外包了。機率的解釋（頻率？信念？傾向？）仍是活躍的哲學議題；公理化把它們統統視為「滿足公理的詮釋」，數學在詮釋之上工作。這個策略的代價是機率論不再宣稱「機率是真實世界的定律」——它是條件性的數學。但代價換來的是無窮維隨機過程的自由：若當年 Kolmogorov 先解決哲學，也許至今沒有布朗運動的嚴格理論。

問：為什麼可數可加性如此關鍵？ 答：例題 5.3.1(c) 顯示：沒有它，「可數個零測集的並」的機率無法控制，於是 Borel–Cantelli、強大數法則、隨機級數理論全部癱瘓。更根本地：極限是機率論的主題，而極限本質上是可數的操作（序列、級數），有限可加對極限閉環。de Finetti 主張有限可加的貝氏框架能處理部分問題，但無法支撐整座極限理論大廈——公理的取捨對應學科的抱負。

問：Kolmogorov 延拓定理為什麼被稱為「隨機過程的存在許可證」？ 答：因為隨機過程 \(X = \{X_t\}_{t \ge 0}\) 的直觀描述（各時刻的分布 + 增量的規則）只給出有限維投影；要證明「真的存在一個樣本空間上同時實現全部時刻的過程」，需要延拓定理。Wiener 1923 年實質上做了特殊情形的艱苦構造；Kolmogorov 定理使此類構造成為通用程序。之後（1948 年 Ciesielski、1950s Daubechies 之前的 Haar 展開等）的研究再進一步把 Brown 路徑顯式化——存在許可證之後，才有建築施工。

（本節完）