2.1 離散與連續隨機變數#
本章導言#
十八世紀的數學家發現,賭博與誤差問題中真正要緊的不是「事件的集合」,而是結果的數值:贏多少錢、誤差多大。把「結果映射為數」的函數——隨機變數——成為機率論從排列組合走向分析的關鍵躍遷。本節介紹隨機變數、分布函數、機率質量函數與密度函數,並講述離散與連續兩大世界如何在十九世紀被一個統一框架收編。
隨機變數:給結果貼上數字#
形式地說,隨機變數是定義在樣本空間上的實值函數 \(X : \Omega \to \mathbb{R}\) 。擲兩顆骰子時, \(X(i,j) = i + j\) (點數和);投籃時, \(X\) = 得分;量測一個物體時, \(X\) = 測得長度。這個「函數」觀念的引入看似只是記號整理,實則完成了兩件大事:
- 機率問題化為數學分析問題:一旦關心的是 \(X\) ,我們就不再需要知道 \(\Omega\) 的細節,只需要知道 \(X\) 取各個值的機率——一個「壓縮後的完整描述」。
- 多個隨機量的聯合研究成為可能: \((X, Y)\) 是 \(\Omega \to \mathbb{R}^2\) 的映射,於是誤差的兩個分量、賭局的多期收益,都成為同一套語言下的對象。
這一步的歷史功臣常被低估。機率論在十八世紀一直以「事件」與「機會」為語言;把焦點系統性地轉到「變數的分布」,是 Chebyshev(柴比雪夫,1821–1894) 與其學派(Markov、Lyapunov)在十九世紀末的工作,而「隨機變數」一詞的普及則歸功於二十世紀初的俄國與英國學派。
分布函數:統一的描述語言#
隨機變數 \(X\) 的累積分布函數(CDF):
\(F\) 是右連續、單調非遞減、滿足 \(F(-\infty) = 0\) 、 \(F(+\infty) = 1\) 的函數,反之任何這樣的函數都是某個隨機變數的 CDF。CDF 是離散與連續世界的共同語言——這是本節最重要的觀念:無論 \(X\) 的取值可數還是不可數, \(F\) 都存在且完全刻畫 \(X\) 的分布。
離散世界:機率質量函數#
若 \(X\) 的取值為可數集 \(\{x_1, x_2, \ldots\}\) ,其機率質量函數(PMF)為 \(p(x_i) = P(X = x_i)\) ,滿足 \(p_i \ge 0\) 、 \(\sum_i p_i = 1\) 。CDF 是階梯函數:在每個 \(x_i\) 處跳升 \(p_i\) 。例如擲一顆公平骰子, \(p(1) = \cdots = p(6) = \frac{1}{6}\) , \(F\) 在 \(1, 2, \ldots, 6\) 處各跳 \(\frac{1}{6}\) 。
歷史上離散分布的計算從 Pascal(二項)與 Poisson(1838)就已成熟,但「質量函數」作為正式概念同樣是十九世紀末二十世紀初的產物。
連續世界:機率密度函數#
若存在非負函數 \(f\) 使 \(F(x) = \int_{-\infty}^{x} f(t)\, dt\) ,則稱 \(X\) 為連續型, \(f\) 為機率密度函數(PDF),滿足 \(f \ge 0\) 、 \(\int_{-\infty}^{\infty} f = 1\) 。關鍵的觀念轉換:
「單點機率為零」是初學者最大的障礙,也是連續機率的精髓:機率不再附著於點,而附著於區間。事件 \(X = c\) 並非不可能(它可能發生),只是機率為零——「機率零 \(\neq\) 不可能」這個區分要等到 Lebesgue 測度論(5.3 節)才有嚴格基礎。十八世紀的數學家(如 de Moivre 在 1733 年導出常態曲線時)早就隱含地使用密度函數,但他們把 \(f(x)\,dx\) 理解為「在極小區間的機率」,一個物理式的直觀。
Bertrand 悖論與幾何機率的危機#
連續機率的深層困難在 1889 年被 Joseph Bertrand(1822–1900) 揭露:在圓內「隨機取一條弦」,其長度超過內接正三角形邊長的機率,因「隨機」的實現方式不同而得到 \(\frac{1}{3}\) 、 \(\frac{1}{2}\) 或 \(\frac{3}{4}\) 。三種算法(隨機端點、隨機中點、隨機平行偏移)都符合直觀的「等可能」,卻給出不同答案。這個悖論宣告:沒有指定生成機制的「隨機」是無定義的。它與 1905 年 Borel 對「在 \([0,1]\) 上隨機取數」的嚴格分析一起,直接推動了 Kolmogorov 公理化(5.3 節)——「隨機」必須由一個明確的機率測度事先指定,不存在先驗的「純粹隨機」。
混合型與奇異型:分類的意外曲折#
自然地,人們以為分布只有離散與連續兩型。但 Cantor(康托爾,1845–1918) 1883 年的三分點集與其上定義的康托爾函數(魔鬼階梯)提供了第三型:連續、非遞減、從 0 升到 1,卻在一個測度為零的集合上完成全部增長——導數幾乎處處為零,卻不是常數。這種奇異分布(singular distribution)的發現震驚了分析學界,說明 CDF 的世界遠比「階梯 + 光滑曲線」豐富。Lebesgue 1902 年的積分理論最終把任意分布分解為離散、連續、奇異三部分之和(Lebesgue 分解定理),為 Kolmogorov 公理化提供了分析工具。
一個具體例題#
例題 2.1.1:設連續型隨機變數 \(X\) 的密度為
(a) 求 \(c\) ;(b) 求 \(P(1 < X \le 2)\) ;(c) 求 \(X\) 的 CDF 並畫出示意;(d) 求 \(P(X > 2 \mid X > 1)\) 。
解:
(a) 由歸一性:
(b)
(c) 當 \(0 \le x \le 3\) :
且 \(F(x) = 0\) ( \(x < 0\) )、 \(F(x) = 1\) ( \(x > 3\) )。 \(F\) 是光滑遞增的曲線,在 \(x=3\) 處達到 1——與離散 CDF 的階梯形成對照。
(d) 由條件機率:
注意單點機率為零使 \(P(X > 2 \mid X > 1)\) 也可寫成 \(P(X > 2) / P(X > 1)\) 不加修正——這在離散情形(如 \(X\) 為整數)是錯的,因為 \(P(X > 1)\) 與 \(P(X \ge 1)\) 不同。這正是連續與離散世界的實用差異之一。
歷史啟示#
- 函數觀念是機率論的成年禮:從「事件的機率」到「變數的分布」,機率論才得以與微積分、微分方程深度接軌。
- 統一語言的力量:CDF 讓離散與連續共享一套描述,二十世紀更把語言推廣到任意測度空間。
- 悖論是概念的 X 光:Bertrand 悖論與康托爾函數揭示了「等可能」「連續分布」這些直觀的內部裂縫,逼出公理化。
- 機率零的哲學:連續世界裡每個具體結果都「不會發生」,事件卻總會發生——這個弔詭預示了測度論必要性。
與其他章節及領域的關聯#
- 1.2 節:樣本空間是隨機變數的定義域,古典機率是 PMF 的特例。
- 2.2 節:期望值與變異數是對分布的兩個「總結數字」,求和(離散)與積分(連續)在此統一。
- 3 章:本節的 PMF/PDF 語言將裝載二項、Poisson、常態、Gamma 等具體分布。
- 5.3 節:Kolmogorov 公理以測度論收編本節全部概念,並解決 Bertrand 悖論。
- 7.2 節:Wiener 過程的樣本路徑連續但處處不可微——「連續型」概念的極限推廣。
- 物理:統計力學中分子的速度分布(Maxwell 1860)是 PDF 概念在物理中的獨立誕生。
練習#
- 擲一顆偏心骰子,出現 1 至 6 的機率與點數成正比。寫出 \(X\) 的 PMF 與 CDF,並求 \(P(2 < X \le 5)\) 。
- 設 \(f(x) = 2x\) ( \(0 \le x \le 1\) )。求 \(c\) 使其為密度(若需要)、 \(P(X \le 0.5)\) 、以及使 \(P(X \le t) = 0.9\) 的 \(t\) (即 90 分位數)。
- 仿例題 2.1.1,對密度 \(f(x) = \frac{3}{64} x^2\) ( \(0 \le x \le 4\) )求 CDF 與 \(P(X > 2 \mid X > 1)\) 。
- 說明為什麼「 \(P(X = c) = 0\) 」不意味「 \(X\) 不可能等於 \(c\) 」。並用幾何機率(在 \([0,1]\) 隨機取點)舉例。
- 思考題:Bertrand 悖論的三種解法分別對應什麼「隨機取弦」的物理程序?請各設計一個可實作的實驗。
進階研讀:隨機變數概念的五個深化場景#
場景一:分布不僅是數字——函數型隨機變數。隨機變數不必取實值:取值於 \(\mathbb{R}^n\) 的隨機向量、取值於函數空間的隨機函數(如 7.2 節的 Wiener 過程)、取值於集合的隨機集合。Kolmogorov 公理的偉大之處在於它對「取值空間」毫無預設——只要事件 \(\sigma\) -代數存在,任何結構上的機率皆可定義。這是現代隨機過程與機器學習(隨機矩陣、隨機圖)的形式基礎。
場景二:轉換技巧(change of variables)。若 \(Y = g(X)\) 且 \(g\) 嚴格單調可微,則 \(f_Y(y) = f_X(g^{-1}(y)) \left| \frac{d g^{-1}}{dy} \right|\) 。這個公式背後是 Jacobian 的幾何意義(參見《微積分》教材 7.2 節座標變換),在多維情形成為統計模擬(如反函數法、Box–Muller 變換生成常態亂數)的引擎。
場景三:反函數法與模擬的誕生。若 \(F\) 連續且 \(U \sim \text{Uniform}(0,1)\) ,則 \(F^{-1}(U)\) 之分布恰為 \(F\) 。這條簡單定理是所有統計模擬(10.2 節蒙地卡羅)的第一塊積木:只要能造均勻亂數,理論上就能模擬任何分布。歷史上 Ulam 與 von Neumann 1946 年設計蒙地卡羅時,第一個要解決的技術問題正是「如何從給定分布抽樣」。
場景四:奇異分布與分形。康托爾函數的增長集中在康托爾集上,而康托爾集正是最經典的分形(自相似、維度 \(\log 2 / \log 3 \approx 0.63\) )。二十世紀的遍歷理論、混沌動力學中的奇異不變測度(如 logistic 映射)都屬於此類分布——「分形上的機率」成為描述混沌系統的標準工具,這是 1883 年 Cantor 完全無法預見的後裔。
場景五:經驗分布與 Glivenko–Cantelli 定理。統計學家手上只有樣本 \(X_1, \ldots, X_n\) ,其經驗 CDF \(F_n(x) = \frac{1}{n} \sum \mathbf{1}\{X_i \le x\}\) 是「數據版的分布函數」。Glivenko–Cantelli 定理(1933)證明 \(\sup_x |F_n(x) - F(x)| \to 0\) 幾乎必然——經驗分布在全域一致收斂到真分布。這條定理把「分布」從數學抽象變成可從數據逼近的實體,是無母數統計與現代機器學習(經驗風險最小化)的理論基石,同時呼應 5.1 節大數法則。
名詞速查表(本節出現的核心術語)#
- 隨機變數:樣本空間上的實值函數 \(X : \Omega \to \mathbb{R}\) 。
- 累積分布函數(CDF): \(F(x) = P(X \le x)\) ,右連續、非遞減、極限 0 與 1。
- 機率質量函數(PMF):離散分布的 \(P(X = x_i)\) 。
- 機率密度函數(PDF): \(F\) 的導數 \(f\) ,滿足歸一性 \(\int f = 1\) 。
- 幾何機率:以長度、面積、體積為等可能基礎的機率。
- Bertrand 悖論:「隨機」未指定測度時答案不唯一的悖論。
- 奇異分布:集中在測度零集合上的連續分布(如康托爾測度)。
- Lebesgue 分解:任意分布 = 離散 + 連續 + 奇異的唯一分解。
- 經驗分布函數:樣本構造的 CDF \(F_n\) ,Glivenko–Cantelli 一致收斂。
年表速查(本節涉及的關鍵年份)#
- 1733:de Moivre 導出常態密度(未用「密度」一詞)。
- 1809:Gauss 以誤差密度確立連續分布的實用典範。
- 1860:Maxwell 導出氣體分子速度分布,物理中的獨立密度傳統。
- 1883:Cantor 構造三分點集,奇異分布的原料問世。
- 1889:Bertrand《機率計算》提出弦悖論,幾何機率危機。
- 1902:Lebesgue 積分理論,密度概念獲得嚴格基礎。
- 1909:Borel 論「隨機數」的測度論分析與強大數法則。
- 1933:Kolmogorov《機率論基礎》,隨機變數=可測函數。
- 1933:Glivenko–Cantelli 定理,經驗分布一致收斂。
- 1946:Ulam 與 von Neumann 發展蒙地卡羅,抽樣理論工程化。
深化問答三則#
問:為什麼說「隨機變數」這個名字是歷史誤會? 答:它既不隨機(函數是完全確定的規則)也不是變數(不是待定的量),而是樣本空間上的可測函數。名稱承襲十九世紀「誤差變數」的物理直觀。現代教科書偶用「random variable」的更準確別名「measurable function」,但歷史名稱已定——許多數學名詞(如「有理數」「虛數」)都攜帶著過時的哲學包袱。
問:離散與連續的界線在實務上重要嗎? 答:概念上重要(求和 vs. 積分、單點機率是否為零),實務上常可互換:人口身高本質離散(分子組成)卻以連續建模;計數資料本質離散卻在大尺度下以連續近似(如 Poisson → 常態)。這種「模型置換」的合法性由誤差界(如 5.2 節的收斂速率)保證——數學的嚴格性使「講究」與「將就」都能明碼標價。
問:康托爾函數「導數幾乎處處為零卻上升」矛盾嗎? 答:不矛盾,矛盾只在對「積分還原導數」的期待。微積分基本定理要求函數絕對連續,而康托爾函數不是——它把增長藏在測度零的分形上,Lebesgue 積分「看不見」這部分增長。這正是 Lebesgue 分解定理要精確刻畫的現象,也顯示 Riemann 積分(見《微積分》教材 3.2 節)的框架不足以承載機率論,Lebesgue 積分成為必須。
(本節完)