跳轉到

2.1 離散與連續隨機變數#

本章導言#

十八世紀的數學家發現,賭博與誤差問題中真正要緊的不是「事件的集合」,而是結果的數值:贏多少錢、誤差多大。把「結果映射為數」的函數——隨機變數——成為機率論從排列組合走向分析的關鍵躍遷。本節介紹隨機變數、分布函數、機率質量函數與密度函數,並講述離散與連續兩大世界如何在十九世紀被一個統一框架收編。

隨機變數:給結果貼上數字#

形式地說,隨機變數是定義在樣本空間上的實值函數 \(X : \Omega \to \mathbb{R}\) 。擲兩顆骰子時, \(X(i,j) = i + j\) (點數和);投籃時, \(X\) = 得分;量測一個物體時, \(X\) = 測得長度。這個「函數」觀念的引入看似只是記號整理,實則完成了兩件大事:

  1. 機率問題化為數學分析問題:一旦關心的是 \(X\) ,我們就不再需要知道 \(\Omega\) 的細節,只需要知道 \(X\) 取各個值的機率——一個「壓縮後的完整描述」。
  2. 多個隨機量的聯合研究成為可能: \((X, Y)\) 是 \(\Omega \to \mathbb{R}^2\) 的映射,於是誤差的兩個分量、賭局的多期收益,都成為同一套語言下的對象。

這一步的歷史功臣常被低估。機率論在十八世紀一直以「事件」與「機會」為語言;把焦點系統性地轉到「變數的分布」,是 Chebyshev(柴比雪夫,1821–1894) 與其學派(Markov、Lyapunov)在十九世紀末的工作,而「隨機變數」一詞的普及則歸功於二十世紀初的俄國與英國學派。

分布函數:統一的描述語言#

隨機變數 \(X\) 的累積分布函數(CDF):

\[ F(x) = P(X \le x). \]

\(F\) 是右連續、單調非遞減、滿足 \(F(-\infty) = 0\) 、 \(F(+\infty) = 1\) 的函數,反之任何這樣的函數都是某個隨機變數的 CDF。CDF 是離散與連續世界的共同語言——這是本節最重要的觀念:無論 \(X\) 的取值可數還是不可數, \(F\) 都存在且完全刻畫 \(X\) 的分布。

離散世界:機率質量函數#

若 \(X\) 的取值為可數集 \(\{x_1, x_2, \ldots\}\) ,其機率質量函數(PMF)為 \(p(x_i) = P(X = x_i)\) ,滿足 \(p_i \ge 0\) 、 \(\sum_i p_i = 1\) 。CDF 是階梯函數:在每個 \(x_i\) 處跳升 \(p_i\) 。例如擲一顆公平骰子, \(p(1) = \cdots = p(6) = \frac{1}{6}\) , \(F\) 在 \(1, 2, \ldots, 6\) 處各跳 \(\frac{1}{6}\) 。

歷史上離散分布的計算從 Pascal(二項)與 Poisson(1838)就已成熟,但「質量函數」作為正式概念同樣是十九世紀末二十世紀初的產物。

連續世界:機率密度函數#

若存在非負函數 \(f\) 使 \(F(x) = \int_{-\infty}^{x} f(t)\, dt\) ,則稱 \(X\) 為連續型, \(f\) 為機率密度函數(PDF),滿足 \(f \ge 0\) 、 \(\int_{-\infty}^{\infty} f = 1\) 。關鍵的觀念轉換:

\[ P(a < X \le b) = \int_a^b f(t)\, dt, \qquad P(X = c) = 0 \ \text{(對任何單點)}. \]

「單點機率為零」是初學者最大的障礙,也是連續機率的精髓:機率不再附著於點,而附著於區間。事件 \(X = c\) 並非不可能(它可能發生),只是機率為零——「機率零 \(\neq\) 不可能」這個區分要等到 Lebesgue 測度論(5.3 節)才有嚴格基礎。十八世紀的數學家(如 de Moivre 在 1733 年導出常態曲線時)早就隱含地使用密度函數,但他們把 \(f(x)\,dx\) 理解為「在極小區間的機率」,一個物理式的直觀。

Bertrand 悖論與幾何機率的危機#

連續機率的深層困難在 1889 年被 Joseph Bertrand(1822–1900) 揭露:在圓內「隨機取一條弦」,其長度超過內接正三角形邊長的機率,因「隨機」的實現方式不同而得到 \(\frac{1}{3}\) 、 \(\frac{1}{2}\) 或 \(\frac{3}{4}\) 。三種算法(隨機端點、隨機中點、隨機平行偏移)都符合直觀的「等可能」,卻給出不同答案。這個悖論宣告:沒有指定生成機制的「隨機」是無定義的。它與 1905 年 Borel 對「在 \([0,1]\) 上隨機取數」的嚴格分析一起,直接推動了 Kolmogorov 公理化(5.3 節)——「隨機」必須由一個明確的機率測度事先指定,不存在先驗的「純粹隨機」。

混合型與奇異型:分類的意外曲折#

自然地,人們以為分布只有離散與連續兩型。但 Cantor(康托爾,1845–1918) 1883 年的三分點集與其上定義的康托爾函數(魔鬼階梯)提供了第三型:連續、非遞減、從 0 升到 1,卻在一個測度為零的集合上完成全部增長——導數幾乎處處為零,卻不是常數。這種奇異分布(singular distribution)的發現震驚了分析學界,說明 CDF 的世界遠比「階梯 + 光滑曲線」豐富。Lebesgue 1902 年的積分理論最終把任意分布分解為離散、連續、奇異三部分之和(Lebesgue 分解定理),為 Kolmogorov 公理化提供了分析工具。

一個具體例題#

例題 2.1.1:設連續型隨機變數 \(X\) 的密度為

\[ f(x) = \begin{cases} c x^2, & 0 \le x \le 3, \\ 0, & \text{其他}. \end{cases} \]

(a) 求 \(c\) ;(b) 求 \(P(1 < X \le 2)\) ;(c) 求 \(X\) 的 CDF 並畫出示意;(d) 求 \(P(X > 2 \mid X > 1)\) 。

解:

(a) 由歸一性:

\[ \int_0^3 c x^2 \, dx = c \cdot \frac{27}{3} = 9c = 1 \quad\Rightarrow\quad c = \frac{1}{9}. \]

(b)

\[ P(1 < X \le 2) = \int_1^2 \frac{x^2}{9}\, dx = \frac{x^3}{27} \Big|_1^2 = \frac{8-1}{27} = \frac{7}{27} \approx 0.259. \]

(c) 當 \(0 \le x \le 3\) :

\[ F(x) = \int_0^x \frac{t^2}{9}\, dt = \frac{x^3}{27}, \]

且 \(F(x) = 0\) ( \(x < 0\) )、 \(F(x) = 1\) ( \(x > 3\) )。 \(F\) 是光滑遞增的曲線,在 \(x=3\) 處達到 1——與離散 CDF 的階梯形成對照。

(d) 由條件機率:

\[ P(X > 2 \mid X > 1) = \frac{P(X > 2)}{P(X > 1)} = \frac{1 - 8/27}{1 - 1/27} = \frac{19/27}{26/27} = \frac{19}{26} \approx 0.731. \]

注意單點機率為零使 \(P(X > 2 \mid X > 1)\) 也可寫成 \(P(X > 2) / P(X > 1)\) 不加修正——這在離散情形(如 \(X\) 為整數)是錯的,因為 \(P(X > 1)\) 與 \(P(X \ge 1)\) 不同。這正是連續與離散世界的實用差異之一。

歷史啟示#

  • 函數觀念是機率論的成年禮:從「事件的機率」到「變數的分布」,機率論才得以與微積分、微分方程深度接軌。
  • 統一語言的力量:CDF 讓離散與連續共享一套描述,二十世紀更把語言推廣到任意測度空間。
  • 悖論是概念的 X 光:Bertrand 悖論與康托爾函數揭示了「等可能」「連續分布」這些直觀的內部裂縫,逼出公理化。
  • 機率零的哲學:連續世界裡每個具體結果都「不會發生」,事件卻總會發生——這個弔詭預示了測度論必要性。

與其他章節及領域的關聯#

  • 1.2 節:樣本空間是隨機變數的定義域,古典機率是 PMF 的特例。
  • 2.2 節:期望值與變異數是對分布的兩個「總結數字」,求和(離散)與積分(連續)在此統一。
  • 3 章:本節的 PMF/PDF 語言將裝載二項、Poisson、常態、Gamma 等具體分布。
  • 5.3 節:Kolmogorov 公理以測度論收編本節全部概念,並解決 Bertrand 悖論。
  • 7.2 節:Wiener 過程的樣本路徑連續但處處不可微——「連續型」概念的極限推廣。
  • 物理:統計力學中分子的速度分布(Maxwell 1860)是 PDF 概念在物理中的獨立誕生。

練習#

  1. 擲一顆偏心骰子,出現 1 至 6 的機率與點數成正比。寫出 \(X\) 的 PMF 與 CDF,並求 \(P(2 < X \le 5)\) 。
  2. 設 \(f(x) = 2x\) ( \(0 \le x \le 1\) )。求 \(c\) 使其為密度(若需要)、 \(P(X \le 0.5)\) 、以及使 \(P(X \le t) = 0.9\) 的 \(t\) (即 90 分位數)。
  3. 仿例題 2.1.1,對密度 \(f(x) = \frac{3}{64} x^2\) ( \(0 \le x \le 4\) )求 CDF 與 \(P(X > 2 \mid X > 1)\) 。
  4. 說明為什麼「 \(P(X = c) = 0\) 」不意味「 \(X\) 不可能等於 \(c\) 」。並用幾何機率(在 \([0,1]\) 隨機取點)舉例。
  5. 思考題:Bertrand 悖論的三種解法分別對應什麼「隨機取弦」的物理程序?請各設計一個可實作的實驗。

進階研讀:隨機變數概念的五個深化場景#

場景一:分布不僅是數字——函數型隨機變數。隨機變數不必取實值:取值於 \(\mathbb{R}^n\) 的隨機向量、取值於函數空間的隨機函數(如 7.2 節的 Wiener 過程)、取值於集合的隨機集合。Kolmogorov 公理的偉大之處在於它對「取值空間」毫無預設——只要事件 \(\sigma\) -代數存在,任何結構上的機率皆可定義。這是現代隨機過程與機器學習(隨機矩陣、隨機圖)的形式基礎。

場景二:轉換技巧(change of variables)。若 \(Y = g(X)\) 且 \(g\) 嚴格單調可微,則 \(f_Y(y) = f_X(g^{-1}(y)) \left| \frac{d g^{-1}}{dy} \right|\) 。這個公式背後是 Jacobian 的幾何意義(參見《微積分》教材 7.2 節座標變換),在多維情形成為統計模擬(如反函數法、Box–Muller 變換生成常態亂數)的引擎。

場景三:反函數法與模擬的誕生。若 \(F\) 連續且 \(U \sim \text{Uniform}(0,1)\) ,則 \(F^{-1}(U)\) 之分布恰為 \(F\) 。這條簡單定理是所有統計模擬(10.2 節蒙地卡羅)的第一塊積木:只要能造均勻亂數,理論上就能模擬任何分布。歷史上 Ulam 與 von Neumann 1946 年設計蒙地卡羅時,第一個要解決的技術問題正是「如何從給定分布抽樣」。

場景四:奇異分布與分形。康托爾函數的增長集中在康托爾集上,而康托爾集正是最經典的分形(自相似、維度 \(\log 2 / \log 3 \approx 0.63\) )。二十世紀的遍歷理論、混沌動力學中的奇異不變測度(如 logistic 映射)都屬於此類分布——「分形上的機率」成為描述混沌系統的標準工具,這是 1883 年 Cantor 完全無法預見的後裔。

場景五:經驗分布與 Glivenko–Cantelli 定理。統計學家手上只有樣本 \(X_1, \ldots, X_n\) ,其經驗 CDF \(F_n(x) = \frac{1}{n} \sum \mathbf{1}\{X_i \le x\}\) 是「數據版的分布函數」。Glivenko–Cantelli 定理(1933)證明 \(\sup_x |F_n(x) - F(x)| \to 0\) 幾乎必然——經驗分布在全域一致收斂到真分布。這條定理把「分布」從數學抽象變成可從數據逼近的實體,是無母數統計與現代機器學習(經驗風險最小化)的理論基石,同時呼應 5.1 節大數法則。

名詞速查表(本節出現的核心術語)#

  • 隨機變數:樣本空間上的實值函數 \(X : \Omega \to \mathbb{R}\) 。
  • 累積分布函數(CDF): \(F(x) = P(X \le x)\) ,右連續、非遞減、極限 0 與 1。
  • 機率質量函數(PMF):離散分布的 \(P(X = x_i)\) 。
  • 機率密度函數(PDF): \(F\) 的導數 \(f\) ,滿足歸一性 \(\int f = 1\) 。
  • 幾何機率:以長度、面積、體積為等可能基礎的機率。
  • Bertrand 悖論:「隨機」未指定測度時答案不唯一的悖論。
  • 奇異分布:集中在測度零集合上的連續分布(如康托爾測度)。
  • Lebesgue 分解:任意分布 = 離散 + 連續 + 奇異的唯一分解。
  • 經驗分布函數:樣本構造的 CDF \(F_n\) ,Glivenko–Cantelli 一致收斂。

年表速查(本節涉及的關鍵年份)#

  • 1733:de Moivre 導出常態密度(未用「密度」一詞)。
  • 1809:Gauss 以誤差密度確立連續分布的實用典範。
  • 1860:Maxwell 導出氣體分子速度分布,物理中的獨立密度傳統。
  • 1883:Cantor 構造三分點集,奇異分布的原料問世。
  • 1889:Bertrand《機率計算》提出弦悖論,幾何機率危機。
  • 1902:Lebesgue 積分理論,密度概念獲得嚴格基礎。
  • 1909:Borel 論「隨機數」的測度論分析與強大數法則。
  • 1933:Kolmogorov《機率論基礎》,隨機變數=可測函數。
  • 1933:Glivenko–Cantelli 定理,經驗分布一致收斂。
  • 1946:Ulam 與 von Neumann 發展蒙地卡羅,抽樣理論工程化。

深化問答三則#

問:為什麼說「隨機變數」這個名字是歷史誤會? 答:它既不隨機(函數是完全確定的規則)也不是變數(不是待定的量),而是樣本空間上的可測函數。名稱承襲十九世紀「誤差變數」的物理直觀。現代教科書偶用「random variable」的更準確別名「measurable function」,但歷史名稱已定——許多數學名詞(如「有理數」「虛數」)都攜帶著過時的哲學包袱。

問:離散與連續的界線在實務上重要嗎? 答:概念上重要(求和 vs. 積分、單點機率是否為零),實務上常可互換:人口身高本質離散(分子組成)卻以連續建模;計數資料本質離散卻在大尺度下以連續近似(如 Poisson → 常態)。這種「模型置換」的合法性由誤差界(如 5.2 節的收斂速率)保證——數學的嚴格性使「講究」與「將就」都能明碼標價。

問:康托爾函數「導數幾乎處處為零卻上升」矛盾嗎? 答:不矛盾,矛盾只在對「積分還原導數」的期待。微積分基本定理要求函數絕對連續,而康托爾函數不是——它把增長藏在測度零的分形上,Lebesgue 積分「看不見」這部分增長。這正是 Lebesgue 分解定理要精確刻畫的現象,也顯示 Riemann 積分(見《微積分》教材 3.2 節)的框架不足以承載機率論,Lebesgue 積分成為必須。

(本節完)