跳轉到

3.3 指數、Gamma 與其他分布#

本章導言#

計數分布與常態曲線之外，科學最需要的第三類分布是壽命與等待時間：燈泡能用多久、放射性原子何時衰變、顧客多久後抵達。指數分布是「無記憶壽命」的極限模型，Gamma 分布是「等待第 \(k\) 件事」的分布，兩者在 1910 年代以後隨可靠度工程與排隊論成為主角。本節還將巡禮均勻、Beta、卡方等分布，構成本書的「分布動物園」總覽。

指數分布：無記憶的壽命#

指數分布 \(Exp(\lambda)\) 的密度為：

\[ f(x) = \lambda e^{-\lambda x}, \qquad x \ge 0, \]
\[ \mathbb{E}[X] = \frac{1}{\lambda}, \qquad \operatorname{Var}(X) = \frac{1}{\lambda^2}, \qquad P(X > t) = e^{-\lambda t}. \]

它從 Poisson 過程（6.3 節）中誕生：事件依速率 \(\lambda\) 隨機發生時，相鄰兩事件的間隔服從 \(Exp(\lambda)\) 。指數分布的定義性質是無記憶性：

\[ P(X > s + t \mid X > s) = P(X > t), \qquad s, t \ge 0. \]

證明一行： \(P(X > s+t)/P(X > s) = e^{-\lambda(s+t)} / e^{-\lambda s} = e^{-\lambda t}\) 。用壽命語言：活到此刻的燈泡，剩餘壽命的分布與新品相同——「用過不代表折舊」。事實上無記憶性完全刻畫指數分布：任何非負連續分布若有此性質必為指數（由函數方程 \(R(s+t) = R(s)R(t)\) 與連續性立得， \(R(t) = P(X>t)\) 為生存函數）。

無記憶性使指數分布「方便但受限」：真實機械有磨損（失效率遞增）、嬰兒有免疫建構（失效率遞減）。Weibull 分布（Waloddi Weibull（韋伯，1887–1979），1939、1951 年推廣應用）以失效率 \(\propto t^{\beta - 1}\) 的形狀參數 \(\beta\) 統一三種情形（ \(\beta < 1\) 早期失效、 \(\beta = 1\) 指數、 \(\beta > 1\) 磨損失效），1951 年論文以 13 種實例（鋼材疲勞、紗線強度）說服工程界，成為可靠度工程的第一工具。

Gamma 分布：等待 k 件事#

獨立 \(Exp(\lambda)\) 間隔 \(T_1, T_2, \ldots\) 之和 \(S_k = T_1 + \cdots + T_k\) 表示「第 \(k\) 事件的到達時間」，服從 Gamma 分布 \(\Gamma(k, \lambda)\) ：

\[ f(x) = \frac{\lambda^k}{\Gamma(k)} \, x^{k-1} e^{-\lambda x}, \qquad x \ge 0, \]

其中 \(\Gamma(k) = (k-1)!\) 為伽瑪函數的整數值。期望 \(\frac{k}{\lambda}\) 、變異數 \(\frac{k}{\lambda^2}\) 。由 MGF（2.3 節例題） \(M(t) = \left(\frac{\lambda}{\lambda - t}\right)^k\) 與相乘律，可知「 \(k\) 個獨立指數之和」的封閉性——Gamma 是指數的可加閉包，正如 Poisson 是 Bernoulli 的極限閉包。形狀參數 \(k\) 連續化後，Gamma 亦是「部分和的分布族」： \(\Gamma(\alpha, \lambda)\) 加 \(\Gamma(\beta, \lambda)\) 等於 \(\Gamma(\alpha + \beta, \lambda)\) 。

Gamma 的兩個著名特例： \(k = 1\) 為指數；卡方分布 \(\chi^2_n\) = \(\Gamma(\frac{n}{2}, \frac{1}{2})\) ，由 Karl Pearson 1900 年的適合度統計量、Fisher 1922–24 年的理論完備化——它以「常態平方和」的身份成為統計檢定的引擎（8.3、9.2 節）。歷史上伽瑪函數 \(\Gamma(z) = \int_0^\infty t^{z-1} e^{-t} dt\) 由 Euler 1729–30 年（插值 \(n!\) 的問題）引入，Legendre 1814 年命名並記為 \(\Gamma\) ——一個插值問題的孩子最終成為壽命統計的語言。

均勻與 Beta：從「等可能」到「先驗的形狀」#

均勻分布 \(U(a,b)\) 是 1.2 節「等可能」思想的連續化身；其條件分布性質（在已知 \(U \le c\) 時重新均勻）與反函數抽樣法（2.1 節場景三）使其成為模擬的源頭分布。

Beta 分布 \(Beta(a, b)\) 支撐在 \([0,1]\) ：

\[ f(x) = \frac{x^{a-1}(1-x)^{b-1}}{B(a,b)}, \qquad B(a,b) = \frac{\Gamma(a)\Gamma(b)}{\Gamma(a+b)}. \]

它與 Gamma 有深刻血緣（ \(Beta = \frac{X}{X+Y}\) ， \(X, Y\) 獨立 Gamma），在貝氏統計（1.3 節場景二）中是二項比例的共軛先驗；Bayes 1763 年的原始論文實際上已在均勻先驗下使用了這個結構。Pearson 1890 年代的 Type I 分布族、Fisher 的似然理論，都以 Beta 為標準範例。

分布動物園總覽#

分布 家族 誕生脈絡 現代主戰場
均勻 連續 古典等可能 模擬、蒙地卡羅
指數 連續 Poisson 過程間隔 可靠度、排隊
Gamma 連續 k 個指數和 等待時間、卡方
Weibull 連續 失效率形狀化 工程可靠度
Beta 連續 比例、共軛先驗 貝氏統計
卡方 連續 常態平方和 檢定、方差推論
Poisson 離散 罕見事件 計數資料、流量
負二項 離散 Poisson 混合 生態、流行病
對數常態 連續 乘積效應 財務、規模分布

這張表是「分布的家族樹」：每個分布都是某個操作（求和、取比例、混合、取對數）的產物。理解分布的最好方法不是背密度式，而是理解它的誕生操作。

一個具體例題#

例題 3.3.1：某伺服器的請求依 Poisson 過程以速率 \(\lambda = 2\) （次/秒）抵達。(a) 求相鄰請求間隔超過 2 秒的機率；(b) 求第 3 個請求的到達時間 \(S_3\) 的分布、期望與標準差；(c) 已知前 1 秒無請求，求「再等 2 秒內會有請求」的機率。

解：

(a) 間隔 \(T \sim Exp(2)\) ：

\[ P(T > 2) = e^{-2 \times 2} = e^{-4} \approx 0.0183. \]

(b) \(S_3 \sim \Gamma(3, 2)\) ，密度 \(f(s) = \frac{2^3}{2!} s^2 e^{-2s} = 4 s^2 e^{-2s}\) （ \(s \ge 0\) ）；

\[ \mathbb{E}[S_3] = \frac{3}{2} = 1.5 \text{ 秒}, \qquad \sigma_{S_3} = \frac{\sqrt{3}}{2} \approx 0.866 \text{ 秒}. \]

(c) 這是無記憶性的直接應用。令 \(T\) 為自現在起的下一事件間隔（因指數無記憶，歷史可拋棄）：

\[ P(T \le 2 \mid \text{前 1 秒無事}) = P(T \le 2) = 1 - e^{-4} \approx 0.9817. \]

對照提醒：若間隔服從 Weibull( \(\beta > 1\) )（磨損型），此答案會大於 \(1 - e^{-4}\) 的無條件值——「等了這麼久，快了吧」的直覺在遞增失效率下是對的、在指數下是錯的。判斷直覺是否成立，取決於分布的失效率形狀，這正是 Weibull 家族存在的理由。

歷史啟示#

  • 從賭局到壽命：機率論的第一批分布屬於賭桌（離散、等可能），第二批屬於誤差（常態），第三批屬於時間（指數、Gamma）。分布史的每一章都對應人類把數學押上去的新領域。
  • 操作產生分布：求和產生 Gamma、混合產生負二項、取比例產生 Beta——「分布動物園」不是清單而是代數系統，這是 Pearson 動差法之後統計學最重要的觀念進步。
  • 無記憶性：簡潔與失真的交換：指數分布的方便性（可算性）與其失真（忽略磨損）是同一性質的兩面；Weibull 用一個參數恢復了現實，代價是失去無記憶的可加結構。
  • 函數方程的力量：由 \(R(s+t) = R(s)R(t)\) 解出 \(e^{-\lambda t}\) ，是「性質刻畫分布」的範式；此後「唯一性定理」成為機率論的標準產物（如特徵函數唯一性、2.3 節）。

與其他章節及領域的關聯#

  • 3.1 節：Poisson 過程與指數間隔是同一枚硬幣的兩面（6.3 節正式化）。
  • 5.2 節：Gamma( \(n\) ) 與 \(\chi^2_n\) 在大形狀參數下趨常態，是中央極限定理的特例演練。
  • 7.3 節：擴散的首次穿越時間分布屬 Lévy 穩定家族，與本節的等待時間思想同源。
  • 8.3、9.2 節：卡方分布承載 Pearson 與 Neyman–Pearson 的檢定理論。
  • 可靠度工程：浴缸曲線（早期失效–穩定期–磨損期）以 Weibull 混合建模，是二戰後電子工業的方法論基石。
  • 生物：細胞分裂間隔、物種存續時間的指數檢驗；神經放電的間隔統計（ISI 分析）是現代神經科學的標準量。

練習#

  1. 設 \(T \sim Exp(0.5)\) 。求 \(P(T > 3)\) 、 \(P(T > 5 \mid T > 2)\) 、中位數（使 \(P(T \le m) = 0.5\) 的 \(m\) ）。
  2. 證明：若 \(X\) 為非負連續隨機變數且對一切 \(s, t \ge 0\) 滿足 \(P(X > s + t) = P(X > s)P(X > t)\) ，則 \(X \sim Exp(\lambda)\) 對某 \(\lambda > 0\) 。
  3. 顧客依速率 \(\lambda = 4\) （人/分）的 Poisson 過程抵達。求第 5 位顧客在 1 分鐘內抵達的機率（提示： \(S_5 \sim \Gamma(5,4)\) ，或用 Poisson 計數等價 \(P(N(1) \ge 5)\) ）。
  4. 設 \(X_1, X_2\) 獨立 \(Exp(1)\) 。證明 \(\frac{X_1}{X_1 + X_2} \sim Beta(1,1)\) 即均勻，並解釋此結果的幾何意義。
  5. 思考題：浴缸曲線中「穩定期」近似指數。若電子產品的保固期設在穩定期內，指數假設合理；若設在磨損期，會發生什麼商業後果？請用失效率的語言討論。

進階研讀：等待時間思想的五個深化場景#

場景一：失效率與生存分析。失效率函數 \(h(t) = f(t)/R(t) = -\frac{d}{dt}\log R(t)\) 完全決定分布： \(R(t) = e^{-\int_0^t h}\) 。指數 \(h\) 常數、Weibull \(h \propto t^{\beta-1}\) 。Cox（1972）的比例危險模型讓 \(h(t) = h_0(t) e^{\beta^\top x}\) ，把共變數引入壽命分析，成為醫學統計引用次數最高的論文之一——「壽命分布的動物園」在 1970 年代變成了迴歸框架。

場景二：混合與異質性。若 \(\lambda\) 隨個體異質、依 Gamma( \(\alpha, \beta\) ) 分布，群體層面的壽命分布成為 Pareto 型厚尾： \(R(t) = \mathbb{E}[e^{-\lambda t}] = \left(\frac{\beta}{\beta + t}\right)^\alpha\) 。這個「Gamma 混合指數 = 帕累托」的恆等式（1970 年代可靠度文獻）解釋了為何公司壽命、人類壽命的高齡段、軟體專案存續常呈冪律：異質性自動產生厚尾。

場景三：極值理論。「最弱的鏈環何時斷」—— \(n\) 個獨立元件最小壽命 \(\min X_i\) 的極限是 Weibull 極值分布（Fisher–Tippett–Gnedenko 三型之一，1928/1943），而極大值的極限是 Gumbel、Fréchet、Weibull 三型。防洪設計（百年洪水）、材料疲勞、金融風險（EVT 值險）都以極值理論為基礎——等待「最壞事件」的數學，與等待「下一事件」的指數分布是表親。

場景四：重整化與穩定等待。當事件間隔厚尾（如 Cauchy 型）， \(\Gamma\) 型的「 \(k\) 個間隔和」理論失效： \(S_k/k\) 不收斂（大數法則失效，5.1 節場景五），「等待第 \(k\) 件事」的時間不線性增長而呈超線性。這種亞擴散／超擴散在無序材料中輸運、搜尋策略（Lévy 飛行覓食）中出現——指數假設的失效反而開啟了新的物理與生態學。

場景五：從 Gamma 到 Dirichlet 與機器學習。Beta 的多維推廣 Dirichlet 分布（各分量和為 1 的比例向量）是主題模型（LDA, Blei–Ng–Jordan 2003）與貝氏非參數（Dirichlet 過程, Ferguson 1973）的基石——「比例的分布」在二十一世紀成為文本與聚類建模的核心。Gamma 家族從十九世紀的等待時間，一路演進到今日的機率式程式設計（Stan、PyMC 中的先驗積木）。

名詞速查表（本節出現的核心術語）#

  • **指數分布 \(Exp(\lambda)\) **：失效率常數的壽命分布，具無記憶性。
  • 無記憶性： \(P(X > s + t \mid X > s) = P(X > t)\) 。
  • **Gamma 分布 \(\Gamma(k, \lambda)\) **： \(k\) 個指數間隔之和； \(k\) 連續化後閉於卷積。
  • 伽瑪函數： \(\Gamma(z) = \int_0^\infty t^{z-1} e^{-t} dt\) ，階乘的插值。
  • **卡方 \(\chi^2_n\) **： \(\Gamma(\frac{n}{2}, \frac{1}{2})\) ，常態平方和。
  • Weibull 分布：失效率 \(\propto t^{\beta-1}\) ，可靠度工程的主力。
  • 失效率（hazard）： \(h(t) = f/R\) ，瞬時死亡速率。
  • Beta 分布： \([0,1]\) 上的比例分布，二項的共軛先驗。
  • 浴缸曲線：失效率先降後平再升的典型形狀。

年表速查（本節涉及的關鍵年份）#

  • 1729–30：Euler 引入伽瑪函數（插值 \(n!\) ）。
  • 1814：Legendre 命名並記錄 \(\Gamma\) 函數。
  • 1838：Poisson 過程思想的孕育（計數與間隔的雛形）。
  • 1900：Pearson 卡方統計量。
  • 1922–24：Fisher 完備卡方分布理論。
  • 1928、1943：Fisher–Tippett 與 Gnedenko 極值三型定理。
  • 1939、1951：Weibull 分布提出與實例推廣。
  • 1972：Cox 比例危險模型。
  • 1973：Ferguson 的 Dirichlet 過程。
  • 1982：GARCH 模型（厚尾時間序列）。
  • 2003：LDA 主題模型，Dirichlet 進入機器學習。

深化問答三則#

問：為什麼「等待時間」與「壽命」是同一數學？ 答：因為兩者都是「下一事件何時發生」：顧客的下一次抵達、機器的下一次故障、原子的衰變。數學上只需一個非負分布與其生存函數。差別只在語義（人們對機器壽命談失效率、對到達間隔談速率），而這種語義共用使排隊論與可靠度工程共享同一套定理——指數分布是它們的共同語言。

問：Gamma 分布為什麼在統計檢定中（以卡方之名）如此重要？ 答：因為檢定的原料是平方和：卡方統計量、樣本方差的分布（ \((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\) ）、變異數分析（ANOVA, Fisher 1925）的 F 分布（兩個卡方之比），全部由常態平方與構成，而平方和屬 Gamma 家族。可以說 Gamma 家族是「方差的世界」的血統，正如 Poisson 家族是「計數的世界」的血統。

問：無記憶性在真實世界存在嗎？ 答：嚴格的無記憶很少（機械、生物皆會老化），但有三類近似：放射性衰變（物理機制真正無記憶）、電子元件的偶發失效段（浴缸底部）、以及「異質群體的總體」——若個體失效率異質且混合，群體層面短期行為近似指數。實務智慧是：指數不是描述個體壽命的律，而是描述均質隨機環境中事件流的律。

（本節完）