3.1 Bernoulli、二項與 Poisson#
本章導言#
最簡單的隨機事件只有兩種結局:成功或失敗。把這個「一次試驗」重複 \(n\) 次、計數成功次數,就得到二項分布;當試驗次數大而單次機率小、只關心「罕見事件發生幾次」時,二項分布極限為 Poisson 分布。這三個分布在 1713 年至 1838 年間先後成形,至今仍是計數資料統計的支柱。
Bernoulli 分布:最小單元#
一次成功機率為 \(p\) 的試驗,結果變數 \(X \in \{0, 1\}\) 服從 Bernoulli 分布:
顯然 \(\mathbb{E}[X] = p\) 、 \(\operatorname{Var}(X) = pq\) 。這個分布以 Jacob Bernoulli(雅各.白努利,1654–1705) 命名——他生前完成了史上第一部機率巨著《推測術》(Ars Conjectandi),死後由侄子 Nicolaus 於 1713 年出版。書中最著名的貢獻是大數法則(5.1 節),但作為理論基石的「兩點分布」也在此書的計數框架中首次被系統使用。
二項分布:n 次試驗的計數#
\(n\) 次獨立同分布的 Bernoulli 試驗中成功次數 \(X\) 服從二項分布:
由 1.2 節的組合數直接得出;其期望與變異數:
歷史上這個公式的誕生過程饒有趣味。Jacob Bernoulli 在《推測術》中處理了「多次試驗至少成功 \(k\) 次」的問題;他的侄子 Nicholas Bernoulli(1687–1759) 在 1713 年版書中提出了著名的射擊問題(發彈 10 發、單發命中率 \(\frac{1}{5}\) ,求至少 5 發命中的機率);de Moivre 在 1711–1718 年《機遇原理》中系統化二項機率的計算,並在 1730 年《分析雜論》中以 Stirling 公式( \(n! \sim \sqrt{2\pi n}\, (n/e)^n\) ,Stirling 1730、de Moivre 同期獨立獲得)逼近二項係數——這條路徑直接通向 1733 年的常態極限(3.2 與 5.2 節)。
二項分布最著名的歷史應用是 Laplace 對男嬰出生率的檢驗(1781 年起):他檢視倫敦、巴黎、聖彼得堡近半百萬出生紀錄,男嬰比例 \(p \approx \frac{22}{43} \approx 0.512\) ,且以二項分布的機率計算證明「 \(p = \frac{1}{2}\) 」的假設在巴黎數據下極不合理(偏差超過 25 個標準差)——這是史上第一個大規模的統計假設檢驗,比 Gosset 早了一百三十年。
Poisson 分布:罕見事件的定律#
Poisson 分布(Siméon Denis Poisson(卜瓦松,1781–1840),1838 年《刑事與民事判決中機率的應用》):
它作為二項分布的極限誕生:令 \(n \to \infty\) 、 \(p \to 0\) 、 \(np \to \lambda\) ,則
證明思想(Laplace 1837 年已有類似結果;Poisson 給出系統闡述):寫 \(\binom{n}{k}p^k \approx \frac{(np)^k}{k!}\) (固定 \(k\) ),且 \(\left(1 - \frac{\lambda}{n}\right)^n \to e^{-\lambda}\) 。期望與變異數同為 \(\lambda\) ——「均值即方差」是 Poisson 分布的身份證明,實務上常用來診斷計數資料是否超離散(overdispersion)。
Poisson 研究它的動機是司法統計:判決錯誤是罕見事件,「冤案數」適合用罕見事件分布建模。真正讓此分布走紅的是 Ladislaus von Bortkiewicz(1868–1931) 1898 年的專著《小數法則》:他分析普魯士 14 個騎兵團 20 年的紀錄,士兵被馬踢死屬罕見事件,理論 Poisson 頻率與實際頻率吻合得驚人(例如 \(\lambda \approx 0.61\) 時,理論預測 108.7 個團年零死亡、實際 109 個)。「小數法則」之名與 Poisson「大數法則」之名相映成趣。
三個分布的譜系#
| 分布 | 參數 | 支持 | 期望 | 變異數 | 誕生年 |
|---|---|---|---|---|---|
| Bernoulli | \(p\) | \(\{0,1\}\) | \(p\) | \(pq\) | 1713 |
| Binomial | \(n, p\) | \(\{0, \ldots, n\}\) | \(np\) | \(npq\) | 1713 |
| Poisson | \(\lambda\) | \(\{0,1,2,\ldots\}\) | \(\lambda\) | \(\lambda\) | 1838(極限關係 1837 前) |
三者的 MGF(見 2.3 節):Bernoulli \(M(t) = q + pe^t\) ;二項 \(M(t) = (q + pe^t)^n\) ;Poisson \(M(t) = e^{\lambda(e^t - 1)}\) 。由 MGF 相乘律立即看出「獨立二項之和(同 \(p\) )仍是二項、獨立 Poisson 之和仍是 Poisson」——可加性是這個家族的內在秩序。
一個具體例題#
例題 3.1.1:某醫院急診室平均每小時有 2.5 起車禍傷患就診。(a) 用 Poisson 分布求一小時內恰有 5 起的機率;(b) 求一小時內超過 4 起的機率;(c) 證明此問題以 4800 個「每 0.75 秒為一格」的 Bernoulli 近似(每人一格、每格 2.5/4800)時,誤差可以忽略。
解:
(a) \(\lambda = 2.5\) :
(b) 逐項計算或用互補:
(c) 罕見事件格點化: \(n = 4800\) 、 \(p = \frac{2.5}{4800} \approx 0.000521\) ,則 \(np = 2.5 = \lambda\) 。由 Poisson 極限定理,
相對誤差量級為 \(O(np^2) \approx 0.0013\) (更精確的界可證相鄰分布機率的逐項比值偏差不超過 \(\frac{np^2}{2(1-p)}\) 量級)——工程上完全可忽略。這個「把時間切成極細格、每格發生機率極小」的圖像,正是 6.3 節 Poisson 過程的建構起點:Poisson 分布是 Poisson 過程在固定時間窗上的快照。
歷史啟示#
- 極限創造新對象:Poisson 分布不是「發明」的,而是從二項分布的極限中「湧現」的——數學中許多重要對象都是極限過程的孩子。
- 司法統計的遠見:Poisson 用數學研究冤案機率,開啟了「社會數據的機率建模」;Bortkiewicz 的馬踢數據則證明理論可以接受自然界的檢驗。
- 可加性即家族秩序:MGF 相乘律揭示的「和仍同族」性質,使這三個分布在建立抽樣理論與品質管制(如 Shewhart 管制圖 1924)時成為標準零件。
- 從賭桌到出生率:Laplace 的男嬰統計顯示,同一套二項工具可以從骰子移到百萬人的公共數據——統計學的社會科學化由此啟程。
與其他章節及領域的關聯#
- 1.2 節: \(\binom{n}{k}\) 是二項分布的組合核心。
- 2.3 節:MGF 相乘律統一了三者的可加性證明。
- 5.1 節:Jacob Bernoulli 的大數法則正是「頻率收斂到 \(p\) 」的二項分布理論。
- 6.3 節:Poisson 過程是 Poisson 分布的動態化,兩者以「時間窗快照」相連。
- 8.3、9.2 節:二項比例的檢定與區間估計(如 Pearson 卡方 1900 年的適合度檢定)是本節分布的推論學。
- 品質管制:二項不良率管制圖與 Poisson 缺點數管制圖是二戰後工業統計的標準工具。
- 天文學與生態學:星空計數、物種分布的 Poisson 檢驗是二十世紀初的經典應用。
練習#
- 設 \(X \sim \text{Binomial}(10, 0.3)\) 。求 \(P(X \le 2)\) ,並用 Poisson( \(\lambda = 3\) ) 近似比較誤差。
- 某網站平均每分鐘收到 4 個請求,服從 Poisson。求 30 秒內零請求與至少 3 個請求的機率。
- 證明二項分布的眾數為 \(\lfloor (n+1)p \rfloor\) (並說明 \((n+1)p\) 為整數時有雙眾數)。
- 用遞迴關係 \(P(X = k+1) = \frac{\lambda}{k+1} P(X = k)\) 說明如何快速計算 Poisson 機率表,並以 \(\lambda = 2.5\) 計算前四項。
- 思考題:Bortkiewicz 的騎兵數據為何需要「團×年」作為觀測單位而非「年」?請討論計數資料建模中「單位選擇」與 Poisson 過程(6.3 節)速率 \(\lambda\) 的關係。
進階研讀:計數分布的五個深化場景#
場景一:De Moivre–Laplace 局部與積分極限。二項機率在 \(k \approx np\) 處有常態近似: \(P(X = k) \approx \frac{1}{\sqrt{2\pi npq}} e^{-(k-np)^2/(2npq)}\) (局部定理,de Moivre 1733);部分和則有積分版本(Laplace 1812),加上 0.5 的連續性修正後精度大增。這條 1733 年的路是中央極限定理(5.2 節)的誕生地。
場景二:稀疏化與超位置。Poisson( \(\lambda\) ) 中以機率 \(p\) 標記每個事件、只計標記者,得 Poisson( \(\lambda p\) )——稀疏化。反過來,多個獨立 Poisson 之和是 Poisson(和參數)——超位置。這兩條性質使 Poisson 過程(6.3 節)成為排隊理論「多來源流量匯聚與分流」的標準模型,Palm(1943)與 Khinchine(1955)的排隊論經典以此為地基。
場景三:負二項分布與超離散。實際計數資料常「方差大於均值」(如流行病傳染、生態群聚)。把 Poisson 的 \(\lambda\) 本身隨機化(取 Gamma 分布再混合)得到負二項分布(Neyman 1939 年的傳染分布是相關家族)。這個「混合模型」策略是現代統計中 GLM(廣義線性模型,Nelder–Wedderburn 1972)處理計數資料的標準手法,也示範了「分布的分布」這個建構原理。
場景四:Bernoulli 試驗的相依擴充。真實世界的試驗常不獨立:抽樣不放回使成功次數服從超幾何分布(彩票中獎、生態標記再捕獲的基礎);Markov 依賴則導向 6.2 節的鏈。de Moivre 在《機遇原理》問題 XXXV 已處理超幾何型的「賭局中勝局數」問題,顯示相依計數與獨立計數同樣古老。
場景五:Poisson 分布與證明深度。Poisson 極限的現代最短證明用特徵函數:Binomial( \(n,p\) ) 的 PGF \((1 - p + ps)^n \to e^{\lambda(s-1)}\) ( \(np = \lambda\) 固定),由 PGF 收斂定理即得。更一般地,Le Cam(1960)定理給出二項與 Poisson 的總變差距離上界 \(\le n p^2\) (即 \(\frac{\lambda^2}{n}\) )——「近似品質」可以量化,這是二十世紀機率論把「極限」升級為「誤差界」的又一範例。
名詞速查表(本節出現的核心術語)#
- Bernoulli 分布:單次成敗試驗, \(\mathbb{E} = p\) 、 \(\operatorname{Var} = pq\) 。
- 二項分布: \(n\) 次獨立試驗成功次數, \(\mathbb{E} = np\) 、 \(\operatorname{Var} = npq\) 。
- Poisson 分布:罕見事件計數, \(\mathbb{E} = \operatorname{Var} = \lambda\) 。
- Poisson 極限定理: \(n \to \infty\) 、 \(np \to \lambda\) 時二項 \(\to\) Poisson。
- 小數法則:Bortkiewicz 對 Poisson 分布經驗驗證的稱呼。
- 超離散:方差大於均值的計數資料,常以負二項建模。
- 稀疏化/超位置:Poisson 型分布的分流與匯總性質。
- 超幾何分布:不放回抽樣的成功次數分布。
年表速查(本節涉及的關鍵年份)#
- 1713:Jacob Bernoulli《推測術》出版(去世後,由侄子整理)。
- 1711–1718:de Moivre《機遇原理》系統化二項機率。
- 1730:de Moivre《分析雜論》,Stirling 型公式逼近二項係數。
- 1733:de Moivre 導出二項的常態極限。
- 1781 起:Laplace 以二項分布檢驗男嬰出生率。
- 1837:Laplace(於遺稿/書信)與 Poisson 給出二項→Poisson 極限。
- 1838:Poisson《判決機率應用》發表其分布。
- 1898:Bortkiewicz《小數法則》,騎兵數據驗證。
- 1924:Shewhart 管制圖,計數分布在工業統計落地。
- 1939:Neyman 傳染分布,超離散計數模型。
- 1960:Le Cam 給出 Poisson 近似的定量誤差界。
- 1972:Nelder–Wedderburn GLM,計數回歸標準化。
深化問答三則#
問:為什麼 Poisson 分布的均值和方差一定相等? 答:由極限機制看:二項的方差 \(npq = np(1-p) \to \lambda \cdot 1\) ,而 \(np \to \lambda\) ,兩者在「 \(p \to 0\) 」的極限下重合。由結構看:Poisson 是「事件彼此互不干擾」的極限模型,事件之間無擠壓也無吸引,散布恰由計數的隨機性決定。實務上若觀測到方差明顯大於均值,即表示事件有群聚或異質——這個診斷法(離散指數 \(D = s^2/\bar{x}\) )在生態學中稱為方差均值比檢定。
問:Laplace 檢驗男嬰比例的方法與現代假設檢定有何異同? 答:相同處:都以「若 \(p = 1/2\) ,觀測偏差的機率」為判準,本質是尾機率(p-值)思想。不同處:Laplace 是貝氏學派,他實際上計算的是「給定數據後 \(p\) 落在某區間」的後驗機率(1.3 節),只是形式上等價於雙尾檢定。現代讀者應注意:同一計算、兩種詮釋(9.3 節將再現這個對比)。
問:為什麼罕見事件在自然界如此普遍地服從 Poisson? 答:Poisson 只需要三個條件:(1) 在微小區間內事件機率與區間長度成正比;(2) 獨立區間互不影響;(3) 瞬時兩起事件機率可忽略。任何「大量獨立小機會、偶爾爆發」的系統——放射性衰變、電話呼叫、基因突變、保險索賠——都自動滿足。這是「極限定律」優於「機制模型」的典範:不必知道微觀細節,只要滿足稀疏性條件,分布形狀就被決定。
(本節完)