3.2 常態分布:Gauss 誤差曲線(1809)#
本章導言#
沒有任何分布比鐘形曲線更常出現在科學文獻中。它的數學形式在 1733 年由 de Moivre 首次導出,1809 年被 Gauss 從誤差理論中重新發現並賦予崇高地位,Laplace 在 1810 年完成它的極限定理論證,Quetelet 在十九世紀中葉把「常態」推廣到人類社會數據。本節講述這條曲線如何從誤差理論走向「萬物之律」——以及它如何被濫用又被矯正。
誤差曲線的誕生:de Moivre 1733#
常態密度的首次出現是在 de Moivre 1733 年(拉丁文短文,後收入 1738 年《機遇原理》第二版)對二項分布極限的研究:當 \(n\) 大時,
de Moivre 需要逼近 \(\binom{n}{k} p^k q^{n-k}\) 的中心值,Stirling 公式提供 \(n!\) 的漸近,指數部分完成 Taylor 展開即得鐘形。de Moivre 自己視之為「二項分布的近似工具」,並未意識到這條曲線將成為機率論的統治者。同時代的 Thomas Simpson(1710–1761) 在 1755–1757 年以多種誤差假設討論觀測誤差,天文學家 Tobias Mayer(1723–1762) 1750 年以算術平均處理月球觀測——「誤差該服從什麼分布」成為十八世紀後半的公共問題。
Gauss 1809:從最小平方原理導出誤差律#
Carl Friedrich Gauss(高斯,1777–1855) 在 1809 年《天體運動論》(Theoria motus corporum coelestium)中做了一件石破天驚的事:反過來推導。他假設「算術平均是最可信賴的估計」這條公理,證明唯一能使平均成為最大概似估計的誤差密度就是常態:
Gauss 進而在此誤差律下重推最小平方法(Legendre 1805 年已發表為計算方法,Gauss 聲稱自 1795 年起私下使用),並證明常態誤差下最小平方估計量是最有效的(估計量的方差最小,見 8.1 節)。這一整套「公理 → 誤差律 → 最優估計」的邏輯鏈,是數理統計學的誕生宣言。Gauss 因此在德國稱常態曲線為「Gauss 誤差律」,英法則稱「拉普拉斯—高斯曲線」——命名之爭本身就是統計學史的縮影。
Laplace 隨後在 1810 年補上最後一塊拼圖:中央極限定理(當時的形式)證明大樣本下誤差必然趨近常態——誤差曲線從此獲得雙重合法性:Gauss 的公理推導 + Laplace 的極限定理。這個組合說服了整個科學界:「觀測誤差是常態的」成為十九世紀的教條。
曲線的性質#
常態密度 \(N(\mu, \sigma^2)\) 的核心性質:
- 由 \(\mu, \sigma\) 完全決定:知道這兩個數就知道一切。
- 對稱於 \(x = \mu\) ;反曲點在 \(\mu \pm \sigma\) 。
- 線性變換封閉: \(aX + b\) 仍為常態。
- 可加性:獨立常態之和仍為常態(MGF \(e^{\mu t + \sigma^2 t^2/2}\) 相乘即見,2.3 節)。
- 標準化 \(Z = \frac{X - \mu}{\sigma} \sim N(0,1)\) ,且 \(P(|Z| \le 1) \approx 0.683\) 、 \(P(|Z| \le 2) \approx 0.955\) 、 \(P(|Z| \le 3) \approx 0.997\) (68–95–99.7 法則,品質管制的三倍標準差原則由此而來)。
注意 \(\int e^{-x^2} dx\) 沒有初等原函數,其歸一性證明需要著名的 Gauss 積分技巧(平方後換極座標):
這一計算(Laplace 1812 年書中系統使用)把一維積分化為二維極座標——機率論與多元微積分(《微積分》教材 7.1 節)的一次優雅握手。
Quetelet 與「平均人」:常態的社會擴張#
Adolphe Quetelet(凱特勒,1796–1874),比利時天文學家與統計學家,1830 年代起將誤差理論應用於人的測量:1817 年蘇格蘭士兵胸圍數據、犯罪率、自殺率的年度穩定性。他發現人類身高近似常態,提出「平均人」(l'homme moyen)概念:個體是常態分布圍繞社會平均的波動,正如觀測值圍繞真值波動。這個推廣震撼了當時思想界:如果道德與犯罪數據也穩定如天體,個人自由與社會規律如何並存?(Buckle 1857 年《英國文明史》據此主張歷史決定論,引起巨大爭議。)
Quetelet 的方法也有實質貢獻:他以常態偏差偵測混入的次群體(如混雜不同軍團的數據出現雙峰),這是混合模型思想的起源。但「常態即自然」的教條也造成了濫用:Francis Galton(高爾頓,1822–1911) 雖然在 1889 年《自然遺傳》中把常態分布抬升到「統治著混亂的最高法則」,同時他的優生學計畫也以「偏離平均即退化」的邏輯運作——十九世紀的「常態崇拜」在二十世紀初遭遇 Karl Pearson 的相關理論、Karl Weierstrass 學派的病態函數與現代重尾現象的多重矯正。歷史的教訓:一個成功的模型被過度推廣時,就會從科學變成意識形態。
一個具體例題#
例題 3.2.1:某規格要求零件長度 \(250 \pm 0.6\) mm。生產線量測顯示長度近似 \(N(250.1, 0.25^2)\) 。(a) 求不合格率;(b) 若把製程均值調整至 250(消除偏移),不合格率變為多少?(c) 討論六標準差(6 \(\sigma\) )品質哲學的含義。
解:
(a) 規格界為 \([249.4, 250.6]\) 。標準化:
注意主要損失來自右側:均值偏移 0.1 使兩側界距不等( \(-2.8\sigma\) vs. \(+2.0\sigma\) )。
(b) 均值調至 250 後,兩側各為 \(0.6/0.25 = 2.4\) 個標準差:
僅消除 0.1 mm 的偏移,不良率從 2.53% 降至 1.64%——對中比縮小變異有時更划算,這是 Shewhart–Deming 品質哲學中「首先消除系統誤差」的定量根據。
(c) 若 \(\sigma\) 縮至 \(\frac{0.6}{6} = 0.1\) mm 且對中,則規格界在 \(\pm 6\sigma\) ,不良率 \(2(1 - \Phi(6)) \approx 2 \times 10^{-9}\) 。六標準差運動(Motorola, 1986)正是把這個計算變成管理哲學;再考慮製程均值可能漂移 \(\pm 1.5\sigma\) 的經驗假設,不良率約 3.4 ppm——「六標準差」數字的由來。
歷史啟示#
- 近似工具到普世定律:常態曲線在 1733 年只是逼近二項的技術性結果,Gauss 與 Laplace 使其成為誤差理論的本體,Quetelet 使其成為社會科學的信仰。概念的地位由「用途的疊加」鑄成。
- 公理化推導的力量:Gauss 從「平均最優」反推誤差律,是數理統計史上第一次「以最優性原理定分布」——這種逆向思維在 8.1 節(Cramér–Rao)與 9.2 節(Neyman–Pearson 最優檢定)中反覆重演。
- 教條化與矯正:十九世紀「萬物常態」的教條提醒我們警惕成功模型的帝國主義;二十世紀的重尾革命(Lévy 穩定分布、Mandelbrot)是必要的反彈。
- 命名即政治:Gauss 誤差律 vs. 拉普拉斯—高斯曲線,學術命名權之爭預示了後來「最小平方法屬於誰」(Legendre vs. Gauss)的優先權糾紛。
與其他章節及領域的關聯#
- 2.3 節:常態 MGF \(e^{\mu t + \sigma^2 t^2/2}\) 是可加性證明的關鍵。
- 5.2 節:中央極限定理是常態分布統治地位的理論根據。
- 8.1–8.3 節:常態假設下的估計理論(MLE 的漸近常態、Cramér–Rao 的達成)與檢定(z 檢定)都以本節為模型。
- 9.1 節:Gosset 的 t 分布正是「樣本方差未知且小樣本」時對常態教條的修正。
- 7.2 節:Wiener 過程在每個時刻是常態、增量常態——常態分布的隨機過程化身。
- 物理:Maxwell 1860 年速度分布、Brown 運動的 Einstein 理論(7.1 節)、統計力學的漲落,常態處處現身。
- 人文:智力測驗(IQ 常態化、1905 起 Binet–Simon)、教育計分——常態的社會應用至今充滿倫理爭議。
練習#
- 設 \(X \sim N(170, 8^2)\) 。求 \(P(X \ge 180)\) 、 \(P(160 \le X \le 180)\) ,及使 \(P(X \ge t) = 0.05\) 的 \(t\) 。
- 用 Gauss 積分技巧證明 \(N(0,1)\) 密度的歸一性,並計算 \(\int_0^{\infty} x^2 e^{-x^2} dx\) 。
- 設 \(X \sim N(0,1)\) 、 \(Y = 2X + 3\) 。求 \(Y\) 的分布、 \(\mathbb{E}[Y]\) 、 \(\operatorname{Var}(Y)\) ,並說明「常態的線性變換仍常態」。
- 仿例題 3.2.1(b),對規格 \(100 \pm 0.5\) 、製程 \(N(100.15, 0.2^2)\) 計算不良率與「對中後」不良率,並評估對中的收益。
- 思考題:Gauss 以「算術平均最優」為公理反推常態。若改以「中位數最優」為公理,會推出什麼誤差律(提示:Laplace 考慮過的雙指數分布)?這說明最優性原理與誤差律之間的什麼關係?
進階研讀:常態分布的五個深化場景#
場景一:多元常態與幾何。 \(n\) 維常態密度 \(\propto e^{-\frac{1}{2}(x - \mu)^\top \Sigma^{-1} (x - \mu)}\) 的等位面是橢球,主軸由共變異矩陣 \(\Sigma\) 的特徵向量決定(4.2 節)。這個幾何在 1900 年 Pearson 的主成分思想、1930 年代 Hotelling 的 T²、以及現代機器學習的高斯過程回歸中反覆出現——常態分布的「線性代數化」是它長盛不衰的原因之一。
場景二:條件常態與迴歸的誕生。二元常態中給定 \(X = x\) 時 \(Y\) 的條件分布仍是常態、均值為 \(\mu_Y + \rho \frac{\sigma_Y}{\sigma_X}(x - \mu_X)\) ——迴歸直線的機率起源(Galton 1885 年對身高的研究,「向平均回歸」現象亦源於此)。常態分布在條件化的封閉性,使它成為 10.1 節線性模型的自然土壤。
場景三:重尾與矯正。金融報酬的實證分布比常態厚尾得多(Mandelbrot 1963;極端日報酬在常態下應為數十年一遇、實際每年可見)。kurtosis 診斷(2.2 節)、穩定分布與 GARCH(1982)是矯正工具。Benoît Mandelbrot 的名言「火與水的分布都不服從鐘形曲線」標誌著對常態教條的世紀清算——但清算的對象是「濫用」,不是常態本身在誤差與和的極限中的正當地位。
場景四:常態性檢定與「模型檢查」的開端。既然常態是被「假設」的,如何檢驗?Pearson 卡方適合度(1900)、Shapiro–Wilk(1965)、Q-Q 圖是標準工具。更深刻的思想出現在 George Box 的名言:「所有模型都是錯的,但有些是有用的」——統計學家學會了把常態當作可檢查、可替換的工作假設而非信仰,這種後設意識是二十世紀統計學成熟的標誌。
場景五:非線性世界的常態化機制。即使單一變數非常態,「多個小獨立因素的乘積效應」取對數後趨常態(對數常態分布,Gibrat 1931 年的公司規模法則、Black–Scholes 1973 年的資產模型);「多個相依因素的加總」在弱相依下仍趨常態(Lyapunov 與 Lindeberg–Feller 條件,5.2 節)。常態的統治不是因為世界線性,而是因為和與平均是世界的基本運算——這句話是理解中央極限定理哲學意義的鑰匙。
名詞速查表(本節出現的核心術語)#
- **常態分布 \(N(\mu, \sigma^2)\) **:鐘形密度 \(\frac{1}{\sqrt{2\pi}\sigma} e^{-(x-\mu)^2/2\sigma^2}\) 。
- **標準常態 \(N(0,1)\) **:標準化後的常態,分布函數記 \(\Phi\) 。
- 誤差曲線:Gauss 對常態的原始稱呼,十九世紀的通用名。
- 平均人:Quetelet 的概念,社會平均值的常態波動。
- 68–95–99.7 法則:常態在一、二、三倍標準差內的機率。
- Gauss 積分: \(\int e^{-x^2} dx = \sqrt{\pi}\) ,以二維極座標證明。
- 向平均回歸:Galton 發現的極端測量趨於群體均值的現象。
- 對數常態: \(\ln X\) 常態時 \(X\) 的分布,乘積效應的極限形狀。
- 厚尾:尾部機率大於常態的分布,金融數據的實證特徵。
年表速查(本節涉及的關鍵年份)#
- 1733:de Moivre 由二項極限導出鐘形曲線。
- 1750:Tobias Mayer 以平均法處理月球觀測。
- 1755–57:Simpson 討論誤差分布與平均的優越性。
- 1805:Legendre 發表最小平方法。
- 1809:Gauss《天體運動論》,誤差律與最優估計。
- 1810:Laplace 中央極限定理,誤差曲線獲得極限根據。
- 1812:Laplace《機率的分析理論》完成理論整合。
- 1835–46:Quetelet 建立平均人與社會統計。
- 1860:Maxwell 速度分布,常態進入物理。
- 1885–89:Galton 迴歸與遺傳統計,常態被神化。
- 1900:Pearson 卡方檢定,常態性可被檢驗。
- 1963:Mandelbrot 挑戰金融的常態假設。
- 1973:Black–Scholes(對數常態資產模型)。
深化問答三則#
問:為什麼「誤差是常態的」這個十九世紀教條大體上是對的? 答:因為觀測誤差通常是大量微小的獨立擾動之和(儀器機械抖動、環境溫度、讀數習慣……),中央極限定理保證這種和近似常態。教條錯的部分在推廣:不是所有數據都是「小擾動之和」——股價報酬是相乘且厚尾的、保險損失是機制驅動的。判斷常態適用與否,應該回到「數據的生成機制是否近似獨立小和」這個本源問題。
問:Gauss 的反推法(由最優性推分布)與 Laplace 的極限法,哪個更深刻? 答:兩者回答不同問題。Laplace 回答「為什麼誤差是常態」(生成機制),Gauss 回答「常態之下什麼估計最優」(決策結構)。現代統計學繼承了兩條路:生成模型的路線(Laplace→Bayes、機器學習的生成模型)與最優性的路線(Gauss→Neyman–Pearson→極小極大理論)。深刻的數學常常需要兩個互補的「為什麼」。
問:Quetelet 的「平均人」還有現代價值嗎? 答:作為形上學已被揚棄(個體不是對平均的誤差),但作為方法論存活:任何「以均值為中心、以方差為尺度」的摘要(2.2 節)都是平均人的後裔;而對其盲點的批判——異質性、雙峰、個體軌跡——催生了混合模型、非參數方法與(近年)「精準醫療/個人化預測」。科學概念常以「被批判的形態」繼續存在。
(本節完)