跳轉到

9.1 Student 的 t 檢定(1908)#

本章導言#

1908 年,《Biometrika》刊登了一篇署名「Student」的論文《均值的可能誤差》。作者是都柏林 Guinness 釀酒廠的化學師 William Sealy Gosset(戈塞,1876–1937)。他解決了一個困擾科學界的實際問題:樣本只有幾個、方差未知時,怎麼檢定均值?答案——t 分布——開啟了「小樣本統計學」,這是統計學史上第一次以精確抽樣分布替代漸近近似。本節還原這段「啤酒、化學與數學」的歷史。

Guinness 酒廠的統計問題#

Gosset 1899 年以化學師身分加入 Guinness。釀酒的品質控制面臨統計困境:每批大麥、蛇麻草的樣本只有 4 到 10 個觀測(田間試驗與化學分析的成本限制),而當時的方法論(Gauss/Laplace 誤差理論、Pearson 學派的大樣本)都假設大樣本。小樣本下有兩個漏洞:

  1. 以樣本標準差 \(S\) 替代 \(\sigma\) : \(S\) 本身隨機且小樣本下極不穩定, \(\frac{\bar{X} - \mu}{S/\sqrt{n}}\) 的分布遠比常態寬;
  2. 均值與方差在小樣本下相依(常態母體中 \(\bar{X}\) 與 \(S^2\) 恰好獨立——這個奇蹟般的性質使精確解成為可能)。

Gosset 需要知道: \(\frac{\bar{X} - \mu}{S/\sqrt{n}}\) 的精確分布是什麼?他以蒙特卡羅式的手工模擬(隨機數表,取樣 750 次)猜出答案的形狀,再以數學推導(幾何與特徵函數混合的技巧)證明之。

t 分布的誕生#

Gosset 1908 年的結果(以現代記號):若 \(X_1, \ldots, X_n\) iid \(N(\mu, \sigma^2)\) ,則

\[ t = \frac{\bar{X} - \mu}{S/\sqrt{n}} \sim t_{n-1}, \qquad f(t) = \frac{\Gamma\left(\frac{\nu+1}{2}\right)}{\sqrt{\nu \pi}\, \Gamma\left(\frac{\nu}{2}\right)} \left(1 + \frac{t^2}{\nu}\right)^{-\frac{\nu+1}{2}}, \quad \nu = n - 1. \]

性質:對稱、鐘形;方差 \(= \frac{\nu}{\nu - 2}\) ( \(\nu > 2\) )比常態的 1 大——更厚的尾部; \(\nu \to \infty\) 時收斂到 \(N(0,1)\) (大樣本恢復常態)。關鍵支撐: \(\bar{X}\) 與 \(S^2\) 獨立且 \((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\) (3.3 節 Gamma 家族),t 即「常態除以卡方的平方根」, \(\nu\) 稱自由度——Fisher 1922 年以幾何詮釋命名。

為何署名 Student? Guinness 禁止員工發表研究成果(怕洩漏釀酒機密),Gosset 以筆名發表;公司知悉後特許(因無洩密),但筆名沿用。統計學史上最著名的化名由此而來。Fisher 與 Gosset 1908 年起的通信(跨越 29 年)是統計學史的珍貴文獻:Fisher 在 1912 年(劍橋學生)寫信指出 Student 論文中證明的缺口並補全,兩人合作把 t 檢定變成嚴格理論。

t 檢定與信賴區間#

以 t 替換 z,一切都改變了:

\[ t = \frac{\bar{X} - \mu_0}{S/\sqrt{n}}, \qquad \text{95\% 區間: } \bar{X} \pm t_{0.975, \, n-1} \frac{S}{\sqrt{n}}. \]

例子(Gosset 的原始情境):大麥樣本 \(n = 5\) , \(\bar{X} = 100\) 、 \(S = 8\) 。若用常態(錯誤方法):半寬 \(= 1.96 \times \frac{8}{\sqrt{5}} \approx 7.02\) ;用正確的 t( \(\nu = 4\) , \(t_{0.975} = 2.776\) ):半寬 \(= 2.776 \times \frac{8}{\sqrt{5}} \approx 9.94\) ——真實區間寬了 41%。忽視 t 的代價:在 \(n = 5\) 時,名義 5% 的檢定實際假陽性率高達約 16%(尾部厚度使臨界值被低估)。小樣本的常態幻覺不是學術瑕疵,是實驗室裡的真實假藥。

t 檢定的後裔成為現代統計的主力武器:單樣本 t、兩樣本 t(含 Welch 不等方差修正, 1947)、配對 t、迴歸係數 t 檢定(10.1 節)——所有「係數除以標準誤」的報表欄位都是 Student 的後代。

一個具體例題#

例題 9.1.1:新製程宣稱可縮短發酵時間。舊製程長期均值 42 小時。新製程試做 6 批,時間(小時):39.2, 41.5, 40.1, 38.8, 42.3, 40.7。(a) 求 \(\bar{X}\) 、 \(S\) ;(b) 做 \(H_0: \mu = 42\) 的單尾 t 檢定( \(\alpha = 0.05\) );(c) 求均值的 95% 信賴區間;(d) 討論樣本量與檢定力的意涵。

解:

(a)

\[ \bar{X} = \frac{39.2 + 41.5 + 40.1 + 38.8 + 42.3 + 40.7}{6} = \frac{242.6}{6} \approx 40.43 \ \text{小時}, \]
\[ S^2 = \frac{\sum (X_i - 40.43)^2}{5} = \frac{( -1.23)^2 + (1.07)^2 + (-0.33)^2 + (-1.63)^2 + (1.87)^2 + (0.27)^2}{5} = \frac{1.513 + 1.145 + 0.109 + 2.657 + 3.497 + 0.073}{5} = \frac{8.994}{5} \approx 1.799, \]

\(S \approx 1.342\) 小時。

(b) 檢定統計量:

\[ t = \frac{40.43 - 42}{1.342/\sqrt{6}} = \frac{-1.57}{0.548} \approx -2.87. \]

單尾( \(H_1: \mu < 42\) )臨界值 \(t_{0.05, 5} = -2.015\) 。 \(-2.87 < -2.015\) ,拒絕 \(H_0\) :新製程顯著更短。精確 p 值 \(\approx 0.017\) 。

(c) 雙尾 95% 區間( \(t_{0.975, 5} = 2.571\) ):

\[ 40.43 \pm 2.571 \times 0.548 = 40.43 \pm 1.409 = (39.02, \, 41.84) \ \text{小時}. \]

區間不含 42,與 (b) 的拒絕一致(8.3 節的對偶性)。

(d) 檢定力檢查:若真實縮短 1.5 小時(效應量 \(d = \frac{1.5}{1.342} \approx 1.12\) 個標準差), \(n = 6\) 的單尾功效約 80%(由非中心 t 分布,近似計算 \(\delta = 1.12\sqrt{6} \approx 2.74\) vs. 臨界 2.015)——本例功效尚可。但若效應只有 0.5 小時( \(d \approx 0.37\) ),功效僅約 25%:「未顯著」在 \(n = 6\) 時幾乎不攜帶「無效果」的資訊(8.3 節的欠功率教訓在小樣本加倍嚴重)。Gosset 的教誨:小樣本要配效應量的區間((c) 的下界 1.16 小時給出保守聲明),而非僅二元判決。

歷史啟示#

  • 實務孕育理論:t 分布誕生於酒廠的品管需求,不是數學系的研究議題——應用統計的偉大理論常來自「算不下去的工程師」。
  • 精確 vs. 漸近的轉折:1908 年之前統計學依賴大樣本漸近;t 檢定證明小樣本精確分布可以求出——精確理論時代(Fisher 的 F 分布、卡方修正)由啤酒開啟。
  • 化名與公司政治:Guinness 的保密條款幾乎埋沒這篇論文;科學傳播的障礙常是機構而非能力。
  • 師生信件的友誼:Gosset–Fisher 通信展示「實務者提出問題、理論家精煉答案」的最佳合作模式——兩人卻在 1930 年代因 Neyman 理論再現分歧(Fisher 攻擊 Neyman,Student 較為調和)。

與其他章節及領域的關聯#

  • 3.3 節:卡方分布是 t 的分母;Gamma 家族的平方和理論是 t 的血統。
  • 8.1 節: \(S^2\) 的 \(n-1\) 不偏修正與自由度概念出自同一條線。
  • 8.3 節:z 檢定的「 \(\sigma\) 未知」漏洞由 t 檢定修補。
  • 9.2 節:Neyman–Pearson 理論以 t 檢定為「最優檢定」的展示品(單邊最優、雙邊一致最優的討論)。
  • 10.1 節:迴歸係數的 t 統計量 \(\hat{\beta}/SE(\hat{\beta}) \sim t_{n-p}\) 是本節的直接推廣。
  • 品管與六標準差:小樣本 t 是製程能力分析的標準工具——Guinness 的問題至今仍在每條產線上重複。
  • 醫學:臨床試驗的 I 期小樣本設計(dose-finding)的統計基礎包含 t 與後續的貝氏小樣本方法。

練習#

  1. 樣本 \(n = 16\) 、 \(\bar{X} = 24.8\) 、 \(S = 3.2\) 。求 \(\mu\) 的 95% 信賴區間(用 \(t_{0.975, 15} = 2.131\) ),並與誤用常態( \(z = 1.96\) )的區間比較寬度。
  2. 證明:當 \(\nu \to \infty\) 時 t 密度收斂到 \(N(0,1)\) (提示:Stirling 公式近似 Gamma 比、 \(t\) 的冪次極限為 \(e^{t^2/2}\) )。
  3. 兩樣本 t(等方差合併):組 A( \(n = 8\) 、 \(\bar{x} = 51\) 、 \(s = 6\) )vs. 組 B( \(n = 10\) 、 \(\bar{y} = 47\) 、 \(s = 5\) )。計算合併標準差 \(s_p\) 與 t 統計量,求雙尾 p 值的量級( \(\nu = 16\) )。
  4. 用 Gosset 式的「手工蒙地卡羅」思想:解釋為什麼 \(\frac{\bar{X} - \mu}{S/\sqrt{n}}\) 的分布在 \(S\) 有不確定性時必然比常態厚尾,並說明厚尾程度如何隨 \(n\) 增大而減輕。
  5. 思考題:Guinness 的保密文化差點埋沒 t 分布。請討論現代「企業數據科學」中的類似張力(內部洞見 vs. 可發表性),以及「保密許可 + 化名」這種歷史方案的當代可行性。

進階研讀:小樣本統計的五個深化場景#

場景一:常態下 \(\bar{X} \perp S^2\) 的奇蹟。Geary 定理(1936):常態是唯一「樣本均值與樣本方差獨立」的分布。t 檢定的精確性完全依賴這個特性;母體偏態時 t 檢定的名義水準失真(但幅度驚人地小——經驗研究顯示 \(n \ge 15\) 時 t 檢定對溫和偏態極穩健,「t 檢定的魯棒性奇蹟」由 Box 1953 年的分析定調)。

場景二:F 分布與方差分析。兩個方差之比 \(\frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2} \sim F_{\nu_1, \nu_2}\) (Fisher 1924)。F 分布是 ANOVA(方差分析, Fisher 1925)的引擎:比較多組均值的「組間方差 / 組內方差」。t 是 F 的平方根特例( \(F_{1,\nu} = t_\nu^2\) )——Student 的遗产在 Fisher 手中從兩組擴張到多組。

場景三:Welch 修正與不等方差。兩樣本方差不等時,合併標準差是錯的;Welch(1947)的不等方差 t: \(\frac{\bar{X} - \bar{Y}}{\sqrt{s_1^2/n_1 + s_2^2/n_2}}\) ,自由度以 Welch–Satterthwaite 公式(1946)近似。現代建議(Delacre 等人 2017)預設使用 Welch 版——百年來的「標準做法」被重新評審,是方法論演化的常態。

場景四:順序統計量與經驗分位數。小樣本的世界還有一套無分布方法:符號檢定、秩檢定、以順序統計量構造的信賴區間(如中位數的區間由兩個順序統計量夾成,分布由二項分布給出,1.2 節的工具回歸)。當常態假設無法承擔時,這套「排序的力量」是小樣本的逃生通道。

場景五:貝氏的小樣本觀點。貝氏對小樣本的處理:以先驗補充樣本資訊(Jeffreys 先驗、Laplace 的均勻先驗),t 分布自然地作為常態均值的邊際後驗出現(先驗平坦時, \(\mu\) 的後驗正是平移縮放後的 \(t_{n-1}\) !)。Student 的分布因此在兩個學派中同時登場:頻率學派的精確樞紐量、貝氏學派的後驗形狀——數學相同、詮釋相反(9.3 節的縮影)。

名詞速查表(本節出現的核心術語)#

  • t 統計量: \(\frac{\bar{X} - \mu}{S/\sqrt{n}}\) ,均值的小樣本樞紐量。
  • t 分布:厚尾對稱分布,自由度 \(\nu = n-1\) 。
  • 自由度: \(S^2\) 中獨立資訊的數目;t/F/卡方的形狀參數。
  • ** \(\bar{X} \perp S^2\) **:常態母體的奇蹟性質(Geary 1936 唯一性)。
  • **合併方差 \(s_p^2\) **:兩樣本 t 的方差合併。
  • Welch–Satterthwaite:不等方差下的近似自由度。
  • ANOVA / F 分布:方差比的分布與多組比較。
  • 非中心 t:功效計算中的 t 分布(帶非中心參數)。
  • Student 化:以樣本標準誤標準化的統稱(studentized residual 等)。

年表速查(本節涉及的關鍵年份)#

  • 1899:Gosset 入職 Guinness。
  • 1907–08:Gosset 推導 t 分布、手工模擬驗證。
  • 1908:Student《均值的可能誤差》發表。
  • 1912:Fisher 通信補全證明。
  • 1915:Fisher 導出相關係數的精確分布(姊妹工作)。
  • 1922–24:Fisher 自由度幾何詮釋、F 分布。
  • 1925:Fisher《研究工作者的統計方法》普及 t 檢定。
  • 1936:Geary 常態唯一性定理;Fisher 重析孟德爾。
  • 1946–47:Welch–Satterthwaite 修正。
  • 1953:Box 的 t 檢定穩健性分析。
  • 2017:Delacre 等建議預設 Welch t。

深化問答三則#

問:為什麼 t 檢定在小樣本「精確」而在大樣本「多餘」? 答:精確性來自常態假設下的樞紐量分布完全已知(t);大樣本時 \(S \to \sigma\) (大數法則),t 分布本身收斂於常態(練習 2),漸近方法就夠用。t 檢定因此是「漸近理論失效區間(小 n)」的專用藥——它填補了 Gauss–Laplace 誤差理論(大樣本)與現代非參數方法(無分布)之間的歷史縫隙。

問:Gosset 為什麼值得單獨一章? 答:因為他改變了統計學的工作模式:1908 年之前,統計學是「大樣本的漸近數學」;之後,「抽樣分布的精確研究」成為主流(Fisher 的整個綱領——估計理論、方差分析、實驗設計——都以精確分布為基礎)。一位企業化學師以單篇論文移動了學科的重心,這在科學史上極為罕見。他也示範了「統計學家的職業形象」:不只是教授,也可以是工程師與品管員。

問:「化名 Student」對現代有什麼啟示? 答:啟示有二。其一,科學署名制度(credit system)與機構保密的衝突是結構性的,現代企業 AI 研究中依然尖銳(大公司研究員「兼職發表」的規則即當代 Student 問題)。其二,化名使後人一度不知其人——Gosset 的貢獻在 1930 年代(去世前)才被廣泛歸位。科學史的反覆教訓:承認與歸檔的制度,與發現本身同樣重要。

(本節完)