跳轉到

9.2 Neyman–Pearson 檢定理論#

本章導言#

Fisher 的顯著性檢定告訴你「資料有多不尋常」；Jerzy Neyman（尼曼，1894–1981） 與 Egon Pearson（皮爾森，1895–1980，Karl Pearson 之子） 在 1928–1933 年間建立了一套不同的理論：檢定是決策程序，優劣由長期錯誤率（功效）衡量，而「最好的檢定」可以被證明存在。這場「行為主義 vs. 證據論」的轉向引發了 Fisher 的終身論戰。本節講述 NP 理論的內容與這場統計學最激烈的學派戰爭。

從「檢定」到「檢定策略」#

NP 框架的重新定義：在兩個假說 \(H_0\) （零）與 \(H_1\) （對立）之間，檢定是一個決策規則（接受域的劃分），其品質由兩種錯誤決定：

  • 第一型錯誤（ \(\alpha\) ）： \(H_0\) 為真卻拒絕（假陽性）。
  • 第二型錯誤（ \(\beta\) ）： \(H_1\) 為真卻接受（假陰性）；功效 \(= 1 - \beta\) 。

NP 的綱領：固定 \(\alpha\) ，最大化功效。這把檢定從「一次性的證據判讀」變成「可設計、可比較、可最優化的工程品」。Egon Pearson 與 Neyman 1928 年的論文提出框架，1933 年 Neyman 的論文《論假設檢定的兩個不同面向》給出最優性理論。

Neyman–Pearson 引理#

NP 引理（1933）：檢驗簡單假說對簡單對立 \(H_0: \theta = \theta_0\) vs. \(H_1: \theta = \theta_1\) 時，最優檢定是概似比檢定：

\[ \Lambda = \frac{L(\theta_1)}{L(\theta_0)} > k \ \Rightarrow\ \text{拒絕 } H_0, \qquad k \text{ 由 } P_{H_0}(\Lambda > k) = \alpha \text{ 決定}. \]

證明思想：在 \(\{P_{H_0} \text{ 下拒絕機率} = \alpha\}\) 的約束中最大化 \(P_{H_1}(\text{拒絕})\) 。把拒絕域的「邊界值」放在概似比最大的地方：任何在概似比小處拒絕、卻在概似比大處不拒絕的檢定，交換這兩塊區域可以同時降低 \(\alpha\) 與 \(\beta\) ——最優檢定必然是「按 \(\frac{f_1}{f_0}\) 從大到小割地」的。這個論證與經濟學的邊際分配、與資訊論的最優檢測（Neyman–Pearson 準則至今是訊號檢測理論的名稱）同構。

推廣：複合假說需要不變性、無偏性或單調概似比（MLR） 條件；在 MLR 分布族（二項、Poisson、常態均值）中，t 檢定、z 檢定都是其對立下的 UMP（一致最優功效）檢定——1908 年 Student 的 t 檢定被 1933 年的理論證明為最優：舊工具獲得新勳章。Lehmann《檢定假說的理論》（1959）把整個體系建成數理統計的城堡。

信賴區間的 NP 版本#

Neyman 1934 年把「區間估計」也納入行為框架：信賴區間是「以 \(1-\alpha\) 機率覆蓋真值」的長期頻率保證的決策程序（8.3 節）。他明確區分「概括”（inductive behaviour，Neyman 的立場）與「歸納推理」（Fisher 的立場）：統計學不該宣稱「從資料推得信念」，只該提供「長期表現有保證的行動規則」。證據 vs. 行為是兩派分歧的哲學核心。

論戰：Fisher vs. Neyman#

Fisher 對 NP 理論的攻擊持續到 1962 年去世：

  1. 反對二元判決：接受/拒絕的行為框架把「科學的證據判讀」貶為「工業的驗收抽樣」——Fisher 認為科學需要的是連續的證據量（p 值）。
  2. **反對 \(H_1\) **：顯著性檢定只需要 \(H_0\) ；NP 要求指定對立假說，Fisher 認為這是把「科學假說」偷換成「決策選項」。
  3. 反對功效：Fisher 認為功效依賴於具體 \(H_1\) ，而科學的對立假說是模糊的（「有某種效果」）。
  4. fiducial 論戰：Fisher 的信賴區間（fiducial inference，1930 起）與 Neyman 的信賴區間形式相似，Fisher 憤怒於 Neyman 的「庸俗化」，但 Fisher 自己的理論在多重參數下崩潰（後世評價：fiducial 是 Fisher 少數的失敗之作，近年以 generalized fiducial（Hannig 等 2016）獲得部分復興）。

Neyman 的回擊同樣鋒利（稱 Fisher 的觀點「錯誤且有害」）。歷史裁定：兩人各對一半——現代實務混合兩者（報 p 值 + 預先設定 \(\alpha\) 與功效計算），但 2010 年代的複製危機顯示這個混合「兩頭不靠」：p 值被當成 Neyman 判決用、卻沒有 NP 的設計紀律（預註冊、功效計算）。Fisher 與 Neyman 的爭論至今未結束，只是換了戰場。

一個具體例題#

例題 9.2.1：某感測器檢測缺陷：單一樣本的測量值 \(X\) ，無缺陷時 \(X \sim N(0, 1)\) ，有缺陷時 \(X \sim N(1.5, 1)\) 。單一樣本檢測，規定 \(\alpha = 0.05\) 。(a) 用 NP 引理設計最優檢定，求臨界值與功效；(b) 若放寬到 \(\alpha = 0.2\) ，功效變為多少？討論 (a)(b) 的取捨；(c) 若取兩個獨立樣本、規則改為「兩個皆觸界才拒絕」，在 \(\alpha = 0.05\) 下功效如何？

解：

(a) 概似比 \(\frac{f_1(x)}{f_0(x)} = e^{1.5x - 1.125}\) 隨 \(x\) 單調遞增，故最優拒絕域為右尾 \(\{X > c\}\) 。由 \(\alpha = 0.05\) ： \(c = z_{0.95} = 1.645\) 。功效：

\[ P_{N(1.5,1)}(X > 1.645) = 1 - \Phi(1.645 - 1.5) = 1 - \Phi(0.145) \approx 1 - 0.558 = 0.442. \]

單樣本只能捕捉 44% 的缺陷。

(b) \(\alpha = 0.2\) ： \(c = z_{0.8} = 0.842\) ，功效 \(= 1 - \Phi(0.842 - 1.5) = \Phi(0.658) \approx 0.745\) 。放寬 \(\alpha\) 大幅提升功效（0.442 → 0.745）——NP 框架的教訓： \(\alpha\) 與 \(\beta\) 是一條 ROC 曲線上的兩點，取捨由「漏檢 vs. 誤報的代價」決定（品管中漏檢成本高 → \(\alpha\) 放寬；安全監控中誤報成本高 → \(\alpha\) 收緊）。

(c) 規則「兩個皆 \(> c'\) 才拒絕」，需 \(P_{H_0}(X_1 > c')^2 = 0.05\) ， \(P_{H_0}(X > c') = \sqrt{0.05} = 0.2236\) ， \(c' = z_{0.7764} \approx 0.762\) 。功效：

\[ \left[P_{H_1}(X > 0.762)\right]^2 = \left[1 - \Phi(0.762 - 1.5)\right]^2 = \Phi(0.738)^2 \approx 0.770^2 \approx 0.593. \]

在相同 \(\alpha\) ** 下，這個「都觸界才拒」的規則功效 0.593 低於單樣本的 0.442？不——兩樣本的 \(\alpha = 0.05\) 是「每兩樣本一次判決」，與單樣本比較要小心：若允許單樣本規則運行兩次（每樣本獨立判決一次，總偽陽性 \(\approx 1 - 0.95^2 = 9.75\%\) ），要對齊總 \(\alpha\) 需調整臨界值。正確比較：把 (c) 換成「至少一個觸界」規則（ \(c''\) 使 \(1 - (1 - p_c'')^2 = 0.05\) ， \(p_c'' = 0.0253\) ， \(c'' = z_{0.9747} \approx 1.956\) ），功效 \(= 1 - \Phi(1.956 - 1.5)^2 = 1 - 0.324^2 \approx 0.895\) ——兩樣本「或」規則的的功效 0.895 遠高於單樣本 0.442。教訓：在同一 \(\alpha\) 預算下，檢測規則的集合結構（與/或）直接決定功效**，NP 引理告訴你「概似比排序」是最優原則，例題 (c) 的對比則顯示集合選擇的威力。實務中感測系統的冗餘設計（多感測器投票）正是這門數學。

歷史啟示#

  • 最優性思想的勝利：NP 把「哪個檢定好」變成可證明的定理（引理），如同 8.1 節 Cramér–Rao 對估計做的事——「最優性證明」是數理統計成熟的雙支柱。
  • 錯誤率的社會意義： \(\alpha\) 與 \(\beta\) 把科學判斷翻譯為「可管理的風險預算」——這個框架承載了品質管制、司法標準（無罪推定的 \(\alpha\) 收緊）、醫學試驗（I/II 型錯誤的臨床代價）的現代實踐。
  • 論戰的未竟之業：Fisher 的證據論與 NP 的行為論各有盲區，複製危機是兩者混合不良的產物——理論戰場的塵埃落定，不等於實務的問題解決。
  • Egon Pearson 的低調：作為 Karl Pearson 之子、Neyman 的合作者，Egon 在父親與論敵的陰影下工作，他的歷史形象提醒我們：學術家族的第二代常面臨「既繼承又反叛」的兩難。

與其他章節及領域的關聯#

  • 8.3 節：本節為「檢定實務」建立理論地基（功效、最優性）。
  • 9.1 節：t 檢定在 MLR 條件下獲 UMP 地位。
  • 9.3 節：貝氏檢定（貝氏因子）是 NP 的哲學對手。
  • 10.2 節：置換檢定與蒙地卡羅在複雜問題上實現 NP 檢定。
  • 訊號檢測：雷達/通訊的檢測理論直接以「Neyman–Pearson 準則」命名（最大概似比檢測器）；ROC 曲線（二戰雷達操作員分析）是 (a)(b) 兩問的通用版。
  • 司法：陪審團的「排除合理懷疑」是 \(\alpha\) 的社會選擇；Blackstone 比率（「寧放十惡不冤枉一好」）是 \(\alpha\) – \(\beta\) 取捨的倫理表述。
  • 機器學習：分類器的精確率/召回率、F1 分數是 \(\alpha\) – \(\beta\) 框架的工程版；NP 引理精神存活於「最優分類器 = 似然比閾值」的定理（貝氏分類器最優性）。

練習#

  1. 對 \(N(0,1)\) vs. \(N(2,1)\) 、 \(n = 4\) 的樣本均值檢定， \(\alpha = 0.05\) 時求臨界值與功效；再求使功效達 0.9 的最小 \(n\) 。
  2. 證明 NP 引理（簡單對簡單）：以「概似比排序」的論證，並說明隨機化（在臨界點上以機率拒絕）何時必要（離散分布）。
  3. 對 Binomial(10, \(p\) )、 \(H_0: p = 0.5\) vs. \(H_1: p = 0.8\) ：設計 \(\alpha \le 0.05\) 的最優（含隨機化）檢定並計算功效。
  4. 對例題 9.2.1，設計「 \(k\) 個樣本中至少 \(m\) 個觸界」的規則族（ \(k = 3, m = 1, 2, 3\) ），在 \(\alpha = 0.05\) 預算下比較功效，驗證「或」規則的優勢。
  5. 思考題：Fisher 反對「固定 \(\alpha\) 」的判決制。請設計一個場景（如新疾病篩檢 vs. 物理新粒子發現）說明「 \(\alpha\) 應隨情境與代價變化」，再設計一個場景論證「預先固定的 \(\alpha\) 才能防止事後操縱」——兩面陳述後給出你的折衷方案。

進階研讀：檢定理論的五個深化場景#

場景一：似然比檢定的漸近理論。複合假說下，廣義概似比 \(-2\log\Lambda \xrightarrow{d} \chi^2_{df}\) （Wilks 1938）：MLE（8.2 節）與檢定理論在此合流——三種漸近檢定（Wald、score/Lagrange multiplier、likelihood ratio）在正則條件下漸近等價，實務以 LR 為最平衡（Engle 1984 的比較）。

場景二：ROC 曲線與診斷醫學。把 (α, 功效) 對畫成 ROC 曲線，曲線下面積 AUC 度量「分離能力」。診斷醫學的敏感度/特異度、Youden 指數、以及機器學習的閾值選擇，全部是 NP 框架的應用學。「先驗機率 + 代價矩陣 → 最優閾值」的貝氏決策（9.3 節）與 NP 的 \(\alpha\) 選擇是同一問題的兩種參數化。

場景三：序貫檢定。樣本不必一次取齊：Wald（1943–45，二戰期間為軍需品抽樣設計）的序貫概似比檢定（SPRT）：持續抽樣直到 \(\Lambda\) 越過上下界。平均樣本量比固定樣本檢定省 50% 上下——臨床試驗的期中分析（group sequential, O'Brien–Fleming 1979）與品質管制的 CUSUM（Page 1954）都是其後裔。「邊看邊決」的統計學由戰時緊迫催生。

場景四：多重性與最小貝葉斯風險。同時檢定多假說時 NP 的逐個 \(\alpha\) 控制失效（8.3 節場景一）；更現代的框架是最小化貝氏風險（權衡先驗錯誤機率與損失，Wald 1950 決策論）或控制 FDR。NP 引理在多假說情形沒有簡單推廣——「最優性」在複雜世界變成準則的選擇題，這是理論的邊界。

場景五：後 NP 時代的檢測。高維稀疏檢測（Donoho–Jin 2004 的 Higher Criticism：在百萬假說中偵測「少數但非一個」的訊號）、線上 A/B 測試的 anytime-valid 推論（e-values, 2020s，對任意停時保證型一錯誤）、因果假說的檢定（do-演算的可檢定含義，9.3 節場景）——NP 的核心（概似比最優）存活，但其「固定樣本、單一假說對」的形態正在被資料流與因果時代重塑。

名詞速查表（本節出現的核心術語）#

  • NP 引理：簡單對簡單檢定中概似比檢定為最優。
  • **概似比 \(\Lambda\) **： \(L(H_1)/L(H_0)\) ，檢測的通用統計量。
  • 第一/二型錯誤： \(\alpha\) 假陽性、 \(\beta\) 假陰性；功效 \(1-\beta\) 。
  • UMP 檢定：一致最優功效檢定（MLR 條件下右尾檢定）。
  • ROC 曲線：(α, 功效) 的軌跡，AUC 度量分離力。
  • 序貫概似比檢定（SPRT）：Wald 的邊看邊決檢定。
  • Wilks 定理： \(-2\log\Lambda \to \chi^2\) （漸近卡方）。
  • 歸納行為：Neyman 的立場——統計學管行動的長期表現。
  • fiducial 推論：Fisher 的信賴區間版本（後世認定失敗、部分復興）。

年表速查（本節涉及的關鍵年份）#

  • 1928：Neyman–Pearson《統計假說的可信檢定理論》。
  • 1930–33：Fisher fiducial 論文與 Neyman 信賴區間。
  • 1933：Neyman《兩個不同面向》，NP 引理。
  • 1935：Fisher《實驗設計》，論戰開始。
  • 1938：Wilks 漸近概似比定理。
  • 1943–45：Wald SPRT（戰時保密，戰後發表）。
  • 1950：Wald 統計決策論。
  • 1954：Page CUSUM。
  • 1959：Lehmann《檢定假說的理論》。
  • 1979：O'Brien–Fleming 群組序貫設計。
  • 2004：Donoho–Jin Higher Criticism。
  • 2016：Hannig 等廣義 fiducial 復興。

深化問答三則#

問：NP 引理為什麼被視為統計學最優雅的定理之一？ 答：三個理由。其一，證明的「交換論證」極簡卻普適——任何非概似比排序的檢定都能被改進。其二，它把「最優」從口號變成定義：固定 \(\alpha\) 最大化功效，這個規格化使所有後續理論（UMP、不變檢定、序貫）有統一的問題語言。其三，它跨越學科存活：訊號檢測、影像識別、流行病篩檢都以它為設計原則——好的定理像好的模型，是被借用而不是被引用。

問：Fisher 為什麼輸掉了（大多數）論戰，卻沒有輸掉實務？ 答：形式上，Neyman 的框架數學完備（最優性、錯誤率、漸近），Fisher 的 fiducial 崩潰於多重參數；但在實務敘事上，科學家要的是「證據有多強」（Fisher 的 p 值），不是「程序是否合格」（Neyman 的判決）。教科書的混合體實際上是 Fisher 的語言 + Neyman 的紀律。複製危機暴露混合的破綻——改革的方向不是選邊，而是把兩者的適用域講清楚：探索性科學用證據語言，審核性決策用行為語言。

問：NP 框架在機器學習時代還重要嗎？ 答：比以往更重要。分類器的最優性定理（貝氏分類器 = 似然比閾值）是 NP 引理的決策論版；部署時的閾值選擇（假陽性 vs. 假陰性）就是 (α, β) 的取捨；模型評估的 ROC/AUC 是功效分析的工程化。而且 AI 輸出的高風險決策（醫療、司法、信貸）需要「錯誤率的長期保證」——這正是 Neyman 歸納行為哲學的主場。NP 理論不是被淘汰的古典物，而是 AI 時代的合約條款。

（本節完）