跳轉到

10.1 最小平方法與迴歸分析#

本章導言#

前面的章節提供理論:需求曲線、生產函數、乘數、均衡。但理論的參數——需求彈性是多少?資本產出彈性是多少?——必須由資料回答。計量經濟學就是經濟理論與統計方法的交界,而它的第一塊基石是最小平方法(method of least squares):1805 年 Legendre 首次發表,1809 年 Gauss 宣稱自 1795 年即已使用並給出常態誤差理論與統計性質(兩人的優先權之爭是十九世紀著名的科學公案)。二十世紀,Frisch、Tinbergen(1930 年代) 把它搬進經濟資料,計量經濟學會(1930)與第一本專刊(1933)隨之成立;Frisch 與 Tinbergen 共獲 1969 年第一屆諾貝爾經濟學獎。

問題的由來:一條「最接近」資料的線#

設有資料 \((x_1, y_1), \dots, (x_n, y_n)\) ,想找直線 \(y = a + bx\) 。第 \(i\) 點的殘差 \(e_i = y_i - (a + bx_i)\) ,最小平方法取使殘差平方和最小的係數:

\[ \min_{a,\,b}\ \sum_{i=1}^n e_i^2 = \sum_{i=1}^n \big(y_i - a - bx_i\big)^2. \]

對 \(a\) 、 \(b\) 微分令為零(一階條件,正規方程),解得

\[ b = \frac{\sum_i (x_i - \bar{x})(y_i - \bar{y})}{\sum_i (x_i - \bar{x})^2} = \frac{\operatorname{Cov}(x,y)}{\operatorname{Var}(x)}, \qquad a = \bar{y} - b\,\bar{x}. \]

為什麼是平方? Legendre 的理由是計算便利;Gauss 給出深刻理由:若誤差獨立、服從同變異數的常態分布,則最小平方解同時是極大概似估計,且在所有線性不偏估計中變異數最小(Gauss–Markov 定理,1930 年代由 Markov 與 Gauss 的結果綜合定名)。平方懲罰放大了大誤差,使擬合拒絕「系統性偏離」——這正是經濟學要的:不是平均地接近,而是結構上地接近。

從擬合到推論:迴歸模型#

迴歸分析把擬合升級為統計模型:

\[ y_i = \beta_0 + \beta_1 x_{1i} + \cdots + \beta_k x_{ki} + \varepsilon_i, \qquad \mathbb{E}[\varepsilon_i \mid X] = 0, \]

其中 \(\varepsilon\) 是「理論未言明的一切」。在古典假設(線性、無完全共線、同質變異、無序列相關、外生性)下,OLS 估計量 \(\hat{\beta}\) 有一切好性質;配合常態假設可做 \(t\) 檢定與 \(F\) 檢定。判定係數

\[ R^2 = 1 - \frac{\sum e_i^2}{\sum (y_i - \bar{y})^2} \]

衡量模型解釋了 \(y\) 變異的幾分之幾。

例題#

例題 10.1.1:某公司記錄 5 個月的廣告支出 \(x\) (萬元)與銷售額 \(y\) (百萬元):

\(x\) 2 4 6 8 10
\(y\) 5 7 8 11 14

解: \(\bar{x} = 6\) 、 \(\bar{y} = 9\) 。計算

\[ \sum (x_i - \bar{x})(y_i - \bar{y}) = (-4)(-4) + (-2)(-2) + 0(-1) + 2(2) + 4(5) = 16 + 4 + 0 + 4 + 20 = 44, \]
\[ \sum (x_i - \bar{x})^2 = 16 + 4 + 0 + 4 + 16 = 40. \]

故 \(b = 44/40 = 1.1\) 、 \(a = 9 - 1.1 \times 6 = 2.4\) :迴歸線 \(y = 2.4 + 1.1x\) 。解釋:廣告每增 1 萬元,銷售平均增 110 萬元(注意單位換算)。預測 \(x = 12\) : \(y = 2.4 + 13.2 = 15.6\) 百萬元。判定係數:殘差為 \(y_i - (2.4 + 1.1x_i)\) 依序 \(-0.6, 0.2, -1.0, -0.2, 1.6\) , \(\sum e_i^2 = 0.36 + 0.04 + 1 + 0.04 + 2.56 = 4\) ;總變異 \(\sum(y_i-\bar{y})^2 = 16+4+1+4+25 = 50\) ,故 \(R^2 = 1 - 4/50 = 0.92\) ——廣告支出解釋了銷售額變異的 92%。

經濟資料為什麼麻煩:OLS 的三道天險#

物理實驗可以控制變數,經濟學不能,於是 OLS 在經濟資料上遭遇三個結構性難題:

  1. 內生性:解釋變數與誤差相關。最經典的是聯立性:需求曲線的價格與數量由供需共同決定,直接迴歸「數量對價格」估出的既非需求也非供給——這是 Working(1927)與 Haavelmo(1943)釐清的辨識問題。解法包括工具變數法(IV)與兩階段最小平方法(2SLS)。
  2. 虛假迴歸:兩條都有趨勢的時間序列互相迴歸會得到高 \(R^2\) 卻毫無關係(Granger–Newbold, 1974)——這直接通向 10.2 節的單根檢定。
  3. 異質變異與序列相關:橫斷面資料的誤差變異數常隨規模放大(White, 1980 的穩健標準誤),時間序列誤差常自相關(Durbin–Watson, 1950–51 檢定)。

歷史啟示#

  • 方法先於資料:最小平方法誕生於天文測量(Gauss 估行星軌道),比大規模經濟資料早了一百五十年——數學工具常常先等著問題到來。
  • Haavelmo 的範式轉移(1944):他主張經濟理論應寫成機率模型、經濟資料是隨機實現的一次歷史——計量經濟學自此有了統計學的哲學基礎。
  • 迴歸是理論的檢驗而非替代: \(R^2\) 高不代表理論對;辨識與外生性才是計量經濟學的靈魂。

前因後果與驅動關係#

由什麼驅動:1920–30 年代兩股力量逼出了計量經濟學。一是政府與企業首次累積了大量經濟統計(國民所得帳、物價指數、月度產量),二是 Keynes《一般理論》(本書 8.1 節)提出可檢驗的總量關係(消費函數、乘數),學界立刻追问:消費函數的邊際消費傾向到底是多少?Tinbergen 1939 年為國際聯盟建造的第一個美國景氣循環計量模型,就是 Keynes 理論的第一次大規模實證。

數學成熟後如何反哺實務:

  • 8.1 節:乘數 \(\frac{1}{1-c}\) 中的 \(c\) (邊際消費傾向)由消費函數迴歸估得;Kuznets 對消費的長期資料更引發了消費理論的修正潮。
  • 8.2 節:Solow 1957 年的成長會計以迴歸與剩餘法拆解產出成長,量出了「技術進步」的貢獻。
  • 10.2 節:經濟時間序列的虛假迴歸危機,把單根與共整合推上舞台。
  • 10.3 節:從模型模擬到隨機對照實驗,實證方法的每次躍進都以 OLS 及其修正為起點。
  • 《機率統計》:最小平方法是迴歸分析與相關分析的應用核心;Gauss–Markov 定理即估計量效率的教科書案例。
  • 《會計的數學》第 6 章:本量利分析中的成本估計(高低點法、迴歸法)正是最小平方法在會計實務的直接應用。
  • 《管理的數學》第 2 章:銷售預測的趨勢線擬合即簡單迴歸。

練習#

  1. 用例題 10.1.1 的資料驗證:迴歸線必過點 \((\bar{x}, \bar{y}) = (6, 9)\) ;並證明殘差和 \(\sum e_i = 0\) 。
  2. 某班 8 名學生讀書時數 \(x\) 與考試分數 \(y\) 的 \(\sum(x_i-\bar x)(y_i-\bar y) = 96\) 、 \(\sum(x_i-\bar x)^2 = 48\) 、 \(\bar x = 5\) 、 \(\bar y = 70\) 。求迴歸線,並預測讀 8 小時者的分數。
  3. 證明:在簡單迴歸中 \(R^2\) 等於 \(x\) 與 \(y\) 樣本相關係數的平方。
  4. 設真實模型為 \(y = 3x + \varepsilon\) 但你遺漏了相關解釋變數 \(z = 2x + u\) ,且 \(\varepsilon\) 與 \(u\) 獨立。說明 \(x\) 與合成誤差 \(2u + \varepsilon\) 為何相關,這是哪一類違反?
  5. 思考題:相關不等於因果。請以「冰淇淋銷售與溺水人數正相關」為例,區分第三變數偏誤、並說明工具變數法或隨機實驗各如何解決它。

名詞速查表#

  • 最小平方法:極小化殘差平方和的估計法(Legendre 1805、Gauss 1809)。
  • Gauss–Markov 定理:古典假設下 OLS 是最佳線性不偏估計量。
  • **判定係數 \(R^2\) **:模型解釋變異的比例。
  • 辨識問題:由均衡資料無法直接辨識結構參數的難題。
  • 內生性/外生性:解釋變數是否與誤差項相關的分界。
  • 工具變數(IV):與誤差無關、但與內生變數相關的修正方法。

(本節完)