跳轉到

1959 - Hubel & Wiesel 視覺皮層#

案件摘要#

1959 年起,哈佛大學的 David Hubel 與 Torsten Wiesel 在貓的初級視覺皮層(V1)做了一系列電生理實驗,發現神經元並非對「光點」反應,而是對方位選擇性的邊緣(oriented edges)反應。他們把 V1 神經元分為簡單細胞與複雜細胞,揭示視覺表徵的層級結構:

\[ \text{光點} \rightarrow \text{邊緣(簡單細胞)} \rightarrow \text{邊緣移動(複雜細胞)} \rightarrow \cdots \rightarrow \text{物體} \]

本案的本質是:大腦看世界的方式是層級特徵提取——這正是卷積神經網路(CNN)的神經科學遠祖。1989 年 LeCun 親口承認,CNN 的架構靈感就是 Hubel 與 Wiesel 的層級模型。

前因 -- 為什麼會有這個案子#

  • 當時的教條:神經科學界認為視覺皮層神經元像視網膜細胞一樣對光點反應(中心—周圍感受野)。如果 V1 只是視網膜的複印,層級從何而來?
  • Hubel 與 Wiesel 的動機:他們想記錄 V1 神經元對光點的反應,但實驗屢屢失敗——直到一次意外:他們在投影儀換玻璃片時,神經元對玻璃片邊緣掃過的直線劇烈放電。兇手不是光點,是邊緣。
  • 1949 年 Hebb 規則的線索(見 1949-Hebb學習規則.md):如果連結靠共激活塑造,那麼視覺經驗應該會雕出「對常見特徵敏感」的細胞——Hubel 與 Wiesel 的發現正好提供了生理證據。
  • 1943 年 M-P 神經元的線索(見 1943-麥卡洛克皮茨邏輯神經元.md):抑制性連結( \(w_i < 0\) )可以做出「中心激發、周圍抑制」的結構——V1 簡單細胞的感受野正是這種加權結構的生理實例。
  • 1957 年感知器的線索(見 1957-Perceptron感知器.md):光電池網格 + 加權求和 = 特徵偵測器——感知器在工程端、Hubel-Wiesel 在生理端,同時指向「加權的特徵提取」。
  • 技術條件:鎢絲微電極與示波器的進步,使單一神經元的放電可以長時間穩定記錄——沒有這個硬件,破案無從下手。

線索與推理 -- 數學式、程式、理論#

第一條線索:簡單細胞——方位選擇性的數學結構#

簡單細胞的感受野是「狹長的興奮區 + 兩側抑制區」,可以用 Gabor 濾波器精確逼近:

\[ g(x, y) = \exp\!\left(-\frac{x'^2 + \gamma^2 y'^2}{2\sigma^2}\right)\cos(2\pi f x'), \quad x' = x\cos\varphi + y\sin\varphi \]

其中 \(\varphi\) 是偏好方位、 \(f\) 是偏好空間頻率、 \(\sigma\) 是感受野大小。三個關鍵性質: 1. 方位選擇性:對 \(\varphi\) 方向的邊緣反應最強,偏離 90° 幾乎無反應 2. 位置敏感性:邊緣必須落在感受野的正確位置(興奮區蓋住亮側、抑制區蓋住暗側) 3. 線性加權:反應近似 \(\mathbf{w}^\top \mathbf{x}\) ——正是感知器/M-P 神經元的前饋計算

第二條線索:複雜細胞——平移不變性#

複雜細胞的性質與簡單細胞有三點關鍵差異:

性質 簡單細胞 複雜細胞
方位選擇性 有 有
位置敏感性 有(必須在正確位置) 無(感受野內任意位置皆可)
反應模型 線性 \(\mathbf{w}^\top\mathbf{x}\) 後過非線性 多個簡單細胞的極大值(MAX)
非線性 閾值(半波整流) 極大值匯聚

推理:複雜細胞 ≈ \(\max_k(\text{簡單細胞}_k)\) ——把多個不同位置的方位偵測器匯聚取極大,就得到「這個方位存在於此區域某處」的偵測器。用現代 CNN 語言:

\[ \text{簡單細胞} = \text{卷積層(convolution)}, \qquad \text{複雜細胞} = \text{池化層(pooling / MAX)} \]

「卷積 → 池化」這對組合在 1980 年 Fukushima 的 Neocognitron(見 1980-福島新認知機.md)與 1989 年 LeCun 的 CNN 中被正式工程化——神經科學的發現在三十年後變成了演算法的兩個層。

第三條線索:層級與位置柱——表徵的幾何#

Hubel 與 Wiesel 進一步發現 V1 的巨觀組織: - 方位柱(orientation columns):皮層垂直柱內的神經元偏好同一方位,水平相鄰柱的偏好方位連續旋轉 - 眼優勢柱(ocular dominance columns):柱交錯偏好左眼/右眼輸入 - 層級假說:V1(邊緣)→ V2 → V4(形狀)→ IT(物體)——表徵越來越抽象、越來越不變

這張幾何地圖的偵探意義:表徵 = 空間組織 + 層級抽象。後續的深層 CNN 視覺化研究(Zeiler-Fergus 2014)發現,訓練好的 CNN 內部竟然自發形成了方位選擇性、物體選擇性的層級——神經網路在沒有被指示的情況下重新發現了 V1 的組織。這是「層級特徵提取」作為智慧模型的雙重驗證:生理上大腦如此,工程上訓練出的網路也如此。

第四條線索:發育的關鍵期——可塑性的生理證據#

Hubel 與 Wiesel 的另一組實驗直接驗證了 Hebb 的預言: - 縫合新生小貓的一隻眼睑,數週後打開:眼優勢柱崩潰——縫合眼對應的皮層被正常眼佔據 - 成貓做同樣縫合:幾乎無影響——存在關鍵期(critical period) - 推理:發育中「兩眼競爭皮層」,共激活多的連結贏——這正是赫布競爭(見 1949-Hebb學習規則.md 中的赫布配對)的生理實例:「用進廢退」不是比喻,是柱狀圖的測量結果

這組實驗使 Hebb 的假設從理論變成測量:連結確實被經驗雕刻。1981 年 Hubel 與 Wiesel 獲諾貝爾生理醫學獎(與 Sperry 共享)。

第五條線索:實驗方法的偵探學#

Hubel 與 Wiesel 的成功不只靠理論,更靠方法論的革新——這也是本案的線索之一:

  • 單細胞記錄:只記錄單一神經元,不記群體平均——避免「平均掉」單元的選擇性
  • 參數化刺激:用可移動、可旋轉的光棒系統性地掃描刺激空間(位置 × 方位 × 長度)——把「找感受野」變成系統性的參數搜尋
  • 意外的方法:那次劃時代的發現來自換玻璃片時的意外——但意外只青睞有準備的人:他們的刺激系統恰好能掃出邊緣,記錄系統恰好能捕捉單次放電
  • 師徒制的接力:Kuffler(他們的老師)在視網膜發現中心—周圍感受野——Hubel 與 Wiesel 把同樣的方法論帶到 V1,往上一層

這套方法論的偵探意義:感受野 = 輸入空間中使神經元放電的區域——這個定義在 2010 年代被反轉使用:對訓練好的 CNN,用梯度上升找出「使某個神經元最大激活的輸入圖像」——神經網路的「感受野」被同樣的方法照亮。方法論的統一,是生理與工程雙重驗證的最深一層。

結案 -- 後果與影響#

  • 視覺神經科學獲得核心範式:感受野、方位選擇、層級、關鍵期——V1 成為被理解得最透徹的皮層區域。
  • 連結主義的生理驗證:Hebb 的可塑性、M-P 的加權結構都得到測量證據,神經網路不再是純數學幻想。
  • CNN 的直接遠祖:簡單/複雜細胞 → Fukushima 的 Neocognitron(1980)→ LeCun 的 CNN(1989)——卷積與池化是神經科學的饋贈。
  • 伏筆一:層級特徵提取 → 1989 LeCun CNN 手寫辨識(見 1989-LeCunCNN手寫辨識.md)→ 2012 AlexNet(見 2012-AlexNetImageNet革命.md)——「機器看世界」的三代傳承。
  • 伏筆二:平移不變性(複雜細胞的 MAX)→ CNN 的池化層 → Vision Transformer(2021)重新檢驗「不變性是否需要池化」。
  • 伏筆三:關鍵期可塑性 → 遷移學習與預訓練(2018-BERT與GPT預訓練典範)——「先在關鍵期學通用特徵,再微調」的發育策略成為深度學習的標準流程。
  • 伏筆四:競爭性可塑性 → 1982 Hopfield 網路與自組織映射(Kohonen 1982)——無教師學習的生理基礎。
  • 伏筆五:Maturana 由此走向自組織系統與「認知生物學」(autopoiesis)——感知即行動的世界觀成為後世「世界模型」研究的哲學源頭之一。
  • 伏筆六:Hubel-Wiesel 的師徒接力(Kuffler → Hubel/Wiesel → 眾多後繼者)→ 現代計算神經科學的訓練體系——方法論的傳承比發現本身更長壽。
  • 伏筆七:「神經元是特徵偵測器」→ 2013 年詞向量與 2017 年 Transformer 內部的特徵幾何——「偵測器」的概念從 V1 擴散到所有表徵層(見 2017-Transformer注意力機制.md)。

關鍵人物與文獻#

  • David Hubel & Torsten Wiesel:〈Receptive Fields of Single Neurons in the Cat's Striate Cortex〉, J. Physiology, 1959;〈Receptive Fields, Binocular Interaction and Functional Architecture in the Cat's Visual Cortex〉, 1962
  • Hubel & Wiesel:眼優勢柱與關鍵期系列實驗(1963–1970)
  • 諾貝爾獎:Hubel、Wiesel、Sperry 共獲 1981 年生理醫學獎
  • Kunihiko Fukushima:《Neocognitron》(1980),簡單/複雜細胞的工程化
  • Yann LeCun:CNN(1989),親承架構靈感來自 Hubel-Wiesel
  • D. H. Hubel:《Eye, Brain, and Vision》(1988),科普式總結
  • 相關案件:1943-麥卡洛克皮茨邏輯神經元.md、1949-Hebb學習規則.md、1957-Perceptron感知器.md、1980-福島新認知機(科學與歷史/神經網路/1980-福島新認知機.md)、1989-LeCunCNN手寫辨識(科學與歷史/人工智慧/1989-LeCunCNN手寫辨識.md)、2012-AlexNetImageNet革命(科學與歷史/人工智慧/2012-AlexNetImageNet革命.md)