跳轉到

1986-神經網路復興:連結主義的平反#

案件摘要#

1986 年,Rumelhart、Hinton 與 Williams 的〈用反向傳播學習表徵〉連同《平行分布式處理》(PDP)兩卷本出版——多層神經網路的訓練難題(credit assignment)被反向傳播演算法破解。心理學界的意義遠超工程:(→ 認知可以不需要「符號規則」——知識可以分布式地存在於單元之間的連結強度中!)(1956-認知革命.md 建立的「心智=符號處理」正統,被自己的工具箱內部政變。)本案同時是一樁冷案重啟:神經網路在 1969 年(Minsky 與 Papert 證明單層感知機的極限,全場棄守)被判死刑,十七年後翻案。

前因 -- 多因素的局勢#

  • 1969 的死刑判決:Minsky 與 Papert《感知機》證明單層網路連 XOR 都學不會;多層網路又無訓練法——AI 界與認知科學集體轉向符號主義(→ 一本書冷凍一個領域十七年,學科政治的經典操作!)
  • 心理學的內部需求:符號主義解釋不了的現象在累積——原型效應、漸進學習、 graceful degradation(部分損傷只降性能不崩潰)、類比的連續性——這些正是腦損傷病人(1861-布羅卡失語症.md)表現的型態!(→ 連結主義的第一批證人,是神經心理學的病人!)
  • 腦科學的常識壓力:大腦裡沒有符號表、沒有規則列表——只有神經元與突觸權重。符號主義的隱喻與生物現實的距離越來越難堪。
  • 計算條件:1980s 工作站與向量機出現——模擬網路終於跑得動(→ 理論的可行性常被硬體的演進決定!)
  • 人物網絡:Rumelhart(心理學出身)、Hinton(遺傳學出身、堅持神經網路的異端)、McClelland——加州大學聖地牙哥分校(UCSD)的 PDP 研究群(→ 學科的邊緣地帶再次成為革命產房!)

線索與推理 -- 因素咬合#

線索一:反向傳播 = 死刑撤銷的技術條件#

多層網路的問題:中間層的單元該如何被「責怪」?反向傳播用微積分鏈鎖律把輸出誤差逐層分攤:

\[\Delta w_{ij} = \eta \cdot \delta_j \cdot o_i,\quad \delta_j = f'(net_j)\sum_k \delta_k w_{jk}\]

(→ 學習=沿著誤差的梯度往回分配責任——工程上優雅,生物上未必真實(大腦似乎沒有精確的反向訊息通路)——這個「工程可行 vs 生物可信」的張力,正是本案與神經科學長期曖昧的根源!)

線索二:分布代表 = 心理概念的哲學政變#

PDP 宣稱:概念不是一個個檔案,而是分布在眾多單元上的活動模式;記憶不是提取檔案,是重建模式。(→ 這直接挑戰認知科學的表徵觀——特別是福多的「思維語言」先天模組論!)連結主義也給記憶研究新模型:Rumelhart 與 McClelland 1986 年的過去式學習模型顯示,網路能重現兒童「先學規則動詞、後犯過度規則化錯誤」的發展曲線——不需要先天的規則模組(平克與普林斯 1988 年的猛烈反駁,開啟十年大論戰)。

線索三:神經心理學的模型化 = 失語症的數位分身#

Hinton、McClelland、Plaut 等人用受損網路模擬失讀症、失名症的錯誤模式——網路「損傷」後犯的錯與病人驚人相似。(→ 損傷法(1861 年的老工具)第一次有了計算模型——理論、病人、模擬三方對照,成為認知神經科學的標準作業!)

線索四:兩次冷卻與一次雪崩#

1986 的復興在 1990s 因算力與資料不足而再度降溫(支持向量機等取代);2012 年 AlexNet 以 GPU 深度網路橫掃 ImageNet——反向傳播+大資料+平行算力終於合流(Hinton 團隊正是核心)。(→ 本案是「理論等硬體五十年」的教科書案例;2018 年 Hinton、LeCun、Bengio 獲圖靈獎——冷案最終獲得學界最高勳章!)連結主義的勝利隨之席捲心理學:預測編碼、表徵幾何、與大型語言模型(2022-大型語言模型與心理學.md)作為「心智模型」的爭論,全是本案的後裔。

破案時刻#

  • 1943:麥卡洛克—皮茨神經元邏輯(1948-控制論與資訊革命.md)。
  • 1958:Rosenblatt 感知機。
  • 1969:《感知機》——死刑判決。
  • 1980:Fukushima 的新認知機(卷積的前身)。
  • 1986:反向傳播論文+PDP 兩卷本。
  • 1988:平克—普林斯反擊,連結主義大論戰。
  • 2012:AlexNet——深度學習雪崩。
  • 2018:Hinton 等獲圖靈獎。
  • 結案:分布式的、統計學習的心智觀成為主流。

後果 -- 改變了什麼#

  • 認知科學的版圖:符號主義與連結主義的雙雄結構;最終連結主義(深度學習)接管了 AI,並反過來供給心理學「人工受試者」。
  • 認知神經科學的方法論:計算模型成為與行為資料、腦影像並列的第三支柱。
  • 發展心理學的辯論:先天 vs 學習的爭論被重新表述為「架構先天 vs 知識先天」——網路能學什麼、不能學什麼成為可計算的問題。
  • 哲學與社會:分布式表徵削弱了「心理語言」的先天論;AI 的行為(幻覺、偏見)成為檢驗心智理論的新鏡子。

因素影響筆記#

1969《感知機》死刑 ──┐
病人資料(漸進/損傷) ──┼─→ 1986 反向傳播+PDP 復興
算力成熟(硬體) ───────┘         │
                               ↓
            知識=連結強度(分布式表徵)vs 符號規則
                               │
      ┌────────────────────────┼─────────────────────┐
      ↓                        ↓                     ↓
 認知科學雙雄論戰        神經心理學計算模型      2012 深度學習雪崩
                               │                     │
                               └→ 心理學獲得「人工受試者」→ LLM 時代(2022)

偵探結語:這樁案件的心理學教訓藏在最後才揭曉:1986 年那兩本 PDP,表面是工程論文,實際是一份心理學的政變宣言——心智可以不靠規則、不靠先天語言,只靠連結與誤差就能長出來。判它死刑的 1969 判決書錯在把「當時不會訓練」寫成「原理上不可能」——學科史上最常見的謀殺:用今天的工具限明天的心。而當深度學習終於接管一切,心理學才發現自己面對新難題:一面比人類更擅長語言、卻沒有身體與動機的鏡子。冷案翻案用了三十五年;下一樁案子的卷宗,現在才開始寫。