第 3 章 弗蘭克·羅森布拉特與感知機(Perceptron):神經網絡的第一次高光#
本章導言#
1957 年,康奈爾航空實驗室的心理學家弗蘭克·羅森布拉特造出能「自己學會」分類的機器——感知機。媒體狂喜、海軍出錢、學界側目。本章三節:3.1 感知機本身;3.2 紐約時報的豪言;3.3 線性可分的物理極限。
3.1 弗蘭克·羅森布拉特(Frank Rosenblatt)與 1957 年感知機:能自主學會識別形狀的硬體神經網絡#
3.1.1 從 M-P 到「會學習」的一步#
M-P 模型(1.1)只有固定權重,不會學。羅森布拉特(Frank Rosenblatt, 1928–1971)在 M-P 基礎上加了一條學習規則:誤差驅動的權重調整——
\[ w_i \leftarrow w_i + \eta\,(t - y)\,x_i \]
預測錯了,就朝正確方向調權。配合收斂定理(若樣本線性可分,算法必收斂),這是史上第一個有數學保證的學習算法。
3.1.2 Mark I Perceptron:一台真機器#
1958–60 年,美國海軍研究辦公室(ONR)出資,康奈爾航空實驗室(CAL,紐約水牛城)建造 Mark I Perceptron:
- 400 個光電管構成 20×20 的「視網膜」輸入;
- 512 個可調電位器充當「權重」(以馬達驅動機械調節!);
- 它確實能學會區分左右偏移的簡單圖形——硬體、非模擬,公眾可參觀。
3.1.3 一門新學科的起飛#
羅森布拉特 1958 年發表《The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain》(Psychological Review),1962 年出書《Principles of Neurodynamics》。康奈爾成立感知機研究項目、開設課程;「perceptron」一詞成為流行語。連接學派在這幾年風光無兩——而符號陣營正在暗處整理反擊的數學。
3.1.4 前因後果#
- 前因:M-P 模型+Hebb 學習規則(1949《行為的組織》)+ONR 的冷戰經費。
- 事件:1957 算法、1958–60 Mark I。
- 後果:神經網絡研究第一次高潮;同時把「單層」的天生侷限暴露給全世界(3.3),為 4.1 的致命一擊備好靶子。
下一節:3.2 紐約時報豪言