2016:AlphaGo — 當 AI 學會自己跟自己下棋#
案情#
2016 年 3 月 9 日至 15 日,DeepMind 的 AlphaGo 在首爾四季酒店以 4:1 擊敗世界冠軍李世乭(이세돌)。第二局第 37 手的五路肩衝被棋界稱為「神之一手」——人類千萬棋譜中幾乎不會出現的落點。三百多年前人類寫下的圍棋規則,第一次被機器以「自我對弈」徹底重新詮釋。
前因#
- 1997 年 IBM 深藍擊敗西洋棋王卡斯帕羅夫,但靠的是暴力窮舉;圍棋棋盤 19×19,合法局面約 \(10^{170}\) ,窮舉法失效。
- 2006 年法國學者 Coulom 提出蒙地卡羅樹搜尋(MCTS),圍棋程式實力大進,但業餘高段即成天花板。
- 2014 年 Google 以約 4 億英鎊收購 DeepMind;2015 年 10 月 AlphaGo 歐洲版 5:0 勝職業二段樊麾,登 Nature 期刊。
- DeepMind 之前的代表作:2013 年以 Q-learning 玩 ATARI 遊戲超越人類。
線索與推理#
偵探的疑問:AlphaGo 的關鍵突破是什麼?比對證據,是「三腦合一」的架構:策略網路(Policy Network)由人類棋譜監督學習,學會「像人一樣落子」;快速走子用於模擬展開;價值網路(Value Network)評估局面勝率。而破案的最後一塊拼圖是自我對弈強化學習——讓策略網路與自己對下數萬局,生成新棋譜再訓練價值網路,人類棋譜只是「初始化」而非「教材」。這解釋了第 37 手:它不是失誤,而是超越人類棋譜分布的探索,事後職業棋手承認此手改變了圍棋開局理論。DeepMind 的決策邏輯也清晰:圍棋是通用 AI 的試金石——規則簡單、搜尋空間天文數字、人類直覺無法明文化。擊敗李世乭不是目的,而是向世界(與 Google 董事會)證明強化學習路線的公關傑作。
理論#
強化學習目標為最大化累積期望回報 \(\mathbb{E}\left[\sum_{t} \gamma^t r_t\right]\) 。AlphaGo 結合 MCTS 與神經網路:在狀態 \(s\) 下,選點準則
其中 \(P\) 為策略網路先驗、 \(Q\) 為動作價值、 \(u\) 項促成探索。價值網路以最小平方損失訓練 \(L_\theta = (z - v_\theta(s))^2\) ( \(z\) 為對局真實勝負)。後繼者 AlphaGo Zero(2017)完全棄用人類棋譜,僅靠自我對弈 40 天便超越所有版本,其損失函數 \(L = (z-v)^2 - \pi^\top \log p + c\|\theta\|^2\) ,印證「從規則到自我對弈」的躍遷。搜尋空間對照:西洋棋約 \(10^{47}\) 、圍棋約 \(10^{170}\) ,宇宙原子總數僅約 \(10^{80}\) 。
後果#
- 2017 年 AlphaGo 3:0 勝柯潔,之後退役;AlphaGo Zero 與 AlphaZero 轉戰西洋棋、將棋皆稱霸。
- DeepMind 將同套技術用於蛋白質摺疊,2020 年 AlphaFold 2 破解五十年生物學難題。
- 強化學習成為科技巨頭 AI 研發主戰場;韓國、中國掀起 AI 國家戰略競賽。
- 大眾 AI 意識覺醒,為 2022 年生成式 AI 浪潮完成社會心理鋪墊。
冷案檔案#
- 時間:2016-03-09 至 03-15,首爾。
- 案由:AlphaGo 以深度神經網路+蒙地卡羅樹搜尋+自我對弈強化學習擊敗李世乭。
- 歷史定位:AI 從「人類知識的編碼器」蛻變為「超越人類經驗的發現者」的分水嶺。