第 11 章　多模態、具身智慧與 AGI 的終極前沿#

11.3 AGI（通用人工智慧）的安全與倫理博弈：Superalignment、人類控制權與矽谷宮鬥劇的背後本質#

11.3.1 對齊問題：從論文到公司治理#

「對齊（alignment）」指確保 AI 的目標與人類價值一致。里程碑：

• 2022 年 Anthropic 提出 Constitutional AI（以成文原則自我批評訓練）；
• 2023 年 7 月，OpenAI 成立 Superalignment 團隊（Sutskever 與 Jan Leike 領導，承諾以 20% 算力研究超級智能對齊，四年期）；
• 2024 年 5 月，Sutskever 離職、Leike 被解職後宣布辭職，團隊解散併入主線研究——「安全 vs 產品」的張力公開化。

11.3.2 OpenAI 董事會風波（2023 年 11 月）#

11 月 17 日，董事會罷免 CEO Altman，聲明稱其「在溝通中未始終坦誠」。劇情五日速轉：

1. 員工 700 餘人聯署威脅集體辭職；
2. 投資人（微軟 CEO Nadella 承諾收編 Altman 團隊）施壓；
3. 11 月 21 日 Altman 回任，董事會重組（含 OECD 前祕書長 Gurria 等新成員）。

全球媒體稱之為「AI 界的宮鬥劇」。其本質是一場治理試金石：非營利董事會有無能力約束一個市值數千億美元級的技術公司？事件後，OpenAI 重組董事會並於 2024–25 年推進營利實體轉型（公共權益公司架構的討論貫穿其間）。

11.3.3 制度化的全球博弈#

• 2023 年 11 月英國 Bletchley Park 首屆 AI 安全峰會（28 國＋歐盟簽署宣言，中美同席）；
• 2023 年 10 月美國白宮行政命令（2025 年後政策擺盪）；
• 2024 年 8 月歐盟 AI Act 生效（風險分級監管）；
• 各州／各國的模型評測機構（UK AISI、US AISI）成立——「AI 安全」由思想運動變成官僚制度。

11.3.4 真實的分歧地圖#

AGI 預測的光譜（截至 2025 的公開立場）：

• 樂觀工程派（Altman、Amodei）：數年內出現強大 AI 系統，重點是分發與安全工程；
• 科學懷疑派（LeCun）：LLM 路線不通向人類級智能，需世界模型；
• 風險警告派（Hinton、Bengio、部分 Sutskever 立場）：能力增長快於控制技術，需制度性減速。

三派共享同一事實基礎，分歧在時間尺度與制度信心——這正是本書想留給讀者的：AI 的下一章不只在代碼裡，更在治理設計裡。

11.3.5 前因後果#

• 前因：10.3 的能力躍升＋Superalignment 的承諾與解散＋公眾恐懼的合法化。
• 事件：2023 董事會風波、2023–24 全球治理制度化。
• 後果：AI 的「人類控制權」問題正式進入憲制討論；本書結語將回到圖靈（1.2）——八十年的問題，如今是全人類的問題。

結語