OpenAI 的 AGI 聲明#

2023 年 2 月 24 日，OpenAI 發佈了一則聲明《對 AGI 及以後的規劃》（Planning for AGI and beyond）：

• AGI 不是我們現在用的科研、畫圖或者導航的 AI，而是「通用人工智能」——至少要有人的水平，而且什麼認知任務都可以幹
• AGI 以往只存在於科幻小說之中，但 OpenAI 已經規劃好了路線圖
• 作者聽到一些傳聞，AGI 有可能在 2025-2026 年就會到來

這份聲明非常特殊：我們從來沒見過任何一家科技公司是這樣說自家技術的——整個文件的重點不是吹噓，而是一種憂患意識。它憂患的既不是自家公司，也不是 AGI 技術，它憂患的是人類怎麼接受 AGI。

聲明的核心態度#

• OpenAI 說：「AGI 有可能給每個人帶來令人難以置信的新能力」
• 但接下來反覆強調要「逐漸過渡」：「讓人們、政策制定者和機構有時間了解正在發生的事情，親自體驗這些系統的好處和壞處」
• 部署新模型會「比許多用戶希望得更謹慎」
• 這等於是說，通往 AGI 的技術已經具備，但為了讓人類有個適應過程，OpenAI 正在刻意壓著，盡量慢點出

AI 的信任問題#

作者用了一個形象的比喻：

• 想象你有個特別厲害的助手，名叫龍傲天。他方方面面都比你強，你常常不理解他為什麼要那樣決定，但事實證明他替你做的每一個決定都比你自己原本想的更好
• 久而久之，你事事都依賴他
• 但是，你真的完全信任他嗎？

已經在發生的事#

• 像淘寶、滴滴、抖音這些互聯網平台都有幾億甚至幾十億的用戶，用人力管理這麼多用戶是不可能的
• 它們都在用 AI：給用戶推薦商品、安排外賣騎手接單、對擁擠時段打車進行加價、對不當發言刪帖
• 這些決定已經要麼全部，要麼主要是 AI 做的

AI 決策的問責問題#

• 如果是某公司某個員工的操作傷害了你的利益，你大可抗議，要求他負責
• 可如果公司卻說那是 AI 做的，連我們自己都不理解，你什麼感受？
• 現在 AI 的智慧是難以用人的理性解釋的——為什麼抖音向你推薦了這條視頻？你質問抖音，抖音自己都不知道

AI 在各領域的突飛猛進#

DeepMind（已被 Google 收購）的成就：

• 推出 AlphaStar，在《星際爭霸 II》這樣規則複雜的開放式遊戲環境中，打到了最高水平
• 推出 AlphaFold，能預測蛋白質的形狀，改寫了領域內生物學的研究方式
• 醫學方面：用 AI 識別 X 射線圖片，幫助診斷乳腺癌；對急性腎臟損傷的診斷比主流方法提前了 48 小時
• 天氣預報模型 DGMR 和 GraphCast，精確度都顯著高於現有的天氣預報
• 用 AI 給 Google 的數據中心重新設計了一套冷卻系統，能節省 30% 的能源

這些成就的最可怕之處不是 DeepMind 一出手就顛覆了傳統做法，而在於它們不是集中在某個特定領域，是大殺四方。到底還有什麼領域是 DeepMind 不能顛覆的？而這些還只是 DeepMind 能做的事情中的一小部分，DeepMind 只是 Google 的一個部門。

AI 對人類社會的統治力#

軍事與金融#

• 華爾街搞量化交易的公司已經在用 AI 直接做股票交易，效果很好。但 AI 交易是高頻進行的，在沒有任何人意識到之前，就有可能形成一個潮流，乃至引發市場崩潰
• 美軍在測試中用 AI 操控戰鬥機，AI 的表現已經超過了人類飛行員。如果對手用 AI，你就不得不用 AI

司法#

• 根據現有的研究案例，如果把司法判決權完全交給 AI，社會絕對會比現在公正
• 但有些人輸了官司會要求一個解釋。如果 AI 說只是我的算法判斷你再次犯罪的概率有點高，可我也說不清具體因為啥高，你能接受嗎？
• 理性人需要解釋，有解釋才有意義，有說法才有正義

AI 成為「命運的安排」？#

作者設想了一個場景：小李說「我沒被大學錄取。我的高考成績比小王高，可是小王被錄取了。一定是 AI 認為我的綜合素質不夠高 ⋯⋯ 我不抱怨，因為 AI 自有安排！」——你能接受這樣的社會嗎？

AI 是「法寶」，不是普通工具#

• 現階段 AI 已經不是一個普通工具，而是一個「法寶」——你需要像修仙小說那樣，耗費巨量的資源去煉製它
• 據摩根士丹利分析，正在訓練中的 GPT-5 用了 25000 塊英偉達最新的 GPU，每塊價值 1 萬美元，光硬件就是 2.5 億美元
• 但只要你把它訓練好，你就得到了一個法寶。AI 做推理不像訓練那麼消耗資源，人人想用的神兵利器

AGI 將不再是工具，而是助理#

• 今天出生的孩子都是 AI 時代的原住民，AI 將是他們的保姆、老師、顧問和朋友
• 我們會習慣依賴 AI，可能會把 AI 人格化，甚至認為人沒有 AI 好
• 很多人會把 AI 當成神靈，AI 的判斷幾乎總是比人類正確 ⋯⋯ 那人們會不會從強烈相信 AI，變成信仰 AI？

新時代的「教會」？#

中世紀的類比#

• 在中世紀，所有人都相信上帝和教會，有什麼事不是自己判斷，而是去教堂問神父
• 印刷術出現以後，每個人可以自己讀書了，直接就能獲得智慧，不用迷信教會，這才開啟了講究理性的啟蒙運動
• 啟蒙運動對社會的改變是全方位的：封建等級制度、教會的崇高地位、王權，都不復存在

AI 時代的反向趨勢#

• 而今天我們又開啟了一個新的時代：人的理性有達不到的地方，可是 AI 可以達到
• 如果人人都相信 AI，有什麼事不是自己判斷，而是打開 ChatGPT 問 AI，知識主要是通過跟 AI 的對話學習 ⋯⋯
• 假設掌握 AGI 技術的公司成立了一個組織，因為可以用 AGI 自行設計新的 AGI，AGI 迭代得越來越快，這個組織的領先優勢越來越大 ⋯⋯
• 這個組織難道不就是新時代的「教會」嗎？

這就是為什麼很多人呼籲，我們不應該把什麼任務都交給 AI，不能讓 AI 自動管理社會。任何情況下，真正的決策權都應該掌握在人的手裡。為了確保民主制度，投票和選舉都必須由人來執行，人的言論自由不能被 AI 取代或者歪曲。

歷史的大轉折#

OpenAI 在聲明中說：「我們希望就三個關鍵問題進行全球對話：如何管理這些系統，如何公平分配它們產生的利益，以及如何公平分享使用權。」

• 我們正處於歷史的大轉折點上，這絕對是啟蒙運動級別的思想和社會轉折、工業革命級別的生產和生活轉折——只是這一次轉折的速度會非常非常快
• 轉折帶來的不一定都是好事：啟蒙運動導致過最血腥的革命和戰爭；工業革命把農業人口大規模變成城市人口，而那個時代的工人並不是很幸福
• 現在的關鍵問題（「元問題」）是：我們缺少 AI 時代的哲學，我們需要自己的笛卡爾（Descartes）和康德來解釋這一切