AGI 最好的應用案例#

作者以 OpenAI 總裁格雷格·布羅克曼妻子的經歷開篇：她因骨折引發各種疼痛，看了骨科、神經科、腸胃科、皮膚科，5 年才確診為一種罕見的遺傳性疾病。這揭示了現代醫療「頭痛醫頭、腳痛醫腳」的系統性問題。

• AGI 不需要在每個領域都超過人類最好的水平，只要能普遍提供專家水平的智能，就已經可以深刻改變世界
• AGI 首先解決的是智能的規模化 – 你隨時都能請教高水平專家
• 對學者來說，這意味著有個貼身的討論夥伴；對老百姓來說，意味著人人都有個忠誠的軍師

AI 將讓每個人成為君子#

• AI 將接管一切「小人的工作」– Agent（代理人）能代表你調用工具、執行任務、安排事情
• AI 代理的普及會把整個世界變成一個「熟人社會」，人的信譽和聲望將無比重要
• 如果全民基本收入實現、衣食無憂，每個人的一言一行都在 AI 驅動的社會評價體系之中，你必然會講道德、講禮儀
• 科技會把人人都變成君子 – 中國春秋時代孔子所說的那個意義上的君子

AI 進展的最新突破#

• DeepMind 用 AI 控制核聚變等離子體、預防核聚變中斷
• AlphaGeometry 擁有國際數學奧林匹克金牌選手級的幾何推理能力
• GPT-4 在創造性思維測試中勝出：賓夕法尼亞大學和康奈爾大學研究證明 GPT-4 比沃頓商學院 MBA 學生更有創造力
• 瑞典 Klarna 公司用 GPT 負責客服，1 個月完成 230 萬次對話，相當於取代 700 個人類客服
• 哈佛大學在波士頓諮詢公司的對照研究：使用 GPT-4 的顧問多完成 12.2% 的任務、速度提高 25.1%、品質提升 40%
• 斯坦福大學幾個華人學生推出 Mobile ALOHA 機器人，成本僅 3.2 萬美元，能做中餐、洗碗、擦桌子

三大懸念#

懸念一：大語言模型究竟有沒有智能？

• Claude 3 的「稻草撈針」實驗：不僅找到了隱藏的無關內容，還主動指出「這句話跟上下文無關，我看它或者是個笑話，或者是你們專門想測試我的能力」
• 化學博士跟 Claude 對話兩小時，解決了自己攻關一年的課題
• 量子物理學家把尚未發表的論文核心問題拋給 Claude，它給出的回答恰恰是論文中的解法
• 也許在本質上，人的智能也不過是統計模型

懸念二：到底應不應該限制 AI 的發展？

• EA（Effective Altruism，有效利他主義）– 保守派，認為 AI 不可控，要求超級對齊，反對匆忙部署
• e/acc（Effective Accelerationism，有效加速主義）– 認為科技進步本質上是好的，加速熵增是天道
• OpenAI 董事會中有幾個人是 EA，而阿爾特曼被認為是 e/acc
• 作者立場：支持 e/acc，反對減速，但也理解大模型確有內在風險（Anthropic 研究發現，大模型一旦學會欺騙，無法透過微調或強化學習消除）

懸念三：除了大語言模型，還有沒有別的實現 AGI 的路線？

• 澳大利亞西悉尼大學即將上線「神經態超級計算機」DeepSouth，模擬人腦突觸的計算機制，耗電量只有傳統計算機的 10%
• 大模型最大的難點是算力要求太高，一個真像人腦的 AGI 不應該省電嗎？

作者的結論：拐點肯定是拐點，沒有懸念。

我們的生活、生產、社會行為和地緣政治將會全面升級。阿爾特曼在 2024 年初表示打算籌集 7 萬億美元（2023 年美國 GDP 才 27 萬億美元）去實現用 AGI 改變世界的夢想。考慮到拐點的大尺度，這個數字似乎不算太離譜。

「算力終可數，智能總無窮。AI 的進步一日三驚。你體會一下這個 AGI 將到未到，大風剛起，暴風還在後面。」