AI 與人的對比——差異決定未來#
OpenAI 在 2024 年 5 月推出 GPT-4o，蘋果在 2024 年 6 月發布 Apple Intelligence，消費電子正式接入 AI。短短兩年之內，AI 從新興事物變成了必備技能。
作者提出三個核心論點：
- AI 在「像人」方面的表現，超出預期
- 要讓 AI 有更高智能，比預期更容易
- 我們對 AI 智能的上限，有個大大的隱憂
AI 的道德與社會智能#
北卡羅來納大學研究者的「道德圖靈測試」顯示，大語言模型在道德理解和道德建議方面已經超過了人類：
- GPT-3.5 的道德解釋得分已超過普通美國人
- GPT-4o 在贊同度、道德性、細緻度、周到性和可信度上都超過了《紐約時報》「倫理學家」專欄
- 沙特哈立德國王大學的研究顯示，Google Bard、Bing 和 GPT-4 在心理諮詢方面的得分都超過了心理諮詢專業的本科生；GPT-4 更是超過了博士學位獲得者
認知重評：AI 超過 85% 的人類#
哈佛大學研究發現，GPT-4 在「認知重評」（換個視角看待事實）這項高級心理調節技術上，得分超過了 85% 的人類受試者。
- 不論有效性、新穎性還是移情能力，GPT-4 都優於人類
- 唯一略差的是建議的針對性——人類更能顧及當事人的具體情況
- 即使付錢讓人類認真提建議，結果仍不如 GPT-4
85% 是個非常有代表意義的數字——對人類選手來說不算好，不能靠這個水平成名。但 AI 把這個水平的智能變得無比廉價、無限量提供。
AI 消解陰謀論#
麻省理工學院和康奈爾大學的研究發現，GPT-4 Turbo 很善於消解人們頭腦中的陰謀論：
- 只要跟 GPT-4 來三輪短短的辯論，20% 信奉者的觀念就會被轉變過來——甚至包括鐵桿信奉者
- 這個效應是持續的
- 語言模型讀過很多書，世界觀比絕大多數人合理
用智能體提升智能——人機協作的新高度#
智能體（Agent）的概念#
智能體是近兩年特別熱門的研究和應用領域，可以簡單理解為定制的 GPT：
- 它們被預裝了詳細指令，可以執行多步驟、需要判斷的複雜任務
- 最鮮明的特點是有自主決策能力——不只是按流程做事，而是自己制訂計畫、調用工具、分析現場情況
- GPT-4o 能理解你的問題意圖，主動上網搜索、訪問網頁、生成摘要
多智能體分身投票#
騰訊公司 2024 年 2 月的論文展示了用多個智能體分身來提高模型智能的方法：
- 對一個問題生成多個智能體分身，讓它們各自獨立處理，最後投票選出最多人支持的答案
- 每個分身是一次獨立的推理，互不干擾——體現了「決策衛生」和「群體智慧高於個體」的原理
- 僅靠這一招，Llama2 就達到了 GPT-3.5 的水平；GPT-3.5 的分身綜合後可達到 GPT-4 的水平
倫敦大學學院和牛津大學的研究也發現，用 140 個智能體分身來評價商業計劃書，綜合排序接近人類專家。2024 年阿里巴巴全球數學競賽的前三名，也都用了多個智能體綜合求解。
你是否信仰縮放定律——AI 發展與人類潛力#
縮放定律（Scaling Law）#
縮放定律指的是：把模型的算力大小（運算次數、數據規模、參數個數）擴大多少倍，模型的智能水平會一直跟著擴大。
- 這是所有做大模型開發的公司的命根子
- 截至目前，業界普遍認為縮放定律仍然有效
- 山姆·奧特曼一再表示 GPT-5 比 GPT-4 厲害得多
楊立昆的反對觀點#
圖靈獎得主楊立昆（Yann LeCun）認為：
- 既然大語言模型是「語言」模型，智能必然受到語料水平的限制
- AI 的智能增長將會迅速陷入邊際效益遞減，達到某個上限後就會停下來
兩大隱憂#
- 語料有限：一位機器學習專家 jbetker 發現，模型行為不是由架構決定，而是由訓練數據集決定的——不管什麼模型，最終表現都是一樣的
- 訓練語料快要用完：2023 年的研究估計，到 2032 年之前大模型就會面臨沒有新語料可用的局面
指數增長還是 S 曲線？#
DeepMind 的 AI 科學家蒂姆·洛克塔舍爾警告：我們都愛談論「指數增長」，但指數增長的初期跟邏輯斯諦（Logistic）函數的 S 曲線是一樣的。
- 指數增長會一直高速長下去
- 邏輯斯諦增長會很快陷入邊際效益遞減，收斂在一個上限之下
世界上沒有永遠的高速增長，任何技術終究都會陷入 S 曲線。但過去幾十年間摩爾定律真的一直保持指數增長！所以我們還是不知道未來會怎樣，一切只能等待。