面對新事物的正確態度#
- 見到新事物就很激動，恰恰證明你心仍然會澎湃，沒有陷入認知固化
- 比起什麼都用老一套世界觀去解釋、說「我 30 年前就搞明白了」，敢於讓人說你傻要強得多
- 要允許自己繼續長進，就得敢於擁抱新事物
作者認為，2021 年以前出版的所有講 AI 的書，現在統統都過時了。最近幾年的幾個關鍵突破已經徹底改變了神經網絡和語言模型研究的面貌。
AI 常識的突破#
- 2012 年，計算機視覺專家卡帕西（Andrej Karpathy）認為要讓 AI 看懂一張照片「非常非常困難」，因為需要大量「隱性知識」（tacit knowledge）
- 計算機科學家米歇爾（Melanie Mitchell）用大量例子說明教 AI 常識有多困難——Cycorp 公司列舉了 1500 萬條人類常識，還遠遠沒列舉完
- 然而 GPT-4 已經能看懂那些照片、理解笑話，它有了常識
GPT 學到的是什麼？#
蘇茨科弗（Ilya Sutskever）在與黃仁勳的對談中解釋：
- GPT 的確只是一個神經網絡語言模型，被訓練來預測下一個單詞
- 但如果訓練得足夠好，它就能很好地掌握事物之間的各種統計相關性
- 神經網絡真正學習的其實是「世界的一個投影」（a projection of the world）
關鍵洞見：GPT 學的其實不是語言，而是語言背後的那個真實世界。訓練 GPT 用的那些語料就是手指，而 GPT 抓住了月亮。
從文本到世界模型#
- 蘇茨科弗舉例：哪怕沒有多模態功能，GPT 單純從文本上學習，已經對顏色有了很好的理解——知道紫色更接近藍色而不是紅色
- 泰格馬克（Max Tegmark）的研究發現，即使是能運行在個人電腦上的「小」模型（如 Llama-2），也不是只知道詞彙頻率的「隨機鸚鵡」，它擁有真實世界的真知識
- GPT 的訓練不是在簡單地背課文，它是在通過手指去感受月亮
涌現的歷程#
- 2017 年：OpenAI 用亞馬遜用戶評論訓練模型，本來只是預測下一個字符，結果模型自動生長出「情感神經元」（sentiment neuron），情感判斷準確率超過當時所有專門模型
- 2021 年前後：GPT 有了「開悟」和智能意義上的「涌現」，自動擁有了小樣本學習能力、推理能力、思維鏈
GPT 世界觀的演進方向#
- 事情正在向「AI 和人腦沒有本質區別，語言模型就是真實世界本身的投射」這個方向演進
- GPT 從「預測下一個詞」中自動涌現出語義理解，這是通往 AGI 的最關鍵一步
- 作者認為這大概是 21 世紀以來人類最重要的發現，只有 100 年前量子力學的革命能與之媲美
AI 的馴化問題#
- OpenAI 不希望 GPT 什麼話都說，必須教會它說容易被接受的話——這就是「AI 超級對齊問題」（AI superalignment problem）
- 需要「微調」和「強化學習」，用人來反饋或用另一個 AI 來訓練它
- 到了 GPT-4 規模，再增加參數 10 倍，成本增加不止 10 倍，但表現並不會好 10 倍——邊際效益遞減
- 研究方向轉為改進模型架構（如 Transformer 還有很大改進空間），而非一味增加參數
- 大趨勢是暴力破解階段很快會告一段落，接下來的首要問題不是讓 AI 更聰明，而是更精準、更好用、更能讓社會接受