AI 的電燈泡時刻#

所謂「電燈泡時刻（light bulb moment）」，是指一個原本潛伏在意識深處的想法突然成形、變得幾乎可觸可及的瞬間。個人會經歷這樣的時刻，整個社會也會。當一項技術第一次與人人都能上手的裝置或軟體結合時，新時代便由此分野。

  • 1879 年 12 月 31 日，愛迪生（Thomas Edison）在紐澤西 Menlo Park 實驗室點亮白熾燈泡，宣告電力時代的到來。
  • 1994 年 Netscape Navigator 讓網際網路真正進入大眾視野。
  • 2001 年 iPod 引爆數位音樂革命。
  • 2007 年 iPhone 開啟行動應用程式的世代。
  • 2022 年 11 月 30 日，OpenAI 推出 ChatGPT，人工智慧也迎來了屬於它的電燈泡時刻。

形式因素（form factor）至關重要。福特 T 型車不只是引擎加上輪子；ChatGPT 的成功，也不只在於模型本身，而在於那個任何人都能上手的對話介面。

為何 ChatGPT 之前的 AI 沒有引爆公眾關注#

作者 Jeremy Kahn 自 2016 年起報導 AI，他形容過去十年的進展多半發生在「狹窄領域」：

  • AlphaGo（2016）：DeepMind 的圍棋程式擊敗世界冠軍李世乭（Lee Sedol），但圍棋世界裡黑白分明、雙方資訊對稱，遊戲抽離了真實世界的複雜性。
  • StarCraft II 與 Dota 2：DeepMind 與 OpenAI 分別讓 AI 在這兩款電玩中擊敗頂尖人類玩家，但少有人熟悉這些遊戲，且其能力難以直接搬到現實。
  • 幕後 AI：影片推薦、社群網站照片標記等，使用者多半不會把這些功能視為「AI」。

這種低估 AI 進展的傾向有個名字：Tesler 效應（Tesler effect）——電腦科學家 Larry Tesler 曾打趣說：「AI 就是那些尚未被做到的事；做到的事，我們便不再稱之為智慧。」

ChatGPT 終於跨越了這道門檻。它能對話、能寫食譜、能總結會議、能寫程式、能搭配其他生成模型產生影像，讓社會大眾第一次直觀感受到 AI 已然到場。

AI 與過往科技的三項根本差異#

作者強調，許多對 AI 的恐懼，曾在印刷術、電視、網際網路問世時同樣出現過。AI 在許多面向是過往趨勢的「加劇」，而非全新的問題。

但作者也指出，AI 與先前的創新有三項根本不同：

通用性更強#

AI 是比過往多數科技更具通用性的技術，比較對象不該是電話或汽車，而是書寫、冶金或電力。多位思想家形容它可能是「人類最後一項發明」，因為它有能力協助創造未來所有需要的技術。

推進與普及速度更快#

  • ChatGPT 在推出後一個月內達到 1 億使用者，而前任最快紀錄保持者 Facebook 花了將近四年半。
  • 超過半數的《財星》500 強企業計畫於未來幾年導入類 ChatGPT 的 AI。
  • 速度本身就是問題：人類幾乎沒有時間調整、思考、立法。

直接挑戰人類自我認知#

  • 人類的體力從來不是地球上最強的：許多生物跑得更快、跳得更高、力氣更大。
  • 但「思考」過去一直是人類獨佔的領域。
  • AI 第一次直接挑戰我們的推理、創造、表達能力，讓我們可能不再是地球上最頂尖的智能。

AI 帶來的兩面：潛能與風險#

若做出正確的設計選擇與政策決定，AI 可以為每個人加上「超能力」。

正向潛能：

  • 卸下例行工作的負擔，工作得更快也更聰明。
  • 引爆生產力的飛躍，加速經濟成長。
  • 為每個人配備一位口袋家教，反而強化教育。
  • 推動科學與醫學前沿，提供更個人化的治療。
  • 監測地球生態、提升再生能源使用效率。
  • 緩解孤獨、協助社交困難者改善人際技巧。
  • 善用之下，甚至能強化民主。

若選擇錯誤，AI 將削弱我們的個人與集體能力。

潛在風險：

  • 社交能力萎縮，職場上淪為機器的奴隸。
  • 缺乏政府介入時，不平等加劇、權力更集中。
  • 合成內容氾濫，破壞社會信任與民主制度。
  • AI 的耗電量可能傷害氣候行動。
  • 助長生物武器、戰爭傷亡。
  • 若把核武決策交給 AI，後果可能是世界末日。
  • 未來的超智慧 AI 甚至可能威脅人類存續。

作者特別點出三項較少被討論的隱憂：AI 對「我們如何思考」的影響、AI 將同理心擠出決策核心的風險，以及 AI 加深種族與階級對立的可能。

本書架構#

本書從 AI 簡史開始，接著由內向外擴張地檢視衝擊：

  1. AI 對個人思考方式的衝擊。
  2. AI 對社交關係、工作、企業與整體經濟的影響。
  3. AI 對藝術、文化、科學與醫學的重塑。
  4. AI 在永續、民主與武器系統中的複雜角色。
  5. 最後，討論 AI 是否可能導致人類滅絕。

核心主張：本真性、同理心與人機協作#

AI 擅長模仿理解、書寫、思考與創造，但在多數情況下，它無法真正擁有「那件事本身」。

作者貫穿全書的立場：

  • 區分本真與仿造：堅持區分「對某事的模擬」與「事物本身」。
  • AI 是補強，不是替代：AI 的超能力在於增強人類的天賦，而非取代它。
  • 政策決定差異：政府與企業的政策，比模型本身的能力更能左右 AI 的最終影響。
  • 重視人機互動研究：研究人機互動（human–computer interaction）與人類認知偏誤的學者，與打造更強模型的工程師同等重要。
  • 過程與結果同樣重要：人類必須是 AI 的隊友，不只是輸出的檢查員。
  • 保住同理心的位置：同理心源於親身經歷的理解，是道德的基石，是 AI 大概永遠無法擁有的特質。

通往超能力未來的道路是窄的——我們必須步步為營，刻意設計 AI 的形態，也刻意設計與它互動的方式。

魔法師們 Forward