伊麗莎的故事#

  • 1966 年，麻省理工學院的維森鮑姆（Joseph Weizenbaum）寫了一個很簡單的聊天機器人，叫伊麗莎（ELIZA）
  • 伊麗莎被設定成心理醫生的角色，根本談不上是 AI，只是用最簡單的語言處理——尋找關鍵詞，做出特定反應
  • 結果維森鮑姆的同事們紛紛認真了，會跟伊麗莎進行長時間對話，透露私密細節，就好像在接受心理治療——他們可都是麻省理工學院的教授
  • 1976 年，維森鮑姆出書《計算機力量與人的理性》，從此人們把這個現象叫作「伊麗莎效應」（The ELIZA Effect）

伊麗莎效應的意思是：人們會無意識地把計算機給擬人化。

伊麗莎效應的根本原因#

  • 人們對計算機說的一些話做了過度解讀，它根本沒有那麼深的意思，甚至根本就沒有任何意思，但是人們腦補出了深意
  • 現在有了 AI，伊麗莎效應更容易發生：
    • Google 工程師跟 LaMDA 聊天後認為它有了人的意識
    • Bing Chat 早期的「悉尼」人格事件
    • 電影《她》講一個人愛上了 AI 助理
    • 有傳聞一個比利時人跟聊天機器人聊了 6 個星期後自殺

擬人化是人的天性#

  • 更迫在眉睫的問題似乎不是 AI 到底有沒有意識，而是人們過於願意相信 AI 有意識
  • 「擬人化」（anthropomorphism）是人的天生傾向——小貓小狗、玩具、汽車，我們都會賦予它們人的特性
  • 研究者認為，只要你有最基本的關於人的認知，在某個物體身上尋找像人一樣的行為和動機，再加上社交互動需要，就很容易把東西擬人化

伊麗莎效應是嚴重的警鐘#

  • 用 ChatGPT 找陪伴感、產生一點情感依賴，其實不是什麼大問題
  • 但當我們讚歎 GPT 的「開悟」和「涌現」時，必須非常小心——也許有些「高級感」是你自己腦補出來的
  • 目前沒有好答案來判斷到底是 AI 真有意識了，還是人產生了伊麗莎效應

擬人化的反面：對局面的擬人#

擬人化不只是讓你覺得東西可愛，有時候會讓你對東西產生了恨意：

  • 電腦崩潰時覺得「微軟是不是太邪惡了」
  • 開車遇到堵車和超車，覺得對方是在「針對你」
  • 餐館服務員態度不好，想打一架——但服務員只是累了，並不是針對你
  • 把公司行為解釋成領導的意圖，也是一種擬人化

漢隆剃刀（Hanlon’s razor）：能用愚蠢解釋的，就不要用惡意。推廣一下：能用局面和系統解釋的，就不要擬人化。

借 AI 學習「去擬人化」#

  • 核心思想是「不是針對你」（nothing personal / don’t take it personal）
  • 多跟 ChatGPT 聊天可以提高我們「去擬人化」的能力——GPT 目前沒有自我，它只是在預測下一個詞，並不真的認識你，更談不上針對你
  • 推而廣之，如果能把路上的司機、餐館服務員、政府工作人員都偶爾當成一次 AI，你會少很多煩惱