一場關於「強人工智慧」的爭論#

1970 年代末，人工智慧（artificial intelligence, AI）的宣傳過了頭，把當前與可預見的進展都吹得天花亂墜——會思考的機器彷彿近在眼前。柏克萊哲學家瑟爾（John Searle）確信自己能識破這套說詞，於是設計了一個思想實驗來證明。1980 年，他發表了著名的〈心靈、大腦與程式〉（Minds, Brains and Programs），端出「中文房間」（Chinese Room），意在證明「強人工智慧」（Strong AI）不可能成立。

瑟爾對強人工智慧的定義是：

「經過適當程式化的電腦，真的擁有認知狀態，而這些程式也因此解釋了人類的認知。」

他後來又補充：「配上正確輸入與輸出、經過適當程式化的數位電腦，因此就會擁有心靈，其意義與人類擁有心靈完全相同。」

這篇文章刊在認知科學的旗艦期刊《行為與腦科學》（Behavioral and Brain Sciences, BBS）。BBS 有一套特殊格式：每期收錄幾篇長篇「標靶文章」，附上數十位跨領域專家的評論，最後由作者回應。看這些專家如何（以及是否）認真看待標靶文章，是判斷該如何運用或忽略它的好辦法。瑟爾這篇引來排山倒海的反駁，其中包括丹尼特（Daniel Dennett）自己的一篇——正是在那篇回應裡，他鑄造了「直覺幫浦」（intuition pump）這個詞，用來揭示這個思想實驗深具誤導性之處。

這個詞出自丹尼特之手，但功勞也應歸於霍夫斯達特（Doug Hofstadter）。這個造詞源於兩人對瑟爾文章的討論，他們把該文連同評論一起收進合編的文集《我是誰，或什麼》（The Mind’s I）。他們覺得這個思想實驗引人入勝：一方面它明顯是個謬誤而誤導的論證，另一方面它又明顯極能取悅群眾、說服眾人。它是怎麼運作、又為何有效的？霍夫斯達特提出「轉動所有旋鈕」（turning all the knobs）的策略——把故事的每個細節都變形一次，看它在變形下是否穩健，還是關鍵地依賴那些本該可有可無的細節。

三十多年過去，瑟爾的中文房間確實展現了驚人的吸引力與生命力。它是經典，被搬進上千堂大學課程反覆辯論至今。丹尼特多年來也在自己課上使用它，學到很多關於它如何運作、以及如何向人指出它錯在哪裡。

先承認你想要它成立#

丹尼特要證明的是：中文房間是個有缺陷的直覺幫浦，一具「爆裂拐杖」（boom crutch）——除非你極其小心地操作，否則它會癱瘓你的想像力。

很多讀者此刻大概正在翻白眼、甚至哀嚎。你不希望丹尼特拆掉這個裝置，因為你太喜歡它的結論了——「強人工智慧不可能，呼，太好了！」一想到要被拖著細讀對一個生動有趣、又支持你熱切期望的論證所做的嚴密批判，你就眼神呆滯。

丹尼特過去對這種反應報以輕蔑：你們喜歡的是「一位柏克萊名教授有個著名論證，聲稱證明你們是對的」，於是樂於接受他的權威，細節根本不重要，重要的只是結論——多麼反智的逃避！

丹尼特懇請讀者以同樣開放的心態，看待他拆解並中和瑟爾中文房間的努力。他會盡量把這顆苦藥調得可口一點。

圖靈測試與強人工智慧#

早在 1950 年，圖靈（Alan Turing）就提出了他所謂機器智能的試金石，即今日所稱的圖靈測試（Turing test）：一位裁判與兩個隱藏的對象進行深入對話，一個是真人、一個是電腦，皆透過「電傳打字機」（可想成螢幕與鍵盤）溝通。人努力向裁判證明自己是真人，電腦則設法騙裁判相信它才是那個人。若裁判無法可靠地分辨，電腦（程式）就通過了測試。

在許多人（包括圖靈）眼中，通過圖靈測試就是強人工智慧的印證。為什麼？因為他們認為：你無法在不理解對話的情況下進行這樣的對話，所以電腦對話者的成功，就是它具備理解力的證明。

這一信念呼應了笛卡兒（René Descartes）。他早在 1637 年的《方法論》中就提議，分辨機器與具有非物質靈魂之人的最佳辦法，就是與它對話：機器或許能發出貼合情境的字句，但「它永遠無法變化措辭去回應在它面前所說的任何話的意思，而這連最愚笨的人都做得到」。沒人知道圖靈的靈感是否來自笛卡兒。

不過要注意：圖靈測試無法區分「僵屍伯」（zimbo）與「真正有意識」的人——凡是有意識者能做的，僵屍伯都能做得一樣好。因此，「通過圖靈測試的實體不只有智能、還有意識」這個主張，明顯牴觸了「僵屍直覺」（Zombic Hunch）。這看似足以讓圖靈測試失去作為心靈判準的資格，但我們該先保留判斷，看看細節。瑟爾的直覺幫浦，或許正好能為此提供線索——它表面上是一個要使強人工智慧信譽掃地的歸謬論證（reductio ad absurdum）。

中文房間：論證本身#

瑟爾邀請我們想像他被鎖在一個房間裡，用手工模擬一個號稱能理解中文的巨型 AI 程式。他明訂：這個程式通過了圖靈測試，能瞞過所有想分辨它與真正懂中文者的人類對話者。

論證如下：

• 瑟爾本人完全不懂中文，被鎖在房裡按程式忙著操弄符號串，顯然並不因此學會中文。
• 房間裡除了瑟爾與寫著指令的「紙片」（bits of paper）之外別無他物，也沒有別的東西懂中文。
• 若瑟爾不懂中文，那麼「瑟爾加上紙片」（叮！）當然也不懂中文。
• 結論：儘管中文房間對話能力高強、足以騙過中文母語者，房裡並不存在對中文的理解。

瑟爾和電腦一樣，只憑形狀辨認中文符號；對他和電腦而言，那些不過是不同的、無意義的「彎彎曲曲」（squiggles）。所以「房中之瑟爾」就是那套電腦程式的一個實作——無論跑在矽晶片上還是跑在瑟爾身上，它都在毫無中文理解的情況下完成工作。

這論證如此簡單又如此有說服力，會不會其實哪裡出了錯？會的——有。

系統回應：能力全在軟體裡#

瑟爾在柏克萊發表時，電腦科學家反駁以他所稱的「系統回應」（Systems Reply）：

誠然，被鎖在房裡的個人不懂那個故事，但事實是他只是整個系統的一部分，而系統確實懂那個故事。理解並非歸給那個孤立的個人，而是歸給他所身處的整個系統。

瑟爾在回應中說了一句很能透露問題的話：

老實說我有點難為情……因為這理論在我看來一開始就太不可信了。那個想法是說，雖然一個人不懂中文，但這個人與一些紙片的結合，卻不知怎地可能懂中文。我很難想像一個沒被某種意識形態掌控的人，怎麼會覺得這說法有半分可信。

瑟爾覺得如此不可信的東西，正是圖靈在發明「儲存程式電腦」時最根本的洞見——能力全在軟體裡。

回想前面章節那台暫存器機器（register machine）：它本身完全不懂算術，但暫存器機器加上軟體，卻能做出完美的算術。你筆電裡的中央處理器對西洋棋一無所知，可是一旦跑起下棋程式，它就能贏過你。瑟爾斥為「意識形態」的東西，恰恰是電腦科學的核心，其可靠性在生活各處都得到印證。

要（終究）重現人類的能力乃至理解力，途徑就是把虛擬機器（virtual machine）一層層堆疊在虛擬機器之上——力量在於系統，而非底層硬體。

達爾文（Charles Darwin）「奇特的推理倒轉」，被圖靈「奇特的推理倒轉」漂亮地呼應了：從前（圖靈之前）我們以為人類能力必須源自理解（那智慧的神秘泉源）；如今我們明白，理解本身反而是一種效應——它是從一堆能力層層疊加中「冒泡」湧現出來的。

轉動旋鈕：描述層級被隱藏了#

細節很重要。 瑟爾從未告訴讀者他是在哪個層級手工模擬那個巨型 AI 程式。他的描述是這樣的：拿到一批中文字（輸入），再拿到第二批與一組（英文寫的）配對規則，這些規則讓他把一組形式符號和另一組形式符號對應起來；接著再拿到第三批符號與指令，讓他按照收到符號的形狀，交回某些特定形狀的中文符號。

他把這種「符號批次之間的關聯」拿來對比：當輸入的是英文句子或故事時，他用母語英文回應。從外部看，中文問題與英文問題的答案一樣好；但在中文的情況，他是「透過操弄未經詮釋的形式符號」產生答案的。

多麼鮮明的對比！但看看瑟爾漏掉了什麼：

• 他拿到的「規則」是像「把 39021192 號暫存器的內容加到 215845085 號暫存器」這種機器碼，還是像「定義常數 queue-size 並設為 100」這種原始碼？
• 他是在「地下室」以每秒數兆次運算的瘋狂速度做算術，還是在遵循高好幾層之上實作的原始碼？
• 若是原始碼，他能讀到註解嗎？最好不能——因為註解不算程式的正式部分，卻會給他大量提示（「此處剖析句子，辨識名詞、動詞……」「發現雙關語，切換至妙答模式……」）。

任何能通過圖靈測試的程式，都得諮詢龐大的資料庫——不只是「一組組中文符號」，還有中文使用者共享的日常知識，而這還只是最起碼的。當瑟爾手工模擬時，他是否察覺到這一切分層的認知活動，還是對他而言只是一大堆算術？

再想一個例子：假設圖靈測試的提問者開始用蘇格拉底式的問答法，教這位受測者量子物理，出簡單的題目給它解。身處引擎室的瑟爾，為了讓系統撐住對話，勢必得帶著系統做一連串繁複的智力練習——但瑟爾走出這場折磨時，對量子物理的無知一如進去時。系統則相反：因為做過那些練習，它現在對這個領域的實用理解比測試開始前好得多。這一回合的圖靈測試，等於在程式裡裝上了一台新的虛擬機器：一台「簡易量子物理機」。

缺陷所在#

這些事實，全被瑟爾「紙片」與「規則」的意象徹底遮蔽了。

丹尼特不是說瑟爾蓄意隱瞞他想像自己在手工模擬的那個程式有多複雜，而是說他忽視了複雜性所蘊含的意涵。

如果你把程式想成一組相對簡單的規則，那麼你就會像貝特森（William Bateson）把遺傳物質想成「一顆顆彼此難分、幾乎同質的染色質微粒」一樣，覺得程式所謂的理解能力（就像 DNA 的能力）根本「不可思議」。

看看我們剛做了什麼：我們轉動了瑟爾直覺幫浦上「控制程式描述層級」的那個旋鈕。層級永遠有很多層。 在最高層級，系統的理解能力並非不可想像——我們甚至能洞見系統究竟是如何理解它所理解之物的。此時系統回應不再顯得難堪，反而顯然正確。

這並不代表瑟爾所批評的那類 AI 真的達到了值得稱作「理解」的能力水準，也不代表那些方法照當年研究者所設想的方式延伸下去就會通往如此高的能力。這只代表一件事：瑟爾的思想實驗沒能達成它所聲稱的目標——證明強人工智慧「絕對不可能」。

還有其他旋鈕可轉，但那項工作已在中文房間所激起的龐大文獻裡被充分執行了。丹尼特在此聚焦的是思考工具本身，而非它所針對的理論與命題，藉此指出：它是一具有缺陷的工具——它靠著蒙蔽我們的想像力來說服人，而非善加運用想像力。