大多數人並不真的理解人工智慧（Artificial Intelligence，AI）究竟是什麼，對它有太多神話般的期待。本節用最簡單的語言拆解現代 AI 的基本原理，並揭示其兩個致命缺陷，讓讀者看清它的侷限。

核心論點#

業內有個笑話：「用 Python 寫就叫機器學習，用 PPT 寫就叫 AI。」現在形成各種商業應用、被創投熱烈追捧的「AI」，其實都特指一種方法——無論叫它「大數據」、「深度學習」（deep learning）、「機器學習」、「神經網路」（neural network）還是「模式識別」，在數學上都是同一個意思：統計方法。

科幻作品中那種什麼都會的智慧，叫作通用人工智慧（AGI，artificial general intelligence）。現在的技術水準離 AGI 無比遙遠，所以不談論它。

AI 的基本原理：模式識別 + 神經網路#

智慧即模式識別#

AI 目前能模擬的只是人腦的一種特定功能——模式識別：

  • 你一眼就能看出照片裡是貓是狗、是男是女，但你說不清自己是怎麼看出來的。
  • 現代 AI 具備這種「雖然說不清怎麼識別、但就是能識別」的能力。
  • 從開車、語音轉文字、機器翻譯、X 光診斷、下圍棋到寫文章，本質上都是模式識別。

神經網路：模仿大腦的四個啟示#

1980 年代，計算機科學家特倫斯·謝諾夫斯基（Terrence Sejnowski）等人推廣神經網路的思想。他觀察到一隻蒼蠅的大腦只有 10 萬個神經元，卻能看、能飛、能覓食，遠超價值一億美元的超級電腦。原因是蒼蠅的大腦是專業化的，而電腦是通用的。

謝諾夫斯基總結大腦給科學家的四個提示：

  • 大腦是強大的模式識別器
  • 識別能力可透過訓練提高
  • 大腦識別不是依靠抽象規則比對
  • 大腦由神經元組成，計算基於神經元而非明確規則

訓練的四步驟#

所有 AI 都是模式識別，所有模式識別都是機器學習，所有機器學習都是訓練神經網路，所有訓練都包括四個步驟：

  1. 輸入資料
  2. 用神經網路計算資料
  3. 把計算結果跟正確答案比對
  4. 根據對比結果修正神經網路的參數

這個修正過程使用「誤差反向傳播網路」（即梯度下降類的技術），隨著訓練次數增加，神經元參數會慢慢收斂。加入多個隱藏層就成了深度學習，處理影像再加上「卷積網路」，這就是現在實用 AI 的全部。

AI 的兩個致命缺陷#

缺陷一：AI 並不理解自己在做什麼#

  • 神經網路本質上是個「黑盒子」。各種規律都體現在無數個參數裡，但沒人知道哪些參數代表哪個規律。
  • AlphaGo 下圍棋只會告訴你這裡勝率大，不會告訴你為什麼。它並不真的理解圍棋。
  • 這意味著你沒法跟 AI 講理，它叫你怎麼做就怎麼做，說不出理由。

缺陷二：AI 的行為完全由訓練資料決定#

很多人認為「資料就是新的石油」，中國有最大的中產消費人群，因此中國必將是 AI 最強國。作者對此有不同意見：資料不是石油。石油是通用且不會過期的資源，資料不是。

  • 一個 AI 在美國累積的駕駛經驗，不能直接在中國上路——中國的交通號誌、法規、道路設計、行人習慣都不一樣。
  • 今年的購物習慣資料對明年也可能沒有意義。《紙牌屋》並不是用大數據算出來的，好劇本都是編劇創造的結果。
  • AI 做出來的本質上是「跟以前一樣的東西」。

AI 的種種缺陷#

由於不理解自己做的事情，AI 引發了一系列問題：

  • 沒有道德感：自動駕駛該優先保行人還是乘客？這必須由人類手動設定，但再詳盡的設定都不如臨場判斷。
  • 天生歧視：美國黑人犯罪率統計較高，AI 判斷犯罪可能性時就會讓黑人吃虧。
  • 場景錯誤：男人站在廚房就可能被識別為女人，因為「女人在廚房出現的可能性更大」。
  • 意外情況：特斯拉自動駕駛系統曾把白色卡車誤判成白雲，結果車禍致死。即使 99.9999% 情況下能完美運行，那 0.0001% 的意外我們也受不了。

圖像識別的脆弱#

  • 2019 年比利時魯汶大學研究者發明一種彩色圖形，印在 A4 紙上掛在肚子上，AI 就不會把你當作「人」。
  • 戴上特殊眼鏡，AI 把男性研究者識別成著名女演員。
  • 一張普通校車圖片稍微調整（肉眼完全看不出），AI 會把它識別成「鴕鳥」。

計算機科學家梅拉妮·米歇爾（Melanie Mitchell）在《AI 3.0》（Artificial Intelligence: A Guide for Thinking Humans）中提到一個例子：她組裡研究生訓練的神經網路判斷照片中有沒有動物，準確度很高——但仔細研究後發現，網路其實是以「背景是否虛化」來判斷的（因為拍動物時攝影師會對焦聚焦）。換一組沒有景深的照片，它就失靈了。

美國電腦科學家暨哲學家朱迪亞·珀爾（Judea Pearl）有一句名言：

資料是深度愚蠢的。（Data are profoundly dumb.）

三個可能的突破方向#

作者指出當前科學家正在探索讓機器真正擁有智慧的三個熱門方向：

1. 學會因果關係#

  • 朱迪亞·珀爾主張只要掌握因果關係，計算機就能回答三個問題：觀測、干預、想像（即反事實推理）。
  • 但這條路線最適合的應用場景大概是特定領域的「專家系統」，判斷範圍非常有限。

2. 具備常識#

  • 常識是「隱性知識」（tacit knowledge）。電腦視覺專家安德烈·卡帕蒂（Andrej Karpathy）用一張照片（幾個人微笑地看著站在體重秤上的人，而後面的歐巴馬正偷偷用腳踩秤）來說明，一個學齡前兒童就能秒懂這張照片的有趣之處，但 AI 離那一天非常遙遠。
  • Cycorp 公司的 Cyc 專案嘗試手動列舉常識（已列 1500 萬條，據估只是所需總量的 5%）——這是回到了「設定無窮規則」的老路。

3. 進一步模仿人的大腦#

法國心理學家斯坦尼斯拉斯·迪昂（Stanislas Dehaene）指出，人腦相對於 AI 有幾個學習優勢：

  • 人腦學習不需要大數據（媽媽指著蝴蝶說一次就夠了）
  • 善於理解抽象概念（換字體也認得字母 A）
  • 善於類比、舉一反三
  • 善於傳遞知識
  • 有內在的思想語言可做邏輯推理

當代科學的理解是：這些能力可能是天生的，嬰兒的大腦不是白板，而是由基因預裝了邏輯、物理、數學、語言甚至道德直覺。AI 可沒預裝這些能力。

本節要點#

  • 現在的 AI 特指一套基於神經網路的統計方法，離 AGI 無比遙遠。
  • 所有 AI 的共通原理是四步驟訓練：輸入、計算、比對、修正參數。
  • AI 的兩個致命缺陷是：不理解自己在做什麼、完全依賴訓練資料。
  • 資料不是石油：不具通用性、會過期，且 AI 只能複製過去的經驗。
  • 未來的希望可能在因果關係、常識與模仿人腦這三個方向，但每條路都困難重重。
  • 作者結語：「這根本不是什麼『人工智慧』，這是『人工不智能』。」先別太擔心 AI。