勒夫雷斯夫人的反對#
愛達·勒夫雷斯應該會欣慰。她當年的直覺被證實了——計算裝置確實成了通用電腦,能處理數字、製作音樂、處理文字、「以無限多樣的順序組合一般符號」。
1950 年代起,這些機器一一成形;接下來三十年又有兩項歷史性突破讓它們改變人類生活:
- 微晶片讓電腦小到能成為個人裝置
- 封包交換網路讓它們成為網路上的節點
兩者結合在大眾規模上實現了愛達所稱的「詩意科學(poetical science)」——創造力與科技像雅卡爾織布機的經緯,交織為一張錦繡。
但愛達在另一個更具爭議的論點上,至今依然正確:沒有任何電腦——無論多強——會真正成為一台「思考」的機器。一個世紀後,圖靈把這條論點命名為「勒夫雷斯夫人的反對(Lady Lovelace’s Objection)」並試圖以圖靈測驗反駁——但 60 多年過去,通過該測驗的機器至多是在玩低俗的對話花招,而不是真正在思考。沒有一台機器跨越過愛達設下的更高門檻:能夠**「原創」**自己的想法。
從《科學怪人》到 HAL 到 Watson#
從瑪麗·雪萊在愛達父親身旁的雨夜寫下《科學怪人》以來,「人造裝置會自主思考」這個前景就讓世代不安。1968 年庫布力克的《2001 太空漫遊》中冷靜的 HAL 是經典:能講話、推理、辨臉、欣賞美、表達情感,甚至下棋;當人類想關掉它,它幾乎殺光所有人。最後一名太空人逐一拆掉它的認知電路時,HAL 退化到唱起〈Daisy Bell〉——向 1961 年貝爾實驗室 IBM 704 唱出的史上第一首電腦歌致敬。
AI 永遠「再過二十年」#
1956 年達特茅斯會議——McCarthy 與 Minsky 主辦——AI 領域誕生時聲稱突破將在二十年內。沒發生。
數十年來、一波又一波的專家宣稱 AI 就在地平線上——大概再二十年——但它始終是個海市蜃樓,永遠就在二十年後。
馮紐曼臨終前已意識到問題:人腦的架構與數位電腦根本不同——人腦也是部分類比的系統,處理連續可能性、有「也許」「大概」與無限細微的差別。「邏輯將必須對神經學進行某種偽變態(pseudomorphosis)」——意即電腦得變得更像人腦。
1958 年康乃爾教授 Frank Rosenblatt 設計了 Perceptron 類神經網路。海軍揭幕時紐約時報照例炒作:「海軍今天揭示了一台電子電腦的胚胎,它預期將能行走、說話、看、寫、自我複製、並意識到自身的存在」。Perceptron 至今仍不存在。但近 60 年來幾乎每年都有類似口徑的新聞——詞彙幾乎一字不差。
1997 年 IBM Deep Blue 擊敗西洋棋王 Kasparov;2011 年 Watson 在 Jeopardy! 擊敗冠軍——但這些都不是真正的人類式 AI:
- Deep Blue 靠蠻力:每秒評估 2 億個位置、比對 70 萬場大師棋譜
- 「Deep Blue 的智能就跟你的可程式鬧鐘一樣多」(Kasparov)——「不過敗給一個千萬美元的鬧鐘並沒有讓我感覺更好」
- Watson 4TB 儲存(整個 Wikipedia 只佔 0.2%);但仍會把「George Eyser 解剖學上的怪事」答成「leg」(正確答案是他少了一條腿)——「電腦不會知道少一條腿比其他事情更怪」
哲學家 John Searle(中文房間思想實驗的提出者)斷言:「Watson 不理解問題,不理解它的答案,不理解它的某些答案是對的、某些是錯的,不理解它在玩遊戲,不理解它贏了——因為它什麼都不理解」。連 IBM 自己的研究主任 John E. Kelly III 都坦承:「今天的電腦是才華洋溢的白痴(brilliant idiots)——儲存與計算遠勝人類,但理解、學習、適應、互動上遠遜於人類」。
Moravec 悖論#
電腦能做最難的事(評估十億個棋局),卻做不到最簡單的事:「鱷魚會打籃球嗎?」一個 3 歲小孩咯咯笑後就能回答;Google 完全沒辦法。「35 年 AI 研究的主要教訓是:難的問題容易,容易的問題難」(Steven Pinker)。原因正如馮紐曼所言——碳基化學的人腦與矽基二進位邏輯運作方式根本不同。腦不只結合類比與數位,它還是分散式系統,像網際網路而非中央化的電腦。
人機共生:「Watson, come here」#
「分析機並不自命能夠原創任何東西。它能做我們知道如何命令它做的事」——愛達當年的論斷不只是悲觀,它是一條設計指引:機器不會取代人,它們會成為夥伴。人帶來的是:原創性與創造力。
這就是「增強智慧(augmented intelligence)」之路——比追求純人工智慧更豐碩。1960 年 Licklider〈人機共生〉論文:
人腦與計算機器將緊密結合,由此產生的合作關係將以前所未有的方式思考。
1968 年 Engelbart〈Augmenting Human Intellect〉接續:「直覺、嘗試、無形之物、人對情境的感覺,將與高效電子輔助有用地共存」。Brautigan 那首詩〈All Watched Over by Machines of Loving Grace〉用更詩意的語言寫出同一夢想:「一片控制論的草地——哺乳動物與電腦在相互編程的和諧中共處」。
Kasparov 的頓悟#
Kasparov 敗給 Deep Blue 後想:
即使在如西洋棋這種規則明確的遊戲裡——電腦擅長的,正是人類弱的;反之亦然——如果不是人對機器,而是作為夥伴呢?
2005 年實驗賽:玩家可以與自選電腦組隊。結果並非最強大師、也不是最強電腦,更不是兩者組合——贏家是兩位美國業餘玩家,他們同時用三台電腦,並懂得如何「指導」電腦深入分析局面:「他們駕馭與指導電腦的技巧,抵銷了大師對手的棋藝深度與其他參賽者的運算優勢」(Kasparov)。
未來可能屬於那些最能與電腦協作的人。
Watson 與醫療:謙遜的設計#
IBM 把 Watson 用於與醫師合作:300 萬頁醫學期刊、60 萬份臨床證據、150 萬份病歷。但機器必須先學會謙遜:
我們最早的經驗是醫師警戒地說「我有醫師執照、不會讓電腦命令我做什麼」。所以我們重新編程:機器改說「這是這個建議對你有用的可能性百分比,這裡你可以自己看」——醫師很喜歡,覺得像在和懂行的同事對話。
——David McQueeney,IBM 軟體副總
CEO Ginni Rometty 把這個方向當作 IBM 第三世代運算的旗艦——投資 10 億美元、設新部門名為 Watson。「Watson」這名字一語三關:
- 紀念 IBM 創辦人 Thomas Watson Sr.
- 致敬福爾摩斯的搭檔John Watson 醫師
- 致敬貝爾「Watson, come here, I want to see you」的助手Thomas Watson
三層意義都指向:Watson 是合作者、是同伴,不是 HAL 那種威脅。
三世代運算#
- 第一世代:計數與列表(從 Hollerith 1890 普查打孔卡開始)
- 第二世代:可程式化機器、馮紐曼架構——你必須告訴它做什麼(從愛達寫的演算法開始)
- 第三世代:因為資料的爆炸,機器不再被程式化、它們會自我學習
但這不必排擠人——這是共同演化(coevolution)。「我們會互相幫助」(Larry Norton,Memorial Sloan-Kettering 乳癌醫師)。
Licklider 測驗#
假設有天機器能展現所有人類心智能力——通過圖靈測驗、甚至通過我們可稱為「愛達測驗」的更高門檻(能「原創」超出我們所編程的想法)——AI 仍要跨越最後一道門檻:「Licklider 測驗」。
它問的是:機器是獨自運轉時做這些任務做得更好,還是與人類合作時做得更好?
換句話說——人機合作的夥伴關係,是否可能比任何單獨運作的 AI 機器永遠更強大?
若是,那麼 Licklider 所說的「人機共生」將永遠勝出。AI 不必是運算的聖杯——目標可以是最大化人機合作,讓機器做它最擅長的、讓我們做我們最擅長的。
旅程的教訓#
創造力是協作的過程#
創新更常來自團隊,而不是孤獨天才的靈光一閃。
科學革命、啟蒙運動、工業革命都靠協作機構與分享網路。數位時代尤其如此。最優秀的發明家更像公理會牧師而非孤獨先知,更像牧歌歌者而非獨唱家——Robert Noyce 是典型。
Twitter 不是任何人「發明」的。人們不會在網路上發明東西——他們只是擴展了已存在的構想。
——Ev Williams(在共同創辦人 Jack Dorsey 自誇發明 Twitter 後說)
跨世代接力#
協作不只在同代人之間,也跨世代傳承。Steve Jobs 站在 Alan Kay 肩上,Kay 在 Engelbart 肩上,Engelbart 在 Licklider 與 Bush 肩上。Howard Aiken 設計 Mark I 時受 Babbage 殘片啟發,並要團員讀愛達的《註解》。
多元團隊與肉身相遇#
最具生產力的團隊結合了多元專長——貝爾實驗室是經典:理論物理學家、實驗者、材料科學家、工程師、商務人員、甚至有滿手油泥的電線桿工人。Brattain 與 Bardeen 共用工作空間,「像填詞者與作曲者共用一張琴凳」。
即使有了網路協作工具——實體鄰近仍有不可取代的價值:「人們在一起時更會協作與創新」(Marissa Mayer 在 Yahoo 一上任就阻止在家工作)。Steve Jobs 為 Pixar 設計新總部時甚至執著於洗手間的位置,目的是讓偶遇必然發生。蘋果新總部那個圓圈設計——同樣的精神。
互補的領導組合#
美國建國團隊有 Washington、Jefferson、Madison、Adams 兄弟、Franklin。ARPANET 創建團隊有 Licklider 的願景、Roberts 的決斷、Taylor 的政治手腕、Crocker 與 Cerf 的協作領航。
關鍵的搭檔組合:願景者 + 執行管理者——「沒有執行的願景只是幻覺」。Noyce 與 Moore 都是願景者,所以 Intel 的第三個聘用必須是 Andy Grove。
缺團隊的願景者只能成為腳註#
「電子數位電腦發明者」之爭:Atanasoff 在 Iowa State 幾乎獨自工作;Mauchly–Eckert 團隊在賓州大學。本書把更多功勞給後者——他們的 ENIAC 真正運作、解問題;Atanasoff 的機器從未真正運作(沒有團隊幫他搞定打孔卡讀取器),最後被丟進地下室、被遺忘。
ARPANET / Internet 也是協作團隊的設計——一個謙遜的研究生用「Request for Comments(請求徵詢意見)」的方式建立決策過程——協作的過程造就了一個促成協作的系統。網際網路烙印著創造者的 DNA。
最具革命性的進展,是網際網路讓素不相識的群眾協作成為可能。波斯與亞述帝國發明過郵政系統,但從沒有過如此輕易地徵集並整合成千上萬陌生協作者貢獻——Google 的 PageRank、Wikipedia 的條目、Firefox 瀏覽器、GNU/Linux 軟體都是這種**群眾智慧(wisdom of crowds)**的成果。
三種團隊組織方式#
數位時代團隊主要有三種組織方式:
- 政府資助與協調——Colossus、ENIAC、ARPANET 都來自此(艾森豪時期更強的共識:政府應推動如太空計畫、跨州高速公路等公共利益專案;常以政府–學界–產業三角合作的形式)
- 私人企業——大企業研究中心(Bell Labs、Xerox PARC)與創業新創(TI、Intel、Atari、Google、Microsoft、Apple)。獲利為驅動,需要專屬性、專利、智財保護
- 同儕共享(commons-based peer production)——以志願共同努力的方式組織協作。Wikipedia、Web、Linux、GNU、OpenOffice、Firefox 都是這條路
兩位 Steve 對立、卻都正確:Wozniak 在 Homebrew 免費發放電路圖;Jobs 說服他停止分享、自己做來賣。Apple 因此誕生。「創新在開源系統與專屬系統競爭的領域裡最蓬勃」。
歐巴馬 2012 競選時那句被誤解的「You didn’t build that」——他的點是:任何企業都受益於政府與同儕社群支持。這正是現代經濟對數位時代創新的教訓——政府、市場、同儕共享三者結合,比偏向任何一個都更強。
願景與協作並行的領導#
最成功的領袖同時做到包容協作與堅定願景——Noyce 與 Moore 是典型。即使是 Jobs 與 Gates 那種尖刺的個性,也知道如何打造團隊、激發忠誠。
- 天才但無法協作的人會失敗:Shockley 半導體解體
- 缺乏激情願景者的協作團隊也會失敗:Bell Labs 在發明電晶體後迷失方向;Apple 在 Jobs 1985 年被趕走後也是
本書中成功的創新者與創業者都有一個共同點:他們是「產品人(product people)」——他們深愛並深刻理解工程與設計,不主要是行銷、業務或財務型人物。「當業務型主管掌權時,產品型的人就不重要了,許多人因此熄火」(Jobs);「最好的領袖是那些對工程與產品設計理解最深的人」(Larry Page)。
人是社會性動物#
亞里斯多德古老的洞見:「人是社會性動物」。CB 無線電與業餘無線電、WhatsApp 與 Twitter——幾乎每一個數位工具,無論是不是為此設計,都被人類收編為社交用途:建立社群、促進通訊、合作專案、社交網路。連個人電腦——原本被當作個人創造力工具——最終仍催生了數據機、線上服務、Facebook、Flickr、Foursquare。
機器不是社會性動物。它們不會自動加入 Facebook,不會為陪伴而尋找陪伴。圖靈當年宣稱機器將表現得像人時,反對者說它們永遠不會展現愛或渴望親密。或許我們可以編程讓機器假裝親愛、假裝渴望——但圖靈本人比誰都清楚這個差別。
亞里斯多德那句話的下半段——非社會性動物「不是野獸就是神」——但電腦兩者都不是。它們是什麼,取決於我們把它們做成什麼。
愛達的最後教訓:詩意科學#
最後的教訓——回到愛達。
在我們與機器的共生中,我們人類為這夥伴關係帶來了一個關鍵元素:創造力。
從 Bush 到 Licklider 到 Engelbart 到 Jobs,從 SAGE 到 Google 到 Wikipedia 到 Watson——這個觀念被反覆驗證。
機器將更理性、更分析。人類將提供判斷、直覺、同理心、道德指南針,與人類創造力。
——John Kelly,IBM 研究主任
我們之所以能在認知運算時代保持相關性,是因為我們能夠不同地思考(think different)——一件演算法本質上做不到的事。我們擁有愛達所說的想像力——「它把事物、事實、觀念、概念,組合成新的、原創的、無止盡的、永遠變化的組合」。
我們識別模式並欣賞其美。我們把資訊織進敘事。我們不只是社會性動物,也是說故事的動物。
人類創造力涵蓋價值、意圖、美感判斷、情感、個人意識與道德感——這就是藝術與人文教給我們的,也是它們在教育中與科學、技術、工程、數學同等重要的原因。
賈伯斯每次產品發表都以同一張投影片作結:人文藝術(Liberal Arts)與科技(Technology)的交叉路口。最後一次出席的 iPad 2 發表會(2011),他說:
蘋果的 DNA 裡,單靠科技不夠——是科技與人文藝術結婚、與人文(humanities)結婚,才產出能讓我們的心歌唱的東西。
致愛好藝術的人#
但反過來也成立。愛藝術與人文的人,也應該努力欣賞數學與物理學的美——就像愛達那樣。否則他們將在藝術與科學的交叉口上只能當旁觀者——而那正是大多數數位時代創造力發生的地方。他們會把那塊領土的控制權讓渡給工程師。
許多歡呼藝術人文重要的人,不羞愧地(甚至開玩笑地)宣稱自己不懂數學或物理。他們頌揚拉丁文,但對寫個演算法、分辨 BASIC 與 C++、Python 與 Pascal 一無所知。他們覺得不分 Hamlet 與 Macbeth 的人是文盲,卻能很開心地承認自己分不清基因與染色體、電晶體與電容、積分與微分方程。
這些概念也許看起來困難——是的,但 Hamlet 也是。像 Hamlet 一樣,這每一個概念都是美麗的——像優雅的數學方程式一樣,它們都是宇宙榮光的表達。
真正的繼承者#
C. P. Snow 對「兩種文化(科學與人文)」的呼籲是對的,但今天更重要的是理解它們如何交會。引領科技革命的人,是站在愛達傳統上的人——能結合科學與人文。她從父親那裡得到詩的脈絡,從母親那裡得到數學的脈絡——這在她身上孕育出對「詩意科學」的愛。
她父親為砸毀織布機的盧德派辯護;愛達卻愛打孔卡如何指揮織布機織出美麗紋樣,並設想這套美妙的藝術與科技組合如何在電腦上展現。
數位革命的下一階段,將帶來更多科技與創意產業的婚姻——媒體、時尚、音樂、娛樂、教育、文學、藝術。第一波創新多半是把舊酒(書、報、評論、期刊、歌、電視、電影)裝進新數位瓶。新的平台、服務、社群網路正讓個人想像與協作創造出現新的可能——角色扮演遊戲與互動戲劇、合作說故事與擴增實境 ⋯⋯ 這些將最終孕育出全新的表達形式與媒體。
這個創新將來自能把美與工程、人性與科技、詩與處理器連結起來的人——換句話說,將來自愛達·勒夫雷斯精神上的繼承者:那些能在藝術與科學的交會處綻放的創造者,那些懷有叛逆的好奇心、向兩邊的美都敞開的人。