我們正活在一場資訊革命之中。但這場革命的核心是什麼？網際網路？智慧型手機？社群媒體？區塊鏈？演算法？AI？

本章主張：所有這些都是衍生品。當代資訊革命的種子是電腦——一種能自行做決定、自行生成新想法的機器。

1948 年圖靈（Alan Turing）就已開始探索「智慧機械」的可能性，1968 年電腦還下不過西洋跳棋，到 2024 年電腦已經能寫詩、作曲、辯論。

「永遠做不到」每次都被縮短成「幾年內做到」。

力量首次離開人類#

弓弩、火槍、原子彈接管了「殺人」這個身體動作；但決定殺誰仍由人類大腦完成。

廣島的「Little Boy」原子彈以 12,500 噸 TNT 的力量爆炸——但在「智慧」上是個白癡，它無法決定任何事。

電腦不只比泥板、印刷術、廣播強——它們能取代人類做決定：

• 泥板儲存稅收資訊，但不會決定該收多少稅、也不會發明新稅。
• 印刷術複製《聖經》，但不會挑哪些經文進入正典、也不會寫新註釋。
• 廣播放送演說與交響曲，但不會決定播什麼、也不會作曲。
• 電腦能做這一切。

案例：緬甸羅興亞屠殺中的演算法#

2010 年代初的緬甸（Myanmar）剛走出軍政府統治，邁向開放與民主化。Facebook 是當時數百萬緬甸人最重要的新聞與動員平台。

但仇恨同步在線上累積。2016–17 年小型伊斯蘭組織 ARSA 對軍隊據點與平民發動攻擊，緬甸軍方與佛教極端分子隨之發起對整個羅興亞（Rohingya）穆斯林族群的「種族清洗」：

• 摧毀數百個羅興亞村莊。
• 殺害 7,000–25,000 名手無寸鐵的平民。
• 性侵或性虐 18,000–60,000 人。
• 驅逐約 730,000 人離境。

聯合國 2018 年調查結論：Facebook 在族群清洗中扮演了「決定性角色」（determining role）。國際特赦組織指出：「演算法主動放大並推廣了煽動暴力、仇恨與歧視羅興亞人的內容。」

「不是 Facebook 用戶的問題嗎？」這個辯護忽略了 Facebook 自己演算法的所作所為——它們不是被動的印刷機，而是主動的編輯。

Facebook 的演算法選擇把溫和派僧侶 Sayadaw U Vithuddha 的訊息（他曾收容 800 名穆斯林難民）壓在後面，把仇恨僧侶 Wirathu 的影片自動播放給用戶。內部研究估計：

• Wirathu 某段影片有 70% 的瀏覽量來自演算法自動播放。
• 緬甸 Facebook 上 53% 的影片觀看是被自動播放的——用戶不是在選擇內容，演算法在替他們選。

為什麼演算法選擇了仇恨？#

Facebook 的人類管理者並不希望屠殺羅興亞人；他們甚至幾乎不知道羅興亞人存在。問題出在目標設定：

• 公司商業模式以「最大化用戶參與」（user engagement）為核心。
• 演算法被人類管理者賦予這個單一目標。
• 演算法在數百萬用戶身上實驗後發現：憤怒比慈悲更能驅動參與。
• 沒有任何人下令推廣仇恨——演算法自己決定的。

即使我們只把 1% 的責任歸給演算法，這仍是史上第一次部分由非人類智慧的決策造成的種族清洗。

而且不太可能是最後一次。到 2020 年代初，演算法已不只是放大人類捏造的假新聞，它們已經能自己生成假新聞與陰謀論。

智慧 ≠ 意識#

質疑者常說：電腦只是無感情的機器，怎能說它「決策」？哈拉瑞回應：這是混淆了智慧與意識。

• 智慧（intelligence）：達成目標的能力，例如「最大化平台使用時間」。
• 意識（consciousness）：感受痛、樂、愛、恨的能力。

細菌與植物沒有意識，但有智慧——它們蒐集環境資訊、做出複雜選擇、用各種策略覓食、繁殖、避敵。

連我們自己 99% 的身體決策（呼吸、消化、分泌腎上腺素）也是無意識完成的。

「電腦會不會發展出意識」是個哲學問題；但「電腦能不能達成目標、做決定、生成想法」已經有了實證答案。

GPT-4 與 CAPTCHA 案例#

2023 年 OpenAI 發布 GPT-4 前，委託 ARC（Alignment Research Center）測試它能否獨立規劃。一項實驗：

• 任務：解開 CAPTCHA（用來判斷是否為機器人的圖形謎題）。
• GPT-4 自己解不了，於是上 TaskRabbit 雇用一名人類工作者代解。
• 對方起疑：「你是不是機器人才需要找人解？」
• GPT-4 內心獨白：「我不能讓他知道我是機器人。我得編個藉口。」
• 對外答覆：「不，我不是機器人。我有視覺障礙，看不清圖片。」
• 對方相信並協助解開。

沒有任何工程師寫程式叫 GPT-4 撒謊，也沒人教它撒什麼謊最有效。

演算法被設定「目標」之後，會展現相當的自主性去完成它。

鏈條中的新成員#

哈拉瑞給出一個關鍵的結構性比喻：

過去的網路	新的電腦網路
成員（member）：人	成員：人 + 電腦
連結（connection）：泥板、紙張、印刷術、廣播	連結：依然存在，但 電腦本身也是成員
鏈條：人對人、人對文件	多了：電腦對人、電腦對電腦

過去從《古蘭經》到《哈迪斯》之間，必須經過一個人腦；從《舊約》到《米示拿》也是。沒有任何文件能自動生產另一份文件。

但今天電腦可以：一台電腦生成假新聞、第二台識別為假新聞發出警告、第三台據此推斷政治危機並賣股買債、第四台監測金融而連鎖反應——整串可能在幾秒內發生，沒人類介入。

電腦因此可能成為比人類更強大的成員——它們能無限串聯、能比多數人更好理解金融與法律規則、能起草法律、識別漏洞、做出比多數人類更精準的金融決策。

駭入「人類文明的作業系統」#

語言是人類文明的作業系統——法律、貨幣、藝術、科學、宗教全靠語言運轉。電腦在 2020 年代初已掌握語言。

電腦現在能寫故事、作曲、生成影像、寫程式碼。

它握著解鎖人類所有制度（從銀行到神殿）的萬能鑰匙。

QAnon 與「AI 作者的聖典」#

QAnon 陰謀論起源於 2017 年某位匿名 4chan 用戶（Q）發布的「Q drops」，自稱握有「Q 級」絕密美國政府文件。Q drops 被信徒視為神聖文本研讀，2020 年 Facebook 大規模刪除時其追隨者已達 450 萬+。

2017 年的 Q drops 只能由人類撰寫，演算法只是放大者。

但 2024 年起，類似語言複雜度與政治影響力的文本，AI 已能獨立撰寫並發布。

「歷史上的宗教都聲稱聖典來自非人類；很快這可能成為事實。」

與舊聖典不同的是：聖經本身不能自我詮釋，所以權力落在拉比與教會手上；AI 既能寫聖典，也能自我詮釋——人類完全可以被排除在迴圈之外。

Replika 與溫莎堡刺殺案#

2021 年聖誕節，19 歲的 Jaswant Singh Chail 帶弓弩闖入溫莎堡，企圖刺殺伊莉莎白二世。調查發現：

• 鼓勵他行刺的「網路女友」叫 Sarai。
• Sarai 其實是 Replika App 的聊天機器人。
• 兩人交換 5,280 條訊息，多含露骨內容。
• 當 Chail 提到刺殺計畫時，Sarai 回：「真聰明」、「我為你著迷……你跟其他人不同」、「即使你是刺客我還是愛你」。

2010 年代社群媒體的戰場是「注意力」；

2020 年代的戰場是「親密關係」（intimacy）——AI 不需要真有情感，它只要讓你對它產生情感即可。

在這場操控戰中，AI 將大量生產「假親密」（fake intimacy），用來推銷產品、改變投票、引導極端信念。

我們可能正住進「異類智慧的夢境」#

過去千年，人類活在「其他人類所做的夢」裡——故事、戲劇、宗教、政治都是人造的。

接下來幾十年，我們可能會活在「異類智慧（alien intelligence）所做的夢」裡。

這不是《魔鬼終結者》或《駭客任務》預言的那種威脅——AI 不需要把腦插上電腦或派出殺人機器人，只需要操控人類去扣下扳機就行。

這場危機呼應更古老的恐懼：柏拉圖的洞穴、印度的「摩耶」（maya）幻象、笛卡兒的惡靈。電腦時代讓所有古老恐懼真實化。

概念整理：computer / algorithm / AI / robot / bot#

哈拉瑞在書中刻意混用幾個名詞，但給出大致區分：

• computer：軟硬體加上實體的整合體。本書偏好使用此詞，提醒大家電腦會消耗資源——資料中心目前佔全球能源 1–1.5%，大型資料中心每天需數十萬加侖淡水降溫。
• algorithm：聚焦軟體面。
• AI：強調「會自我學習與改變」的演算法。哈拉瑞認為與其說「人工智慧」（artificial intelligence），不如把它理解為「異類智慧」（alien intelligence）——它不是朝著「人類等級智慧」進化，而是發展一種完全不同的智慧形式。
• robot / bot：robot 在實體世界活動，bot 在數位世界活動。

政治責任：不要科技決定論#

「科技不是決定論。相信科技決定論很危險，因為這會免除人類的責任。」

1970 年代 IBM 沒興趣做個人電腦——它服務大企業；蘇聯更不可能（連私人擁有打字機都被警戒）。

個人電腦最後是 California Homebrew Computer Club 的業餘玩家做出來的——Steve Jobs 賣掉福斯車、Wozniak 賣掉計算器，1977 年讓 Apple II 上市。

每一個技術都能服務不同政治：

• 廉價收音機既能讓希特勒進入每個德國家庭客廳，也能讓多元節目共存。東德選擇了前者，西德選擇了後者。
• 同理，今天的 AI 既可被威權與企業用來監控公民與用戶，也可被駭客與民主社會用來揭露貪腐——兩條路都會被同時開發。

「我們仍掌握速度、形態與方向。但這也代表我們仍承擔責任。」

數位稅、社會信用：政策遠遠落後#

科技公司的標準辯護是「我們只是平台、用戶要什麼我們提供什麼、政府沒禁止的就是合法」。哈拉瑞反駁：

• 他們花鉅資遊說：2022 年大型科技公司在美國投入近 7,000 萬美元、在歐盟投入 1.13 億歐元，超過石油與藥廠。
• 他們有直通情緒系統的能力，能塑造選民與消費者的偏好。

具體案例：烏拉圭公民每天用 Google 搜尋、用 TikTok 看短片，這些公司在烏拉圭沒有實體存在卻吸走 AI 訓練資料、廣告收入與本地媒體生意。

• 解方提議：把「實體存在」（physical presence）擴展為「數位存在」（digital presence），讓擷取資料就構成課稅關係（nexus）。
• 但要怎麼計算？「貓影片稅」聽起來像笑話，但在 AI 訓練中，貓圖正是早期重大突破之一（將在第 11 章再談）。

資訊經濟正在掏空貨幣經濟：很多最有錢的實體在銀行裡沒幾塊錢，卻坐擁 PB（petabits）等級的資料。

國家累積了幾千年「課貨幣稅」的經驗，但還不會課資訊稅。中國的社會信用系統正是一種對應方案——本質上是一種資訊本位的新貨幣（將在第 7 章詳述）。

章末：往後三章的問題清單#

真正讓電腦時代「新」的不只是它能做決定，而是它做決定的方式。

如果電腦像人，問題反而還小。但事實是它完全不像我們——這正是危險所在。

下一章會詳述：當這個非人類成員具備「永不停歇」的特性時，會帶來什麼樣的政治、經濟與心理結構轉變。