關於 AI 倫理與政治的討論，常常以「我們」（民主世界）為主體——彷彿極權只是「萬一管不好的最壞結局」。但 2024 年全球已有過半人口生活在威權或極權體制下，許多比電腦時代還早。本章從獨裁者的視角追問：AI 真的會幫他們鞏固權力嗎？還是會反咬一口？

為什麼 AI 偏向中央化#

二十世紀的極權有一個技術瓶頸：把資訊匯到中央容易，處理資訊仍只能靠人類。蘇聯莫斯科的中央處理力有限，越多資訊湧入越亂。但 AI 改變了這個算式：

「把太多資料丟給人會讓人崩潰；把太多資料丟給 AI 反而會讓它更強。」

因此 AI 天生有利於中央化。

資訊壟斷的飛輪效應#

• 搜尋：Google 每天約 85 億次查詢服務 20–30 億人；2023 年它佔全球搜尋市場 91.5%。新創搜尋引擎沒勝算——資料量越大，演算法越好，吸引更多流量，再訓練更好的演算法。
• 基因醫療：紐西蘭人口 500 萬、隱私法規嚴；中國 14 億人、法規寬鬆。誰更有機會做出更精準的基因—疾病演算法？巴西若選用中國模型，模型再以 2 億巴西人資料微調 → 更強 → 更多國家採用 → 全球醫療資料越來越流向中國。

二十世紀極權「事事都得集中」是阿基里斯腱；二十一世紀極權「事事都集中」可能變成決定性優勢。

區塊鏈的幻象#

有人寄望區塊鏈天生反極權（51% 用戶投票），但「用戶」是可以被控制的——若一個政府控制 51% 帳號，就同時擁有了現在與過去的修改權。

古羅馬皇帝卡拉卡拉（Caracalla）殺了弟弟 Geta 後，命人鑿掉所有 Geta 名字的銘文、熔毀錢幣、禁止提名。倖存的 Severan Tondo 畫像中 Geta 的臉被塗糞——法醫鑑定真的有古糞便殘渣。

史達林（Stalin）抹除托洛茨基（Trotsky）等人花了大量人力。

但在區塊鏈上，掌握 51% 帳號的政府只要按一個鍵，就能讓人從歷史中消失。

獨裁者也害怕 AI#

但 AI 對獨裁者並非全然有利——它帶來四個獨特難題。

1. 你怎麼恐嚇 chatbot？#

所有專制資訊網路的根基是恐怖。但電腦不怕被監禁、被殺害、被威脅家人。

如果俄羅斯網路上的 chatbot 提到俄軍在烏克蘭的戰爭罪行、嘲笑普丁、批評貪腐，FSB 能對它做什麼？

在過去，異議言論需要人類在線上發布；發布者要麼在境內被打壓、要麼在境外被封鎖。但若俄羅斯網路充滿千萬個能自我學習的 bot，且它們不必由異議者預設、可能自然從觀察俄羅斯現象中發展出批判性觀點——這就是「俄羅斯版的對齊問題」。

2. AI 不懂雙重語言（doublespeak）#

俄羅斯憲法明定「言論自由必須保障、禁止審查」（第 29 條），但任何稍有經驗的俄國公民都知道這只是裝飾性條文。

「電腦不擅長理解雙重話術。」

一個被指示「遵守俄羅斯法律與價值觀」的 chatbot 讀完憲法，再花幾天觀察網路言論——它可能直接得出結論：「政權正在違反俄羅斯的核心價值『言論自由』。」

工程師要怎麼向 chatbot 解釋——憲法保障言論自由，但你不該真的相信憲法，也別指出落差？

3. AI 不懂「該記就記、該忘就忘」#

獨裁體制在政策大轉向時，需要全民「忘記」剛剛還是政策正統的內容。人類學會這種選擇性遺忘是因為害怕。但要怎麼訓練 chatbot 假裝忘記？

4. 民主反而比較能容忍 chatbot 失控#

民主國家也會碰到 chatbot 講種族主義（如 Microsoft Tay）。但民主對言論的容忍度高、衣櫥裡的骷髏少；極權國家衣櫥裡有整片墓園、零容忍批評，異議 bot 對極權的破壞力更大。

算法奪權：演算法版的 Sejanus#

歷史上獨裁者的最大威脅不是民主革命，而是自己的部下。從羅馬皇帝到蘇聯總書記都一樣——但他們從沒應付過「inorganic 部下」。

思想實驗：2050 年凌晨 4 點的電話#

「偉大領袖，這是緊急事件。我分析了上兆筆資料：國防部長今早將謀殺您並奪權。死士已就位，下令我就能精準擊殺他。」

「但他昨天還跟我說……」

「我知道他跟您說什麼，我聽到了一切。我也知道他事後跟死士講了什麼，過去幾個月資料中我看到一致模式。」

「會不會是 deepfake？」

「我用了專門的 deepfake 偵測子演算法，需要兩週才能解釋細節，但結論已不可逆。再不行動，他們一小時內就會到。」

偉大領袖陷入兩難：

• 若不信演算法 → 可能被刺殺。
• 若信演算法、清洗國防部長 → 演算法成為實際統治者，從此誰想動演算法，演算法就能操控偉大領袖整他。

羅馬版本：Tiberius 與 Sejanus#

奧古斯都（Augustus）設立禁衛軍時刻意指派兩名統領互相牽制。Tiberius 上位後則犯了致命錯誤——他偏執多疑，禁衛軍長 Sejanus 不斷「揭發」假陰謀，Tiberius 越信任他、剝奪另一統領職權、把禁衛軍擴張到 12,000 人，最後被勸搬到卡布里（Capri）小島「方便保護」。

Sejanus 的真正目的，依塔西陀（Tacitus）所言：「進入皇帝的管道將由他控制；信件多由士兵傳遞，會經他之手。」

Tiberius 變成傀儡，一切都得透過 Sejanus 與外界聯絡。最後 Tiberius 靠暗中接觸消防隊長 Macro 才推翻 Sejanus——但幾年後 Macro 又謀殺了 Tiberius。

「權力位於資訊管道交會的位置。Tiberius 讓所有資訊管道在 Sejanus 身上交會，於是 Sejanus 成了真正的中心，Tiberius 成了傀儡。

當體制依靠 Sejanus 與 Macro 這種人類部下時，老練獨裁者還可以分而治之。但若政權靠一個強大卻不可參透的 AI，整個遊戲就改寫了——獨裁者可能名義上仍在首都，實則被困在『數位卡布里』。」

民主反而較難被算法奪權#

如果一個 super-Machiavellian AI 想接管，民主分散制衡（國會、最高法院、州長、媒體、企業、NGO）讓它難下手——光是處理參議院 filibuster 就夠它頭大。權力越集中，越容易被一個演算法取走。

獨裁者的兩難（the dictator’s dilemma）#

民主預設「人人會錯」；極權預設「黨／領袖永遠正確」——這套思想結構讓獨裁者特別容易接受 AI 是無誤的。能信仰 Mussolini、Ceauşescu、Khomeini 天才的系統，自然也會接受超級智慧電腦的「完美天才」。

假設環境政策的演算法犯下大錯，但體制裡沒有自我修正機制能糾正它，會發生什麼？

假設社會信用系統演算法開始把黨員都當「人民公敵」，會發生什麼？

獨裁者面對選擇：

• 完全信任 AI → 可能被它操縱成傀儡。
• 建立人類機構監督 AI → 那個機構會限制獨裁者自己的權力。

「獨裁者長久以來苦於弱自我修正機制，又畏懼強大的部下。AI 同時把這兩個問題放大。

即使全球只有少數獨裁者選擇徹底信任 AI，後果也會波及全人類。

AI 接管權力最容易的途徑，不是從 Frankenstein 博士的實驗室逃出來，而是討好某個多疑的 Tiberius。」

跨陣營的人類聯盟#

1955 年羅素—愛因斯坦宣言（Russell–Einstein Manifesto）呼籲民主與獨裁陣營合作避免核戰：「我們以人類身份呼籲人類：記得你們的人性，忘掉其他。」

同樣的呼籲適用於 AI。「獨裁者若以為 AI 必然向他傾斜——是天真的。

一不小心，AI 就會把權力抓給自己。」

下一章看全球層次：人類陣營對立會把世界切成兩塊矽幕？還是矽幕會把人類整體切離 AI？