民主的本質是一場大規模的公共對話，並依賴自我修正機制來糾錯。當對話的另一端可能是 chatbot、當演算法決定誰能被聽見、當金融與司法系統都被「黑箱演算法」接管，民主還能撐得住嗎？
工業革命的歷史教訓#
強大的新技術出現時，不會立即帶來幸福，而會先經過漫長的痛苦試錯期。
- 帝國主義：十九世紀工業國家相信只有帝國能餵飽工業社會；於是英、俄擴張，美、日、義、比後起。原住民被輾壓百年才證明帝國其實沒必要。
- 史達林主義與納粹主義：兩者都主張只有極權能駕馭工業力量；它們學會的是如何工業化地謀殺數百萬人。
- 生態破壞：21 世紀初每年估計 5.8 萬種生物滅絕，1970–2014 全球脊椎動物族群下降 60%。
「20 世紀人類在工業技術的考試只勉強拿了 C-。21 世紀的標準必須更高。」
民主的優勢：自我修正#
民主之所以是 21 世紀的最佳選擇，不是因為它沒有缺陷，而是因為它具備強自我修正機制——能限制狂熱、辨識並修正錯誤、嘗試替代方案。
哈拉瑞提出四條民主原則來抵禦數位極權：
1. 善意（benevolence）#
當資訊網路蒐集你的資料時，這些資料應該被用來幫助你，而非操控你。
這個原則並不新——醫師、律師、會計師、心理師早已被這條「信託義務」（fiduciary duty）綁住。家醫掌握你癌症、外遇、用毒等敏感資訊，但賣給第三方就是違法。
Google、TikTok、Baidu 為什麼能例外？「我們不會接受 Nike 用免費鞋換你所有個資的交易，那為什麼接受 Google？」
解方：要嘛立法強制科技公司收費，要嘛把基本數位服務當成公共品（像免費基本醫療與教育）。
2. 去中心化（decentralisation）#
民主社會永遠不應該讓所有資訊集中在單一節點——不論是政府或單一企業。
醫療資料庫很有用；但不可以跟警政、銀行、保險的資料庫合併。
「對民主而言，部分低效是設計，不是 bug。為了保護自由，警察與老闆都不應該完全了解你。」
獨立的資訊管道也是自我修正的基礎：所有報紙若都靠政府餵稿，就無法揭弊；學術界若都依賴單一企業的資料庫，就無法批判該企業。
3. 互相性（mutuality）#
如果民主增加對個人的監視，就必須同時增加對政府與企業的監視。
不公平的不是「政府知道更多關於你的事」，而是「資訊只往一個方向流」——FSB 對俄國人瞭如指掌，俄國人對 FSB 一無所知；Amazon 知道你的偏好，你不知道它的稅務與政治關係。
義大利、日本 1990 年代政府的監視能力遠超過古羅馬皇帝或日本幕府，但它們仍是民主——因為問責與透明同步上升。
4. 留下變化與休息的空間#
監視機制要避免兩種極端：
- 過於僵化：把人鎖死在預測中（健保 AI 預測你 50 歲心臟病發作 → 保險公司加保費、銀行拒貸款、配偶拒結婚）。但人是動態系統，閱讀這段話就在改變你的腦突觸。
- 過於塑性：要求你不停修正自己。健保 AI 若由野心政府或無情企業掌控，會變成全天候的暴君（多運動、少吃、改習慣，否則扣信用分數）。
民主必須在「拒絕變化」與「強迫變化」之間找到中道——並且能持續修正自己對中道的判斷。
第二個威脅：自動化引發的就業動盪#
1928/5 德國納粹得票不到 3%，看似一切安好。
1929 華爾街崩盤，1932 年初德國失業率到 25%。
三年的高失業就把民主變成了史上最殘酷的極權。
未來 30 年自動化引發的職場動盪可能更劇烈。但哈拉瑞提醒幾項常被誤判的「自動化難易度」：
- 下棋 vs. 洗碗：1972 年 Hubert Dreyfus 認為「電腦永遠贏不了下棋」，事實證明自動化下棋反而比自動化洗碗容易得多——機器手要從擁擠餐桌上撿起脆弱杯盤是大難題。
- 醫師 vs. 護理師：診斷是模式辨識（AI 強項），換繃帶與安撫哭泣兒童反而難自動化。
- 創造力：定義為「辨認模式並打破它」——電腦正好擅長。下棋 AI 已比人類更有創造力。
- 情緒智慧：2023 年研究顯示 ChatGPT 的情緒覺察測驗（Levels of Emotional Awareness Scale）幾乎滿分，超過大多數人類。另一項 2023 年研究讓病患看不出對方是 AI 還是醫師，患者評 AI 比醫師更同理。
但有些事情我們不只想被理解，更想跟「另一個有意識的存在」互動——這是運動員、棋士、神職人員的工作不容易消失的理由。
然而當我們把 AI 公司法人化（如美國最高法院 Citizens United 案賦予公司言論自由與政治獻金權），AI 也可能取得「有意識存在的法律地位」——連這條防線都會被突破。
保守主義的自殺#
傳統保守主義（埃德蒙·柏克〔Edmund Burke〕）的核心是「速度問題」而非「政策問題」——保守者承認社會有缺，但相信激進改變會帶來更大災難。
但 2010s–2020s，保守政黨被川普這類反保守的領袖劫持。它們不再守護法院、媒體、選舉、科學家等既有制度，反而要破壞這些制度建立新的。
「Burkean 保守主義的奠基時刻是巴斯底獄被攻陷（恐怖）。2021/1/6 國會山被衝擊（許多川普支持者拍手）。」
這是革命主義而非保守主義。
哈拉瑞的解釋：當技術變遷的速度讓「保守既有秩序」顯得不可能，唯一阻擋左翼革命的方法就是先發制人發動右翼革命——這也是 1920s–1930s 義、德、西法西斯崛起時保守派的算盤。
但歷史顯示有更好的中道。1933 年美國失業率也到 25%，工人收入下降 40% 以上，但羅斯福（Franklin Delano Roosevelt）以新政（New Deal）讓美國成為「民主的兵工廠」——民主自我修正而非崩潰。
不可參透的演算法#
民主自我修正需要「能理解被修正的對象」。對獨裁，不可參透是優勢；對民主，不可參透是致命傷。
1954 年 Brown v. Board of Education#
種姓的科學是錯的、聖經的奴隸觀是有時代局限的——但這些都是人類寫的，所以人類能理解、修改、推翻。1868 年第十四修正案、1954 年最高法院推翻學校種族隔離。
Loomis v. Wisconsin（2016）#
威斯康辛州 La Crosse 駕車槍擊案，Eric Loomis 不認重罪，但法官參考演算法 COMPAS 的評估——「再犯風險高」——判 6 年。
- COMPAS 是 Northpointe 公司的私有財產，演算法方法論被視為商業機密不公開。
- 法官、Loomis 都不知道演算法如何決定。
- 後續研究指出 COMPAS 確實有偏見。
- 威斯康辛最高法院仍判 Loomis 敗訴；2017/6/26 美國聯邦最高法院拒絕受理。
「人類能修正人類的錯誤——種族主義、性別歧視、宗教偏見都被修正過。但人類能修正不可參透的演算法的錯誤嗎？」
AlphaGo 第 37 手#
2016/3/10 AlphaGo 對戰李世乭（Lee Sedol）第二局第 37 手——觀戰的世界級棋士當下都認為「這是錯著」，李世乭離席走了 15 分鐘思考。但這手後來被證明是制勝關鍵。
第 37 手有兩重意義：
- AI 的異質性：圍棋 2,500 年沒人探索過的區域，AI 探索到了。
- AI 的不可參透性：DeepMind 創辦人 Mustafa Suleyman 自己也說：「我們無法解釋 AlphaGo 為什麼選那一手。神經網路在朝自主性發展，但目前不可解釋——你打不開引擎蓋。GPT-4、AlphaGo 都是黑箱。」
如果連 Fed 利率、CDO、跨國金融工具都被黑箱演算法決定，2007–8 金融危機式的災難只會更嚴重——而選舉變成空洞儀式。
解釋權（the right to an explanation）#
歐盟 2018 年實施的《一般資料保護規則》（GDPR）規定：演算法做決定影響你（如拒絕信貸）時，你有權獲得解釋並向人類權威申訴。
但這個權利能被「真正執行」嗎？
演算法不是依「單一原因」決定，而是綜合上千個權重打分。
假設銀行拒絕你貸款的解釋是 1,000 頁說明書：
- 第 601 頁：你用最新款 iPhone（+8 分）。
- 第 700 頁：你提交申請時電池剩 17%（–50 分）。
- …
- 總分 –378 → 拒絕。
「人類無法消化這種解釋。但這正是演算法的優勢之一：它能納入比你多得多的因子——而且不像人類偏見只用膚色或性別這一兩個因子。」
實踐上的解方：靠團隊——專家 + 自家 AI 助手——來審查演算法，再加上強制揭露關鍵決策原則的監理機構（像 SEC 看金融市場）。
Black Mirror《Nosedive》：藝術替我們翻譯官僚#
第 3 章已說明過：人腦對「生物戲劇」很內行，但對官僚劇毫無天賦。AI 時代更需要藝術家把 AI 系統翻譯給大眾。
《Black Mirror》第三季〈Nosedive〉（2016）即是典範——女主角 Lacie 為了搬新公寓，必須把社會信用評分從 4.2 提到 4.5，但途中弄翻了高分人士的咖啡，連鎖崩盤、進監獄。
故事融合舊的生物戲劇（地位競爭）與新的演算法戲劇（社會信用），讓觀眾看見**「無休止地裝、無喘息地爭」會把人逼瘋**。
歐盟 2021 年提出的 AI Act 直接禁止社會信用系統，理由與〈Nosedive〉所呈現的恰好一致。
數位無政府：選舉年的 bot 大軍#
民主面臨的另一個威脅是無政府而非極權。
- 2016 美國大選 2,000 萬筆推文中估計有 380 萬（近 20%）由 bot 產生。
- 2020 年研究估計 43.2% 推文出自 bot。
- 2022 年 Similarweb 研究：5% 帳號是 bot，但生產 20.8–29.2% 的內容。
- 2023 年《Science Advances》研究：人類能識破人寫的假訊息，但容易相信 AI 寫的假訊息。
Bot 不再只是大量轉貼，新一代生成式 AI 能：
- 自己創造高度令人信服的政治宣言、deepfake 圖片與影片。
- 與人類建立親密關係——這是政治戰場上的終極武器。
「過去政黨能取得你的注意，但無法批量製造親密。AI 能讓政黨甚至外國政府部署百萬個 bot 跟你交朋友，再用親密改變你的世界觀。」
可行政策：禁止假人#
哲學家 Daniel Dennett 的提議：把對偽鈔的監管邏輯延伸到「假人」（counterfeit humans）。
過去禁止偽幣是為了保護金融體系的信任，現在禁止 AI 假冒人類是為了保護人類社會的信任。
這條線不必禁止 AI 醫師、AI 助理——它們可以參與對話。 但它們不可以假冒人類。bot 沒有言論自由——它們本來就沒有權利。
第二項可行政策：禁止未經審查的演算法主導關鍵公共辯論。社群平台的演算法仍可用，但它選擇推什麼／壓什麼，必須由人類機構審核並公開揭露原則。
民主的未來#
過去民主難以實現是因為資訊技術太弱。今天民主可能因為資訊技術太強而難以維持。
「但民主若崩潰，將不是因為某種技術必然性，而是因為人類沒有明智地監管新技術。」
美國 2020 年大選的事實都已無共識，國會跨黨派合作幾乎絕跡，菲律賓、巴西也走在類似路上。這未必是意識形態鴻溝（1960 年代的越戰、民權、性革命爭議更尖銳，但兩黨仍能合作通過 1964 年民權法案）。
哈拉瑞坦言：我們不確定為什麼民主資訊網路正在崩壞——而這個「不確定」本身就是時代徵兆，因為網路已複雜到讓人類連最基本的政治問題（我們為何相互敵對？）都答不出來。
下一章看獨裁者的處境——他們也有專屬於自己的 AI 噩夢。