人類習慣被監視——家人、鄰居、官員、教會、企業——但歷史上的監視從未真正全面。本章追問：當監視者從有機的人換成無機的電腦之後，會發生什麼？

監視的兩個瓶頸：蒐集與分析#

歷史上所有官僚體系——秦帝國、天主教會、可口可樂公司、現代衛生機關——都得做兩件事：

• 蒐集大量資料。
• 分析資料、找出規律。

民主社會用法律限制監視（保護隱私）；極權社會則受技術限制——不論最殘酷的獨裁者，也沒有辦法 24 小時監看每一個人。

即使在希特勒的德國、史達林的蘇聯、希奧塞古（Nicolae Ceauşescu）的羅馬尼亞，某種程度的隱私仍然是預設。

羅馬尼亞 Iosifescu 的 13 年陪伴者#

電腦科學家 Gheorghe Iosifescu 是 1970 年代羅馬尼亞政府計算中心的早期程式員。1976 年起，每天都有一位西裝皺皺的陌生人坐在他辦公室——沉默地看他工作 13 年，直到 1989 年共產政權瓦解。Iosifescu 始終不知道對方姓名。

Securitate（羅馬尼亞秘密警察）約有 4 萬名特工 + 40 萬名線民。但要監看 2,000 萬公民，每天會產生 2,000 萬份報告（每年 73 億份）——根本無人能讀。

「Securitate 與 KGB 的真正力量，不是真的看見你，而是讓你害怕他們可能在看。」

希奧塞古曾下令蒐集所有 2,000 萬公民的手寫筆跡（為了找寫匿名信給「自由歐洲電台」的人），甚至要求每台打字機登記指紋——這些都還是難以全面執行。

不睡覺的特工#

哈拉瑞指出 2024 年的關鍵轉變：

無機官僚 24 小時運轉：不需要僱用幾百萬人，只需要在每個人的口袋裡放一支智慧型手機。

而且這些「特工」是我們自己付錢的——我們自己當線民，免費提供原始資料。

蒐集量級的差異：

• 人類分析師 12 小時班、無休 40 年職業生涯，能讀約 26 億字。
• 2024 年的 ChatGPT、Llama 每分鐘可處理數百萬字，幾小時就能讀完那 26 億字。
• 對影像、音訊、影片的處理能力同樣是超人類等級。

更重要的是：演算法能自己創造分類規則。

Skynet 與「以詮釋資料殺人」#

2014–15 年美國國家安全局（NSA）部署的 AI 系統 Skynet：

• 大規模監視巴基斯坦行動電話網。
• 對 5,500 萬人的通訊詮釋資料（metadata）做機器學習，給每個人打恐怖份子嫌疑分數。
• 前 CIA 與 NSA 局長：「我們依詮釋資料殺人。」

演算法可以自己發明新的「嫌疑分類」標準。在蘇聯，「恐怖份子」這個詞曾被用來指任何反對者。

AI 把人標記為「恐怖份子」時，反映的可能是意識形態偏見，而非客觀事實——但效果一樣致命。

皮膚下的監視（under-the-skin surveillance）#

監視從外部行為進入身體內部：

• 眼動追蹤：CCTV、筆電、手機相機自 2020s 起追蹤瞳孔與虹膜的毫秒級變化，能推斷注意力強弱、專家或新手、開放性人格、政治立場、性偏好，甚至飲酒與用藥狀態。
• 腦機介面：馬斯克的 Neuralink 把含 3,072 根電極的探針植入大鼠、豬、猴等動物，2023 年取得人體實驗許可，2024 年 1 月首位人類植入者出現。

反科技陰謀論說「比爾蓋茲在你體內植入晶片」——這把焦慮放錯了地方。

想猜你是不是右派？比起植入晶片監測你的腦電活動，「手機紀錄你每天看 40 分鐘 Fox News、40 秒 CNN」遠遠更有用。

該擔心的是閱讀這篇陰謀論的那支手機。

未來真正可怕的組合是：當生物學知識追上來，手機 + 生理感測器就能精確「預測並操控」你的情緒——把產品、政客、戰爭一同賣給你。

隱私的終結#

人盯人時代，隱私是預設。

電腦盯人時代，隱私可能首次被徹底消滅。

「例外狀態」之外的常態：

• 全球超過 140 國要求公民提供指紋、臉部、虹膜掃描以申辦護照。
• 2023 年全球估計有 10 億台 CCTV 攝影機（約每 8 人 1 台），北京、首爾、倫敦、德里平均每平方公里超過 100 台。

1/6 國會山事件的偵蒐#

FBI 結合 Facebook、Google 地理位置、車牌讀取、Snapchat 影片、護照照片資料庫，鎖定了大批參與者。其中一例：某紐約男子戴口罩、用母親名下的手機、避免直播——但 FBI 仍然透過：

• 車牌系統紀錄了他從亨利哈德遜橋（6:06:08）到喬治華盛頓橋（23:59:22）的全程。
• 95 號州際公路攝影機拍到他儀表板上特殊的 MAGA 帽子。
• Facebook 自拍照中也戴著同一頂帽。
• YouTube 影片中的同款 Knights of Columbus 夾克。
• 母親名下手機的位置紀錄。

拐童尋回案例#

中國四川 2009 年三歲被拐的桂浩，2019 年靠 AI 模擬十三歲容貌與真實影像比對，跟家人團聚。中國、印度都用類似技術救回失蹤兒童。

伊朗的演算法強制 Hijab#

2022 年伊朗把強制戴頭巾的執法外包給 AI 監控系統：人工智慧從 CCTV、車內攝像、地理定位、網路流量中辨識未戴頭巾的女性，自動發送 SMS 警告 → 兩週內車輛固定 → 沒收 → 司法移送。

• 2022/9/16 Mahsa Amini 被警察拘押後身亡，引發全國「女人、生活、自由」抗議。
• 系統一聲明上路，三個月內發出近 100 萬封警告簡訊。
• 19,000+ 人被捕，500+ 人喪生。
• 2023/9 國會通過更嚴新法：未戴頭巾可入獄 10 年、沒收車輛、扣薪、解雇、禁止使用銀行服務；要求警察「強化以 AI 系統辨識違法行為」。

「未來幾年內，許多人可能活在比希奧塞古的羅馬尼亞自由派烏托邦還恐怖的全方位監視中。」

監視的多種樣貌#

監視不只來自國家：

• 配偶：50% 以上家暴施虐者使用 stalkerware——監控對話、行蹤、社群媒體、暗中啟動鏡頭與麥克風。
• 僱主：辦公室職員到貨車司機都被監控——廁所多久、看私人 email、每件任務多久。
• 企業：保險公司讀取車輛行為資料調整保費。學者 Shoshana Zuboff 稱之為監視資本主義（surveillance capitalism）。
• 同儕間（peer-to-peer）：Tripadvisor 在 2019 年有 4.63 億旅客瀏覽 8.59 億則評論，覆蓋 86 億家旅店、餐廳、景點。每個人同時在打分數，也同時被打分數。

「Tripadvisor 之前，顧客只是名義上的國王；之後成了能毀滅他人生計的暴君。」（記者 Linda Kinstler）

計程車、理髮店這類過去半私人空間，現在被顧客的鏡頭、麥克風、潛在數千名觀眾入侵，私／公的邊界整體被改寫。

社會信用：金錢之外的「新貨幣」#

哈拉瑞的關鍵類比：

金錢是社會給人們的累計分數——你賣產品服務 → 拿到一些「點數」（dollars / yen / RMB）→ 用來換取別人的產品服務。

但金錢只能標記市場交易，標不到微笑、孝順、勇氣、忠誠。

五千年前美索不達米亞發明貨幣，今天我們再次發明一套新的點數系統——社會信用（social credit），把過去模糊的聲譽（reputation）變成精確的數字。

歷史對比：

危險：人生變成不間斷的求職面試#

在大學派對上喝醉做了某件合法但難堪的事？參加抗議？跟低分朋友來往？

這些都會出現在 30 年後的求職、貸款、刑事量刑中。

過去聲譽市場的模糊與分區（朋友圈、公司、夜店各有不同的分數）正是讓人喘息的縫隙——猩猩這類社會性動物也需要從地位競爭中休息。

社會信用一旦完全運作：所有競技場合而為一，無時無刻不在表演，私領域與公領域的緩衝消失。

永不關機 vs. 有機週期#

人類是有機的：清醒／睡眠、活動／休息、成長／衰老。

連紐約證交所都尊重生物節律——週一到週五 9:30–16:00 開市，週六、獨立日、新年假期休市。如果週五下午 4:01 戰爭爆發，市場要等到下週一上午才有反應。

電腦網路完全不需要打烊。

這對人類有兩層代價：

• 個人層次：永遠無法斷線、無法放鬆、無法獲得隱私。
• 集體層次：失去糾錯所需的「停頓」。當網路加速演化、錯誤累積得比修正更快時，我們就再也追不上。

24 小時監視並不等於 24 小時理解。

「資訊不是真理。一個全方位監視系統，可能形成對世界與人類的扭曲認識——不是發現真實，而是用它無比的權力創造並強加一種新的世界秩序。」

下一章將說明：這個無機網路為什麼會持續犯錯——以及為什麼這些錯誤不容易被自我修正。