政府在網路上的利益越來越多#

政府在網路上的利益越來越多,從監控到審查、從隱私到安全、從市場競爭到公平選舉。它們的目標往往與全球化線上世界的現實相衝突,彼此之間也是。

公民與國家的關係在各地都改變了,而國家通常取得了更多權力與控制。 早年,隨著 PC 取代大型主機、網際網路向所有人開放,許多先驅是烏托邦主義者:我們相信自由取用資訊會在個人層次上帶來解放,也會動搖威權政府。

然而政府與大公司終究學會了使用這些新工具。

  • 2001 年 911 攻擊有真實影響,它創造了大規模監控的誘因,並削弱了對它的政治反對。
  • 商業移到線上創造了工具,以及一個為之付費的個人資訊商業市場。
  • 2011 年的阿拉伯之春也很重要;突尼西亞逃向民主,但該地區多數其他國家變得更威權。
  • COVID-19 疫情看來也會增加國家監控,而這次的取捨不是隱私對安全,而是隱私對健康。

有許多棘手的議題:

我們的核心價值面臨真實挑戰——在美國以憲法、在歐洲以人權公約表達。911 以來,我們看到一項又一項威權措施,從大規模通訊監控到未經審判的拘禁,甚至是刑求。

這些措施許多不只違法且不道德,還無效甚至反效果:在阿布格萊布監獄把伊拉克秘密警察與蓋達恐怖分子一起刑求,正是把這兩群人鍛造成伊斯蘭國核心的原因。

艾森豪總統在告別演說中警告:「我們必須提防軍工複合體取得不當影響力,不論那是它主動追求還是被動獲得。權力被錯置而災難性崛起的可能性存在,且將持續存在。」

911 以來,我們看到一個「安全工業複合體」以冷戰初期國防工業擄獲政策的同樣方式擄獲政策。左右兩派的政治人物在安全機關與媒體的協助下煽動恐懼文化。

例如整個 1970–90 年代的愛爾蘭共和軍恐怖行動期間,英國警方必須在四天內對被捕的恐怖嫌疑人提出控訴。但 911 之後,這很快被提高到 28 天;接著政府說它需要 90 天,宣稱他們可能難以解密從嫌疑人那裡查扣之 PC 上的資料。

真正的問題是警方管理鑑識的效率低落。 現在若警方只是說「我們需要拘留嫌疑人 90 天,因為我們沒有足夠的索馬利語口譯」,常識就能發揮作用;國會很可能會叫他們去用商業翻譯社的人。但談解密似乎是把立法者的腦子變成糨糊的好方法。

懂密碼學的人有義務出聲。

監控#

2010 年代技術性監控大幅增加,不只由政府,也由「監控我們的點擊流與位置歷史以更好地投放廣告」的商業公司——Shoshana Zuboff 稱之為「監控資本主義」。

政府竊聽的歷史:從黑房到 CALEA

統治者一向試圖控制通訊。

電子通訊出現時,政府試圖保持控制。 在歐洲多數地方,電報服務作為郵局的一部分設立、由政府擁有;在英國,電報業於 1869 年被格萊斯頓國有化。 在美國,西聯是第一個全國性的產業壟斷。南北戰爭雙方都竊聽對方的電報線,而紐約警局 1895 年就開始了竊聽作業。

在美國,最高法院 1928 年在 Olmstead 案中裁定竊聽不違反第四修正案關於搜索與扣押的規定(因為沒有實體侵入住宅);布蘭迪斯大法官著名地提出不同意見。1967 年法院自我推翻,在 Katz 案中裁定該修正案保護的是人,不是地方。

1978 年,在對尼克森政府濫權的調查之後,國會通過《外國情報監控法》(FISA),管制國安目的的竊聽。

1994 年的《執法通訊協助法》(CALEA)要求所有通訊公司以 FBI 核可的方式讓其網路可被竊聽。 到 1999 年,依 1,350 張法院令合法竊聽了超過 245 萬通電話對話;到 2017 年竊聽令數量幾乎增為三倍達 3,813 張,但 94% 是針對手機這類可攜裝置。

  1. 電話公司的配合:雖然電話公司在警方出示搜索令時必須給予存取權,在許多國家它們也被允許「幫忙」——而多年來有許多關於電話公司與政府關係親密的報導。
  2. 情報機關套利:若 NSA 想在沒有搜索令的情況下竊聽一位美國公民,他們能請一個盟友去做,之後再回報。這類做法被機關否認多年,但史諾登的洩密顯示它們是真的——例如 NSA 讓 GCHQ 竊聽 Google 資料中心之間的鏈路。
  3. 在有些國家,若通訊者之一同意,竊聽就不受管制——所以從公用電話亭打出的電話可以自由竊聽(電話亭擁有者才是法律上的用戶)。
  4. 在許多國家,警方靠傳票(而非搜索令)取得電郵與其他已儲存的通訊。

如今的監控領導者是中國,它在新疆與西藏這類有少數民族人口的地區使用無所不在的技術監控:街角、清真寺與學校上方架設監視攝影機,透過人臉辨識軟體連到「誰在何時何地被看到」的資料庫。還有從頻繁的街頭檢查哨、把黨員安置在少數民族家庭中,到大規模關進勞改營的侵入性實體措施。

荷蘭的竊聽非常常見:他們以美國十分之一的人口,同時進行多達 1,000 個竊聽。在荷蘭的兇殺調查中,竊聽被害人通訊錄中的每一個人一週、以監測他們對死訊的反應,是例行做法。

竊聽最多的已開發國家是義大利,這要拜其組織犯罪的歷史之賜。

在英國,國內竊聽照理需要部長級的令狀,且不能用作證據;所以警方改用房間竊聽器與電腦漏洞利用。若你能 root 一個幫派分子的手機或筆電,你就能錄下並回傳附近所說的一切。

在 1993 年引入 CALEA 之前,美國警方機關只花 5,170 萬美元在竊聽上——這也許是「在此議題被政治化之前其價值」的好估計。CALEA 的實施花了超過五億美元,而那還是在 2007 年延伸到 VOIP 之前。

所以政策制定者的趨勢是做能降低存取邊際成本的資本投資。 例如十年前,若英國警方在調查三起類似的強暴案,他們可能得付電話公司數千英鎊來組出基地台傾印資料,好找出同時出現在三個地點的手機。如今,在花了數億並通過數項法律後,他們有手機位置資料庫的存取權,而所需的只是一次資料庫查詢。這改變了警務與情報工作的本質。

通聯紀錄與演算法處理#

這也不是新鮮事。 統治者長期利用其對郵政服務的控制來追蹤嫌疑人的通信對象,即使信件並未被拆開。1840 年郵票的引入是隱私的一項進步,因為它讓匿名寄信容易得多。有些國家如此擔心煽動的威脅,以致通過法律要求在信封背面寫上回郵地址。

另一方面,電報的發展是監控的一項進步;由於訊息按寄件人、收件人與字數被記錄,流量總計能被編製出來,並被發現是經濟活動的有效指標。

  • 竊聽令在美國穩定在每年約 1,500 張(針對約 300 名美國人與 1,000 名其他人),加上數量上升的海外目標——2016 年 106,469 人、2017 年 129,080 人。
  • 此外有 7,512 名美國居民的通訊內容被取得,而 16,924 名居民的非內容(如流量資料)被取得,另有 56,064 名非居民。

而美國情報界只在「人類分析員看了某則通訊」時才算它被「攔截」;軟體分析不算。

獵捕嫌疑人的慣常程序是「接觸鏈結」(也叫滾雪球搜尋)。 若某人在恐攻中自殺,分析員會用軟體看他所有的通訊對象,然後這些直接聯絡人的所有通訊對象,例外情況下甚至外推到第三度分隔。標準的深度二搜尋通常給出數萬名間接聯絡人。

所以分析員也許只看了六個「既與死亡恐怖分子聯絡、又與某宗教團體成員聯絡」的人,但數萬名無辜者的通聯紀錄被軟體看過。 報告估計 2017 年有 5.34 億筆通聯紀錄被這樣自動檢視——比 2016 年的 1.51 億筆大幅增加。

最早的多來源資料嚴肅使用,似乎是 1970 年代末在德國追查巴德爾-邁因霍夫恐怖組織所用的安全屋。 調查員尋找「用電量有不規則尖峰、且房租與電費由一連串不同地點遠端信用轉帳支付」的出租公寓。這奏效了:它產出一份數百間公寓的清單,其中有幾間是安全屋。

恐怖分子占人口的比例罕見到:你用來「偵測」他們的任何測試,都需要非凡的特異度,否則你就會淹沒在誤判為正之中。

結合多種感測器很難,而若你在乾草堆裡找針,堆一個更大的乾草堆未必聰明。 如 IBM 資料探勘部門前首席科學家所說:「用觀察人們行為來預測恐怖意圖的技術,離達到必要的準確度還太遠,我認為它們不過是侵犯公民自由的引擎。

從 ISP 到 CSP#

一個現代罪犯可能起床後用家裡的 wifi 在 Gmail 或 WhatsApp 上查訊息,然後搭公車進城用 3G/4G 資料連線做同樣的事,接著在星巴克或公共圖書館用 wifi……而在這些情況中,在 ISP 端的竊聽所能告訴你的,都不會超出「某項服務被使用過」這件事。

由於到該通訊服務的流量是加密的,警方必須對該服務送出書面文件才能有所進展。這正是導致 FBI 設立 Prism 系統的原因——情報機關能一鍵從 Google、Yahoo、Apple、微軟、Facebook 等取得客戶資料。

這也是英國在其 2016 年《調查權力法》中賦予自己「命令任何公司做任何其實體上能做之事以協助執法或情報調查」之權力的原因。越來越多國家通過這類法律,讓服務商與其他國家的法律衝突。

Google 寧可離開中國,也不肯給警方對所有使用者資料的無限制存取權。 而如一位資深 Google 主管告訴作者的:「如果印度的家事法庭命令你交出一位住在加拿大之人的 Gmail、並施加終身保密令,你要如何同時在印度雇人、又給加拿大的人可信的隱私保證?

五眼的「系統的系統」#

從 Fellwock 到 Snowden:一連串的揭露
  • 1972 年,一位匿名的前 NSA 分析員(後被確認為 Perry Fellwock)揭露了 NSA 作業的規模:「NSA 的資訊蒐集是完整的……NSA 真的沒有任何限制。其任務從在越南呼叫 B-52,一路到監控蘇聯太空計畫的每一個面向。」
  • 1974 年,英國戰時破譯者 Winterbotham 揭露了盟軍在二戰中破解德日密碼系統的成就。
  • 1996 年,紐西蘭記者 Nicky Hager 在紐西蘭情報界未遵從總理「降級與美國情報合作」之命令後,挖出了大量資訊。
  • 1999 年一份給歐洲議會的報告首次高調揭露美國的經濟間諜活動,該報告憂心蘇聯瓦解後歐盟成員國正成為 NSA 的主要目標。

沒有進行電子戰的能力,一個現代國家在空戰、海戰乃至戰車戰中都無法競爭。NSA 多數人員是軍人,而其局長一向是現役將領或上將。

政客自 911 以來以恐怖主義為由為其預算辯護,而確實有一些對付恐怖分子的成功——最著名的是某位涉嫌 911 策劃者在使用一張「來自某已知恐怖分子在瑞士所購批次」的手機 SIM 後被捕。

但在伊拉克對付叛亂分子的電子戰生產力較低。而顯然應該有更多力氣投入人力情報。 在 911 前夕發表的一篇文章中,一位分析員寫道:「CIA 大概沒有一位真正合格的、有中東背景的阿拉伯語幹員,能扮演一個令人信服的穆斯林基本教義派、並自願在阿富汗山區花上數年過著爛伙食沒女人的日子。

在阿富汗、伊拉克、敘利亞與北非戰爭開始近二十年後,我們仍未訓練出足夠多能用阿拉伯語、達利語或普什圖語進行基本對話的士兵。

一支軍隊可以是好僕人,但很可能是無法容忍的主人。問題不是這類資源是否該存在,而是它們如何被問責。

結構性問題仍在:NSA 同時負責攻擊與防禦,而防禦往往是配角。

想像你是 NSA 局長,一位工程師帶著酷炫的 Windows 零日漏洞來找你。你要告訴微軟、從而保護三億美國人,還是保密以便攻擊十二億中國人? 這樣陳述時,答案顯而易見。

這個「權益」問題,是歐巴馬總統唯一沒有採納 NSA 審查小組建議的議題。 該小組建議幾乎所有情況下,NSA 知悉的漏洞都該通報廠商修補;NSA 偏好囤積它們。事實上它有一個每年一億美元的 Bullrun 預算,以正當與不正當的手段把漏洞插入商用產品中。

密碼戰爭#

1990 年代的技術政策被關於「金鑰託管」的激烈辯論主導——柯林頓政府的信條是:任何加密資料的人都該給政府一份金鑰複本,好讓密碼學的民用不會干擾情報蒐集。

從 Crypto AG 到 Clipper 晶片:密碼政策的前史

二戰在訊號情報上的巨大成功之後,英美政府 1946 年同意繼續情報合作(「BRUSA 協定」),加拿大 1948 年、澳洲與紐西蘭 1956 年加入,形成訊號情報上的「五眼」夥伴關係。他們決定防止密碼設備與知識的擴散。

但這還不是全部,如我們從 Bühler 案所知。

Hans Bühler 是瑞士 Crypto AG(一家向沒有自製能力的政府供應密碼設備的領先廠商)的業務員。他 1992 年在伊朗被捕,因為當局搞清楚了伊拉克在兩伊戰爭期間一直在讀他們的流量;他們指控他賣給他們被動過手腳、好讓 NSA 能取得明文的密碼機。

如今已知 Crypto AG 是由德國聯邦情報局與丹麥、瑞典、荷蘭、法國的機關以及 CIA 合作經營的。其設備中的後門被使用過,例如英國在 1982 年福克蘭戰爭中用它破譯阿根廷通訊——戰爭的結果「受到這次行動的實質影響,即使不是被它決定」。

解方是資料加密標準(DES)。 當時關於 56 位元是否足夠有爭議。我們現在知道那是刻意的:NSA 當時並沒有做 DES 金鑰搜尋的機器(那是後來才有的)。但藉由造成「他們有」的印象,他們成功阻止了多數外國政府採用它。

轉子機在許多情況下用微控制器重新實作而繼續服役;Crypto AG 與其他聽話的廠商繼續興旺;而流量繼續被採收。用這類密碼加密重要資料的外國人,不過是把那些流量標記為值得蒐集罷了。

第二項倡議是破壞學界的密碼學研究。 1970 年代這是靠直接騷擾相關人士做到的;到 1980 年代它演化成更微妙的策略:五角大廈一邊資助電腦安全研究,一邊試圖把密碼研究導向理論管道,並宣稱更實務的已發表研究都是老調——「那些東西我們三十年前就做過了;為什麼納稅人要付兩次錢?」

我們至今仍活在其副作用中:密碼學與電腦安全社群在 1980 年代初被分開了,因為 NSA 努力把一邊邊緣化、把另一邊扶起來。

密碼戰爭第一回合:Clipper 晶片。

在 AT&T 提議向美國國內市場推出「使用 Diffie-Hellman 金鑰交換與三重 DES 保護流量」的加密電話後,NSA 說服柯林頓政府推廣另一套標準:使用一個機密的區塊密碼 Skipjack,實作在防篡改晶片中,並用一個協定讓機關能取得備用的(「託管的」)金鑰以解密流量。

這套「託管加密標準」引發公憤;AT&T 的電腦科學家 Matt Blaze 在 Clipper 中找到一個能擊敗託管機制的協定漏洞,該提案於是被撤回。

多數密碼應用是關於認證而非機密性,那是幫助警方而非妨礙他們。 至於罪犯,他們主要需要的是不引人注目的通訊——而在 1990 年代,加密一通電話正是引人注目的好方法。若你想不引人注目,買一支預付手機更好。

至於隱私,多數侵犯來自對授權存取的內部濫用。最後,警察更嚴重的問題是找到可被接受的證據,而像樣的認證對此也有幫助。

一位美國軟體作者 Phil Zimmermann 在他寫的程式 PGP「逃」到網際網路上後,被大陪審團以軍火走私傳喚。他成了民間英雄,並在其產品搶下市場領導地位後發了財。

密碼戰爭第二回合#

2013 年史諾登的揭露,讓密碼戰爭在某種意義上重新開打。事實上 NSA 與其夥伴從未停止,只是把「密碼賦能」活動轉入地下。

  • 他們入侵盟友,例如 GCHQ 駭進 Belgacom——一個歐盟成員國攻擊另一個成員國的關鍵基礎設施,並進而竊聽歐盟執委會的驚人故事。
  • NSA 對國會說了謊,例如關於蒐集美國公民的通聯紀錄。
  • 他們繞過法律控制:GCHQ 能用 Prism 從 Google 取得作者的 Gmail(因為他不是美國居民),而我們一直懷疑這點,但它一直被否認。
  • 2015 年一家英國法院裁定:英國透過美國取得英國居民的大規模監控資料是違法的,因為那違反《歐洲人權公約》。
  1. 服務商整頓了自己:Google 原本已開始加密其內部網路,此後加速了該計畫,以確保取得其使用者資料的唯一方式是走正門、憑搜索令。微軟與 Yahoo 跟進。
  2. 多數訊息系統提供了端對端加密以安撫使用者(也為系統營運商省下遵守搜索令的成本)。
  3. 政策對話開始處理更現實的問題,例如管轄權:既然世上警方感興趣的多數材料都放在美國公司的伺服器上,誰能取得它、以什麼條件取得?

GCHQ 與 FBI 開始主張:WhatsApp 與 FaceTime 這類訊息服務的提供者,應被強制建入一項功能——在他們取得搜索令時,把執法單位加為一位無聲的電話會議參與方(所謂的「幽靈使用者」)。

作者與密碼學同事重新集結,寫了分析的更新版〈門墊下的鑰匙〉,說明 1990 年代金鑰託管提案的許多問題,在你改為要求「政府取得資料」而非「取得金鑰」時,只是以新形式回來而已。

效果若有不同,很可能更糟,因為我們如今比 1990 年代更依賴網際網路。若政府迫使設計者放棄前向保密、認證加密與嚴格傳輸安全這類期間已普及的安全機制,那會是壞事;而由於以不同方式保護的系統之間有許多互動,「被強制的漏洞造成嚴重且非預期副作用」的風險如今大得多。

建入例外存取也在竊聽系統本身中製造巨大靶標。 事實上,2010 年中國入侵 Google 竊聽系統一事顯示:即使經營最好的公司也無法始終擋住國家行為者——而那次入侵瞄準的正是 Google 為服務竊聽而建的系統。中國人顯然想知道他們在美國的哪個特工受到懷疑。

Apple 的庫克此前已抵抗過安裝後門的壓力,並把該案視為對 Apple 使用者隱私與品牌的嚴重威脅;他在法庭上與 FBI 對抗。

作者的同事 Sergei Skorobogatov 想出如何擊敗 iPhone 的 PIN 重試計數器。至於 FBI,他們向以色列公司 Cellebrite 買了一個商業 iPhone 漏洞利用,然後撤了告。

NSA 的工具 EternalBlue 被偷走並被俄羅斯用在 NotPetya 蠕蟲中對付烏克蘭,2016 年對美國公司造成數十億美元的附帶損害;到 2019 年它被用在勒索軟體中,關閉了巴爾的摩市(就在 NSA 沿路不遠處)的電郵與其他服務。

恐怖主義#

關於恐怖主義的談論驅動了許多圍繞監控與隱私的政策,尤其在 911 之後。

有些恐怖分子(如巴德爾與邁因霍夫)最後進了監獄,而其他人——如愛爾蘭共和軍領袖亞當斯與麥吉尼斯、伊爾貢領袖比金、法國反抗軍領袖戴高樂、以及非洲反殖民領袖肯亞塔、穆加比與曼德拉——最後掌了權。

1960 與 70 年代有許多叛亂,有些是族群的、有些是反殖民的、有些是意識形態的。許多由蘇聯或其盟邦資助為冷戰的代理衝突。冷戰結束移除了動機與金錢。

第二點(相關的)是:內戰的成因部分是經濟的。

一項為世界銀行做的有影響力研究,考察 1960–99 年的戰爭,看它們主要是由怨憤(高度不平等、缺乏政治權利、族群與宗教分裂)還是由貪婪(有些叛亂在經濟上更可行)造成。

世界不缺怨憤,但資料顯示叛亂的發生率更取決於它能否被維持。 西塞羅兩千年前就說過「無盡的金錢構成戰爭的筋腱」。所以我們知道對付叛亂的一種方法:切斷他們的金流。

政治暴力的心理學、制度的角色,與民主的回應

第 3 章提過「情感捷思」:當人們倚賴情感時,機率的計算往往被無視。 一件快樂的事(如中樂透)會讓多數人忽視渺茫的賠率與低期望報酬;同樣地,一件可怕的事(如恐攻)會讓多數人無視這類事件極其罕見的事實。

多數因 911 而死的美國人,很可能是此後在車禍中死的——因為他們決定開車而不搭飛機:光是接下來三個月,從飛行轉向駕駛就導致約 1,000 起額外死亡,此後每年約 500 起。

他們讓亞利桑那州土桑市的 22 位市法院法官參與一項實驗,被要求為一名毒癮妓女設定保釋金。他們事先都填了人格問卷,其中一半被問到「請簡述『想到自己的死亡』在你心中喚起的情緒」這類問題,以提醒他們終有一死。

被凸顯死亡的那組法官設定的平均保釋金是 455 美元,而對照組是 50 美元——對這樣一個實驗而言是巨大的效應。

進一步實驗顯示,死亡凸顯組並非只是變刻薄了:他們也準備給「做了某些公共善行的公民」更大的獎賞。 結果是:當你提醒人們死亡,會讓他們更強烈地遵守其文化規範、更激烈地捍衛其世界觀。

這有助於解釋為什麼網路恐怖主義就是沒有發生:駭掉幾座變電所、關掉一座城鎮的電力可能很不方便,但那就是沒有一個流血孩童的同等情緒效果。媒體分析證實了這點:報導量與死亡人數強烈相關,每多一具屍體就增加 46%。

伊斯蘭極端分子有 78.4% 的時候被貼上恐怖分子標籤,而極右翼極端分子只有 23.6%。

政治領導確實有影響。 近期最好的回應也許是紐西蘭總理阿爾登對基督城槍擊案的回應:她不只立即把它描述為恐怖主義,還拒絕說出槍手的名字。

如其創始人之一布坎南在其諾貝爾獎演說中所言:「經濟學家該停止像是受雇於仁慈的專制君主那樣提供政策建議,而該去看做政治決定的結構。

許多政府行為能用個別公部門決策者面對的誘因來解釋。 官員自然會建立帝國,因為他們是按管轄範圍而非產生的利潤來排名的;同樣地,政治人物極大化的是連任機會,而非公眾的抽象福祉。

英國對 911 的最初反應是增加安全部門的預算;但這一億英鎊左右並未給安全工業複合體真正的肥肉。 於是所有的私房專案都被撢了灰塵拿出來,而政治選美比賽的贏家是一張國民身分證——一個原始形式下要花 200 億英鎊的宏大專案。

華盛頓的圈內人說,入侵伊拉克的決定也涉及類似動力:雖然 2001 年入侵阿富汗成功了,它並未給「花了整個職涯組建戰車隊、主力艦與戰鬥轟炸機」的五角大廈大老們什麼角色,也沒給國防業什麼回報。

全世界對 911 的反應很尖銳;四年後 2005 年 7 月倫敦大眾運輸自殺炸彈殺死 52 人時,反應就低調得多。 公眾最初的反應是堅忍的認命:「唉,我們早知道這種事會發生——在場的人算你倒楣,但日子還是要過。」

而正如民眾會學習,政治菁英或許也會。

在美國,人們厭倦了小布希總統的恐懼政策,選出了歐巴馬總統,他的路線是「911 不是嚇出選票的方法,而是一項該讓美國與世界團結起來對抗 21 世紀共同威脅的挑戰」。

英國也差不多:柴契爾把恐怖分子當普通罪犯對待後兩度連任。後來布萊爾玩起恐懼遊戲,而他的下台被以鬆一口氣的心情迎接;其繼任者布朗禁止部長使用「反恐戰爭」一詞。成熟的選民偏好「站起來對抗恐怖分子」的政治人物,而不是「把恐怖分子當連任競選道具」的那些。

多年來,大流行病一直位居英國風險登記簿之首,然而為它做準備所花的錢,遠少於花在反恐措施上的——而其中許多措施華而不實而非有效。

這種資源錯置看來會讓我們付出比任何恐怖分子所能夢想的更多性命。

美英政府在 2000 年代靠談論「蓋達細胞偷走核彈並在紐約或倫敦引爆」來正當化刑求。然而在大城市引爆一枚 10 千噸的原子爆破彈藥可能造成 5–10 萬人喪生,相比之下 1918–19 年大流行死了 5,000 萬到 1 億人。

恐怖的修辭以犧牲公共衛生為代價把安全機關吹得很大,使美國、歐洲、印度與非洲的政府傾向無視 2003 年 SARS 的教訓——不像中國、新加坡、台灣與南韓的政府。

審查#

審查有兩張臉:國家審查,以及服務公司的內容過濾。

當威克里夫 1380–1 年把聖經譯成英文時,他所開創的羅拉德派連同農民起義一起被鎮壓。但當廷代爾 1524–5 年再試一次時,印刷讓他把話傳得如此之廣,以致王公主教無法壓制。他們把他綁在火刑柱上燒死,但那時已有超過 5 萬本新約被印出來,而宗教改革已然展開。

當局更容易更改「沒多少人在意的材料」:例如判某報誹謗成立的法院會下令移除有問題的材料。當歷史紀錄由圖書館中的實體副本構成時,更改它是不可能的;而人類知識集中到少數幾家公司的伺服器中,在某種意義上把我們帶回 15 世紀。

另一方面,如今人人都能是出版者;真正令人不快的線上材料,很多來自數百萬個人半匿名地張貼到社群媒體、報紙留言版、以及他們想騷擾與恫嚇的個人。

審查者已學會駕馭這一點。 十年前中國有數萬人負責撤下異議言論,如今他們有數百萬公民志願者把它淹沒掉。從前言論稀缺,審查者試圖讓說話者噤聲;如今稀缺的是聽者的注意力,所以有效的戰術不同了。

中國的三層防禦、阿拉伯之春,以及仇恨言論的過濾

中國防禦在三個層次上運作:

  1. 周界防禦:邊境路由器依 IP 位址過濾以封鎖已知「壞」站點,也用 DNS 快取毒化。TCP 層的深度封包檢測被用來辨識含「法輪功」這類禁詞的電郵與網頁,這類連線會被拆掉。 十年前很多工作在這一層做。如今由於多數流量已加密,那沒那麼容易。2020 年防火牆開始丟棄使用「加密伺服器名稱指示(ESNI)」的 TLS 1.3 流量。

  2. 應用層防禦(如今做了大部分工作):有些服務被封鎖、有些不被封鎖,取決於服務商是否願意在監控與審查上協助政權。Google 與 Facebook 大致被封鎖;中國轉而扶植騰訊、阿里巴巴與百度。

    既然最重要的邊界是公司的而非國家的,中國政府就把產業政策與其政治對齊了。這是重大改變:十年前我們從不相信中國會建立起一整個中國自有的線上服務生態系來抵擋西方影響。

  3. 社會防禦:十年前已有 3 萬名網路警察;如今更多公民被納入這個過程,而策略不是封鎖所有異議言論,而是把它淹沒。忠誠公民被期待張貼大量擁護政權的評論,並圍剿任何批評當局的人。

    社會信用系統為這類親社會行為給予正分,而任何被視為反社會的行為則會扣分。線上監控正與實體空間的監控整合,例如帶人臉辨識與情緒辨識的閉路電視——在西藏與維吾爾這類叛逆少數民族地區尤其積極。

阿拉伯之春也很重要。 這一系列起義於 2010 年 12 月始於突尼西亞,在一名街頭小販因官員沒收其商品並羞辱他而自焚之後。抗議靠 Facebook 與其他社群媒體組織起來,導致政府垮台,並蔓延到鄰國。

埃及政府也垮了,利比亞與葉門也是;敘利亞政府差點垮台,但在一場殺死數十萬人、流離失所數百萬人的內戰中反擊。

作者 2020 年寫作時,只有突尼西亞完成了向民主的轉型。世界各地獨裁者得出的教訓是:要保住權力,他們最好研究中國的方法。

民主國家的仇恨言論法差異極大。

法德都禁止販售納粹紀念品,而仇恨言論在德國數十年來一直是犯罪。 2018 年 1 月當局開始對線上服務商執行它,威脅:任何客戶超過 200 萬的服務商若未在 24 小時內撤下這類材料,就處以 5,000 萬歐元罰款。

不論服務公司怎麼說撤下壞東西的成本,德國的例子顯示他們在必須做時是做得到的。

過濾很貴,而成本不只是財務的,還有人的;我們看到越來越多報導談及「整天看幫派謀殺與恐怖分子斬首影片、虐待動物、兒童虐待與其他不快之物」對員工造成的心理代價。許多審查員在低度開發國家;正如我們把大量令人不快的垃圾傾倒到那裡,我們也把網際網路最骯髒的垃圾傾倒過去。

把審查外包給大型服務壟斷者也有問題。 他們以準司法的方式行事,管制數十億人的言論,卻沒有我們對政府決定所期待的透明度與正當程序。世界看到他們容忍富人與權貴的濫用、卻忽視弱者。

它讓平台無法因使用者提供的壞東西被追究責任,也讓平台能自由移除任何「猥褻、下流、淫蕩、污穢、過度暴力、騷擾或其他令人反感」的東西。

第 230 條讓 YouTube 與 Facebook 這類公司成為可能,卻也保護了「商業模式建立在報復式色情、誹謗或抽取非法槍枝銷售分成」的網站。它也讓服務公司取得了某些原屬國家的權力。

當年網際網路有一兩千萬使用者,多半是技術宅;如今多數人類活動都在線上,而讓一小撮美國公司替兩百多個國家充當審查者、檢察官與法官,是不可持續的。

  • Tim Wu 的《注意力商人》是一部自 1830 年代第一批大眾市場報紙出現以來的宣傳史:那些報紙塞滿了駭人的犯罪報導與專利藥廣告;這給了政治人物他們的第一個工業化大眾市場管道。廣播接著出現,並被希特勒嫻熟地使用。電視是下一個,而其本質由廣告形塑。
  • Yochai Benkler 的《網路宣傳》分析了 2016 年美國大選,主張選舉結果的根本原因不是技術或俄羅斯干預,而是過去 20 年間發展出的左右兩派不對稱媒體系統:左派與中間偏右是以事實為基礎的,而右派是一個宣傳回饋迴路。
  • 前 Google 人 Tristan Harris 對推薦系統的批評:平台的演算法學會了「要極大化人們待在站上的時間,就該餵他們煽動恐懼、焦慮與義憤的文章」。

少數加入極端組織的英國學生,是那些在社交上經歷缺乏尊重(也許被同儕排斥)、在尋找認同卻無法在父母的宗教中找到,然後與一小群其他心懷不滿的年輕人混在一起的人。他們受到激進傳教者的影響,而後者提供理想、社群、親緣、關懷與兄弟情誼。

白人男孩被激進化進入白人至上團體的過程也沒有太大不同。

Max Abrahms 的研究也顯示,恐怖分子多半是為了尋求社會團結而加入其運動;這就是為什麼他們從孤獨的年輕男性、而非從政治行動者中招募。他們的團體成為成員所依附的制度,而非變革的推動者。

加入極端組織尋求社會團結的人,需要把自己想成好人。要阻止他們,你得瓦解那一點——而你無法靠排斥他們來做到。

最好的做法是有一個不排斥人的環境:學生能在宿舍樓梯間、在小班教學與專案小組中認識來自不同背景的人,並有數百個運動與學生社團可選,好讓每個人都能找到一個歸屬的小圈子。這本來就是好大學一直以來的運作方式。

鑑識與證據規則#

最後一個警務主題,是如何從電腦、手機與其他電子裝置中還原資訊以用作證據。

成本上升與作業困難導致更具選擇性的執法,出現整類「國家很少介入」的線上危害。結果是許多壞人——從網路罪犯到變態、霸凌者與極端分子——在線上幾乎完全逍遙法外。

我們有各種聰明的方法從資料中萃取資訊——例如你能從 CCD 陣列的圖樣雜訊辨識出一張照片是哪台相機拍的,甚至用它來判斷照片的哪些部分可能被動過手腳。

材料必須合法蒐集,且鑑識人員必須維持「保管鏈」——意即能讓法庭確信證據未被竄改。 那意味著使用可信工具製作證據副本、記錄所做的一切、並有適當方式處理發現的任何私人材料(例如受特權保護的律師-客戶郵件,或嫌疑人雇主的商業機密)。

他們向警方提供「服務站」,讓沒有技術的員警能下載手機內容,並用手機上的權杖從嫌疑人的雲端帳號下載資料。

有些警力努力把法律問題釐清(例如蘇格蘭警方沒有搜索令就不做「雲端鑑識」),但許多就是把所有資料抓下來留著。

這些服務也讓「嫌疑人材料在海外伺服器上」時警方的日子更難過。

Facebook 與 GCHQ 的爭執,起因是兩名恐怖分子 2013 年 3 月在伍利奇軍營附近謀殺英國士兵 Lee Rigby。 當他們還在犯罪現場與警方對峙時,Facebook 立即向警方與安全部門提供資料;但一旦兩人被擊中並在醫院拘留中,請求就必須走英美司法互助條約。

這涉及警方在倫敦的美國大使館填表,然後由華盛頓的司法部冗長審議。表格常因英國警方人員不懂美國法而被退回。即使一切順利,FBI 也可能要六週才能把文件送達加州門洛帕克的 Facebook 並取得資料。

所以我們發現自己從「突襲後警方有你的資料而你沒有」的世界,走到了「你仍有你的資料但警方沒有」的世界——除非你配合、或除非你是個壞到值得外交官花時間關注的壞人。

出了什麼錯:Operation Ore 與經費不足

美國郵政局突襲了德州一個色情網站後,發現數十萬個他們認為曾被用來購買兒童性虐待影像的信用卡號,其中約八千個來自英國持卡人。

2000 年代初約有 3,000 戶人家被突襲,警方才終於意識到多數持卡人很可能是卡片詐欺的受害者。

風化組在初步分析查扣材料時用了無技術的人員,而且學得很慢——因為他們執著於取得色情定罪、因為他們沒有鑑識能力快速處理所有查扣的電腦、因為他們不懂卡片詐欺(他們寧可把那留給銀行),也因為政治(首相布萊爾親自下令突襲)。

所以數千名男子的生活被打亂數月甚至數年。對其中一些人,「警方搞砸了」的揭露來得太晚:超過三十名男子在面臨起訴時自殺。其中至少一位(駐直布羅陀英軍指揮官 David White 准將)看來是清白的。

在印尼與巴西組織並拍攝兒童虐待的幫派,似乎並未被認真追查。

美國處理這個案子謹慎得多。 同一批伺服器上找到約 30 萬個美國信用卡號,但美國警方把資料用作情報而非證據,辨識出需要關注的嫌疑人(例如與兒童一起工作的人)並悄悄調查他們。隨後有超過一百起真正的兒童虐待定罪。

儘管情報機關能用各種酷炫把戲從電腦系統萃取資訊,一個郡的緝毒組往往沒有預算做即使是基本的電腦鑑識(除了偶爾的大案)。他們連把每一小包白色粉末送到實驗室檢驗是否違法都負擔不起。

在一般案件中,他們只能使用容易取得的數位材料(例如配合的證人手機上的訊息副本),直到 2016–8 年間手機鑑識服務站出現,讓大量資料能以低邊際成本從查扣的手機中取得。

因而有了使用這些服務站的巨大壓力,甚至趕在穩健的法律程序能被發展出來之前。而當然,讓沒有專門訓練的一般員警使用鑑識工具,提高了冤獄的風險。

司法教育也是個議題:很少法官懂機率論,而英國上訴法院確實拒絕接受基於貝氏定理的證據分析。除了「否認數學的法院體系」之不公,還有實務議題:面對「源於 bug 或單純被錯誤呈現」之電腦證據的被告,可能沒有實際辦法證明自己的清白。

隱私與資料保護#

隱私與資料保護是美國與歐洲走上不同道路的一個主題。

2014 年 5 月,這道鴻溝被強有力地凸顯出來。

在美國,總統科技顧問委員會發表了《大數據:一個技術視角》。這份報告(作者包括 Google 的施密特與微軟的 Mundie)描繪了一個充滿連上雲端伺服器之智慧物件的世界。 他們警告:隨著語音與手勢介面的普及,地球上每一個有人的空間很快都會有麥克風與攝影機,其輸出為了能源效率會被集中處理。

他們主張:隱私控制無法施加在感測器上(因為太多了);也不該施加在中央服務彙總者身上;因此控制必須落在「資訊如何被使用」上。

不到兩週後,歐洲法院不同意。

一位西班牙律師 Mario Costeja Gonzàlez 抱怨:搜尋他的名字會帶出兩則關於「他被法拍房屋之拍賣」的老舊新聞報導。 他要求西班牙資料保護機關命令 Google 停止提供這些結果。Google 主張它只是在報導報紙的內容。案子到了歐洲法院,法院判 Gonzàlez 勝訴,創造了媒體多彩(雖不準確)地稱為「被遺忘權」的東西,後來被編入 2018 年生效的《一般資料保護規則》(GDPR)。

歐洲資料保護的演化,與美國的碎片化取徑

銀行、稅務機關與社福機關在 1960 年代初開始使用電腦後,人們開始擔心「若我們所有的交易都能被彙整分析」的隱私意涵。

在歐洲,這成了人權議題,因為多數歐洲國家對蓋世太保、東歐對共黨秘密警察仍記憶猶新。

其共同主題是設一個監理機關(不論在國家或邦層級),個資使用者必須向它報備,而它能指示他們停止不當處理。

隨著時間推移,跨國企業的處理也成了議題,而人們意識到純粹在地或全國的倡議很可能對它們無效。在 OECD 1980 年頒布自願行為準則後,資料保護於 1981 年 1 月被歐洲理事會公約鞏固。

它要求對「個人資訊」有某些最低保障。資料主體有權檢視關於自己的個資、在不正確時要求更正紀錄、理解它們如何被處理,並在許多情況下未經同意時阻止它們被傳給其他組織。

在英國,柴契爾毫不掩飾地做了最少的合規;設立了一個資料保護機構但餓著它、不給經費與技術專業,並為政府與業界都提供了許多豁免。

在把隱私權寫進戰後憲法的德國,資料保護機構成了正經的執法機關。

到 1990 年代初,各國法律的差異造成了貿易障礙。有些企業乾脆把資料處理搬到美國以完全避開管制。所以資料保護終於在 1995 年隨《資料保護指令》被提升到歐盟法律的地位。

英國的實施再一次是最低限度的,遠低於歐洲要求。 例如資料控制者能假裝「輕度匿名化的資訊」不再是個資,只要他們自己沒有重新識別所需的輔助資料。

愛爾蘭的執行更弱——其過去 50 年的產業策略一直是吸引美國公司的歐洲總部。所以除了低公司稅外,都柏林政府把資料保護辦公室設在一個不到一萬人的小鎮,只給它 30 名人員,且不允許它公布調查結果。

這是有史以來被遊說最兇的一部歐洲法律,在歐洲議會委員會中討論了超過 3,000 項修正案;史諾登的揭露幫它過了關。

GDPR 在所有歐盟成員國直接生效,移除了英國或愛爾蘭引入漏洞的迴旋空間;但遊說者已在規則本身中弄到不少豁免。

對一般企業的主要影響是:迫使它們記錄所有對個資的使用,並事先寫下每一項使用的法律依據;被質疑時才試圖想辦法是不夠的。

法國因 Google 未充分告知使用者其資料同意政策、也未給他們足夠控制而罰它 5,000 萬歐元。「同意不能再被脅迫或推定」這件事可能會成為大事。

例如廣告即時競價系統明顯違反 GDPR,因為它們讓廣告商能基於健康、性傾向與政治意見這類敏感個資鎖定使用者,並把這類資訊廣播給數百家參與競價的公司。

在美國,企業大致成功說服政府把隱私留給「自我管制」。

少數受管制的孤島包括:1970 年的《公平信用報告法》;在《華盛頓郵報》刊出 Bork 法官的錄影帶租借紀錄、搞砸他的最高法院提名後制訂的《錄影帶隱私保護法》;在女演員 Rebecca Schaeffer 被一名雇用私家偵探找到她地址的痴迷粉絲謀殺後制訂的《駕駛人隱私保護法》;以及保護病歷的 HIPAA。

多數州也有「資料外洩揭露法」,要求任何「安全失效危及居民個資」的公司必須告知他們。

一次大型外洩的財務損失能輕易達到八位數。

真正震撼執行長圈的是 2014 年 5 月 Target 執行長在前一年 12 月逾一億張信用卡號被駭後遭到解雇;資訊長也被換掉。此後高層的傷亡持續,讓網路安全穩定地在企業議程上往上爬。

碎片化?#

第一次嘗試解決此問題的是「安全港協議」,美國或印度的資料處理者向其歐洲客戶承諾遵守歐洲法。2000 年歐盟執委會採納了「這會給予足夠保護」的行政決定。然而它並未給覺得自己權利被侵犯的歐盟公民任何實際救濟途徑。

殺死安全港的案子由奧地利律師 Max Schrems 對 Facebook 提起。 在史諾登揭露後,他主張:愛爾蘭的 Facebook 把他的資料送到美國處理是違法的,因為美國的法律與實踐並未提供任何防止公權力(具體而言是能透過 Prism 全部蒐集的 NSA)監控的保護。

歐洲法院同意,並在 2015 年推翻了安全港原則。美歐隨後同意以「隱私盾」取代,加上一位歐盟公民能在懷疑 NSA 監視自己時申訴的申訴專員;Max 把這也告上歐洲法院,法院於 2020 年 7 月同樣推翻了它。

法院也裁定:隱私機關在收到申訴時有採取行動的義務。它並明確指出:美國法賦予 NSA「自由取用非美國人資料」的權利,與「美國公司把歐盟公民的資料置於美國保管與控制之下」並不相容。

有些消息較靈通的公司假設它們終究得在歐洲、依歐洲法處理歐洲資料。

而美國的民意其實與歐洲差別不大:多數美國人認為自己的個資如今比較不安全、監控資本主義的風險大於效益、他們不理解正在發生什麼、他們沒有控制權、而公司與政府都不為濫用負責——但他們就是沒有別的選擇。喔,還有 20% 的人在過去十二個月遭遇過某種線上詐騙。

資訊自由#

「一個沒有民眾資訊、也沒有取得資訊之手段的民選政府,不過是一齣鬧劇或悲劇的序幕,或許兩者皆是。知識將永遠統治無知:而一個打算自己當自己統治者的民族,必須以知識所賦予的力量武裝自己。

在水門案之後,美國國會通過了《資訊自由法》,其他國家也跟進。

更激進的版本也被嘗試過:冰島與若干瑞士邦公開稅務申報,而這種做法削減了逃稅——因為有錢人害怕「申報低收入」會帶來的社會地位損失。

他推論:資料取得、傳輸與儲存的成本下降,會讓無所不在的監控技術可供當局使用,所以真正的問題只是:我們其他人是否也能用它。

他描繪了兩種未來之間的抉擇——一種是公民活在對中國式警務系統的恐懼中,另一種是官員被公眾檢視所課責。攝影機會存在:它們會是監視攝影機,還是網路攝影機?

許多歐洲國家有「清白記錄法」,多數刑事定罪在一段(依罪行輕重而定的)時間後被塗銷。但在網路搜尋引擎存在的今天,這類法律要如何執行?

Google 西班牙案給了我們答案:定罪已逾期的人有權讓它在搜尋中被抑制,儘管它可能仍留在報紙檔案中供知道去哪找的人查閱。

小結#

若以金額衡量,政府最大的單一關切是情報;典型政府花在蒐集敵人(真實與潛在的)資訊上的錢,是花在打擊網路犯罪上的一百倍。

情報蒐集同時與防禦性安全與隱私衝突,而後兩者歷來都排在後面。

然而自史諾登揭露美國全球資料蒐集與五眼對盟國行動的規模以來,平衡已開始移動,其效應已傳導到隱私與資料保護法中,儘管緩慢且至今對機關本身影響甚微。

也許當分析做完時,史諾登對機關能力的影響將主要是技術性的(透過讓人們更多、也更聰明地使用密碼學),而政策效應可能是靠讓更多人更在意隱私,來遏制「監控資本主義」的某些過度之處。

網際網路仍讓「不願走到中國那麼遠」的國家更難審查顛覆性內容,但我們十年前的樂觀,已隨阿拉伯之春的失敗而消散。

即使已開發國家也推動大型服務公司大規模審查與過濾使用者產生的內容,而儘管成本與複雜度高昂,這正在變得普遍——除了在端對端加密的服務上。

這導致了侵蝕我們安全、自由與生活品質之電腦與網路利用工具的擴散。這種擴散由「本該更清楚的西方政府」協助與教唆。

理解並反擊監控生態系、同時緩解線上危害,是「有能力參與公共生活」之安全工程師的最高優先——不論是直接參與,還是透過我們的寫作與教學。

而研究也有幫助。 個別學者無法指望在大眾媒體上與國家領導人競爭,但多年來對資料與知識的謹慎累積,能夠也將會瓦解他們的藉口。

作者指的不只是「為什麼極端的機場安檢措施是浪費錢」的知識;我們也必須傳播關於「支撐政府失調行為的經濟學與心理學」的知識,以及其可怕後果——把本該花在大流行病準備上的錢,花在了安全劇場上。

研究問題#

作者自 2002 年起致力於建立安全經濟學研究社群;自 2008 年起,他們每年舉辦一場「安全與人類行為」工作坊,也把心理學家、人類學家與哲學家納入。但我們需要多得多的東西。歷史學家、社會學家與政治學家在哪裡?