從孤島到系統觀#

本世紀初，安全技術是一座座彼此猜忌的孤島——密碼學家、作業系統保護的人、防盜警報業，一路到調配鈔票油墨的化學家。我們都以為世界終止於自己的海岸線。

不願理解數位浮水印的鈔票油墨化學家、以及只會談機密性的密碼學家，逐步被邊緣化。

如今在 2020 年，每個人都需要有系統觀，才能設計出「能被有用地整合進真實產品與服務」的元件。而由於這些東西被真實的人使用、且常常是全球規模，我們的領域也正在擁抱人文學科與社會科學。

而隨著攻擊從硬技術轉向使用它的人，系統也必須對錯誤、不幸乃至脅迫具備韌性。

所以對人——員工、客戶、使用者與旁觀者——的現實理解至關重要；人的、制度的與經濟的因素，與技術因素同等重要。

真實系統提供可依賴性的方式越來越多樣，而保護目標不只更貼近應用，還可能既微妙又複雜。目標之間的衝突很常見：當一個主體要當責性、另一個要否認性時，很難兩邊都討好。

若 Alice 守衛一個系統，而 Bob 承擔失效的成本，你可以預期麻煩。

這帶動了安全經濟學的成長（本書第一版曾協助催化這件事）；2008 年的第二版記錄了失效如何也越來越與可用性有關，而其後十年見證了大量安全心理學的研究。

三件事#

那麼接下來呢？作為本書的結論，作者想凸顯三件事。

複雜性#

• 我們能把車寫得在高速公路或沙漠中開得相當好，卻應付不了「滿是無法預測之人」的雜亂市街。
• 我們能加密訊息、或把人名從資料庫中剝除，卻擋不住社會結構透出來。
• 而霸凌人有其極限；「電腦說不行」是流失客戶的快速方法。

光研究一套電腦系統如何與「一個人」互動是不夠的；我們得弄清楚它如何能與「許多彼此互動的人」一起運作。

永續性#

對汽車、心律調節器與變電所這類耐久財，我們可能得維護軟體二十年、甚至四十年。

我們對如何做到這件事其實毫無頭緒；而若我們沒破解它，我們的自動化對地球的未來就會是壞消息。

所謂的「智慧」裝置，往往只是「在『電腦說不行』時必須更早被丟掉」的東西。

政治#

當「電腦說不行」時，誰輸了、誰贏了？社群網站使用者得到隱私，還是廣告主得到存取權？它如何被用來把金錢轉化為政治權力？而如果人們想要「可依賴的網際網路」或「低犯罪率的網路空間」這類公共財，在一個全球化的世界裡要如何提供？

科技壟斷的持續，則提出了「科技與社會如何共演化」以及「權力的本質」的其他問題。

當臉書成為政治言論的仲裁者、當蘋果與 Google 能對新冠肺炎接觸追蹤下指導棋、當亞馬遜、微軟與 Google 能對臉部辨識（中國之外）下指導棋時，作者懷疑：技術人除了經濟學與心理學，也該開始讀點政治學了。

未來十年最棘手的問題，可能會圍繞著治理。

小結#

所以工程師能做出貢獻的一個關鍵方式，就是參與政策辯論。

我們越是投入「技術在複雜性、永續性與權力本質上所拋出的問題」，我們的社會就越快調適以應對它們。