「基列人把守約旦河的渡口,不容以法蓮人過去。以法蓮逃走的人若說:『容我過去。』基列人就問他說:『你是以法蓮人不是?』他若說:『不是』,就對他說:『你說示播列(Shibboleth)』;以法蓮人因為咬不真字音,便說『西播列』。基列人就將他拿住,殺在約旦河的渡口。那時以法蓮人被殺的有四萬二千人。」
——士師記 12:5–6
生物辨識:用身體當密碼#
上面的引文可能是有紀錄以來第一次在軍事上使用「認證倚賴人類某項性質」的安全協定——在此是他的口音。
生物辨識(biometrics)藉由量測下列事物來辨識人:
- 個體解剖學或生理學的某個面向(如手部幾何或指紋)
- 某種根深柢固的技能或行為(如手寫簽名)
- 或兩者的某種組合(如聲音)
- 國家層級的大規模公民辨識計畫,其中最大的單一計畫可能是印度的 Aadhaar,已記錄超過十億人的虹膜碼與指紋。國際旅行也因國際標準生物辨識旅行文件、對訪美者按指紋的 US-VISIT 計畫、以及歐盟邊境的人臉辨識通關亭而加速。
- 人臉辨識技術的巨幅改進,由 2012 年以來的深度神經網路革命帶來。這讓通關亭穩定變快變可靠、讓大規模監控更容易,也引發了對隱私與人權的顧慮——尤其考慮到它在中國的部署。
- 自動指紋讀取器不再是銀行金庫與社福機構的利基產品,而是部署在數億支手機上。 既然人們把整個人生放在手機裡(或放在手機持有憑證的網路服務上),它們就被倚賴來阻止「遺失或被偷的手機」從惱人變成災難。
生物辨識系統市場像火箭一樣起飛:從 1998 年的 5,000 萬美元,成長到 2005 年逾 15 億、2019 年 330 億美元。
手寫簽名#
手寫簽名在古中國就被使用,但雕刻的個人印章被視為地位更高;在中國、日本與韓國,重要交易至今仍用印章。歐洲則相反:中世紀用封印,但文藝復興後書寫普及,人們越來越只是寫下自己的名字表示同意文件。
英國 1882 年《匯票法》規定:偽造的手寫簽名無效,而這在許多當時屬於大英帝國的國家(如加拿大、澳洲)的法律中留存下來。
在這些國家,手寫簽名對客戶較有利(因為銀行承擔多數風險),而 PIN 與電子代幣對銀行較有利——因此它們大致取代了簽名。
在美國,法律讓銀行對其部署的電子系統負責,所以美國銀行普遍堅守晶片+簽名卡,而非改用晶片+ PIN。
但即使勤勉的簽名查核也無法把風險降到零。 一項實驗顯示,105 位專業文件鑑識人員各做 144 次兩兩比對,誤判了 6.5% 的文件;而由 34 位同等教育程度、未受訓練者組成的對照組,錯了 38.3%,且給予金錢誘因也無法改善其表現。
由於受試者拿到的是像樣的筆跡樣本、而非只有簽名,可以合理假設驗證支票或收據上簽名的結果會更差。
簽名的法律脈絡、電子簽章,與自動簽名辨識
在多數英語世界,多數文件不需要以特殊方式認證。簽名的本質是簽署者的意圖,所以文盲在文件上畫的「X」完全有效。因此電子郵件底部的純文字姓名具有完整法律效力,除非有特別規定相反。
例外來自因國而異的慣例與特殊規則。 例如在英格蘭用「非既有往來銀行」借款買房,程序是帶著護照這類文件去律師事務所,簽署產權移轉與貸款契約,並請律師副署。政府核發之附照片身分證明的要求,原本是放款方的保險公司施加的,後來成為反洗錢法規的「認識你的客戶」(KYC)條款。
歐洲的 eIDAS 規則(910/2014)要求所有成員國接受使用核可產品做出的電子簽章。這原本是為了幫助智慧卡產業設計的,但由於許多人與公司只偶爾需要簽東西、不想買特殊硬體,最新法規現在允許線上簽章服務公司在其雲端服務中產生被視為具法律拘束力的簽章——即使客戶手機或筆電的安全性可能大有問題。
另一個獨立主題是手寫簽名的自動辨識(例如支票上的)。
這在 1980 年代成為最早的認真生物辨識研究主題之一,由賣支票處理設備給銀行的公司推動。早期系統把支票影像與客戶參考簽名一起呈現在螢幕上,由作業員決定。為了省錢,只對數千美元以上的金額這麼做。
1990 年代初開始有簽名板,不只記錄曲線形狀,還記錄其動態(手的速度、筆在何處離開紙面等)。這些被送貨司機用來收取收據,也用於信用卡交易。
像警報一樣,多數生物辨識系統在誤受率與誤拒率之間有取捨,銀行業常稱之為詐欺率與侮辱率,生物辨識文獻則稱為第一類與第二類錯誤。
等錯誤率是系統調到誤受與誤拒機率相等時的值。以平板式簽名辨識而言,等錯誤率最好也只有 1%;純光學比對則是好幾個百分點。
這在支票處理中心這種作業中並不致命(自動比對只是篩選出需人工檢視之支票的過濾器),但在零售店就是致命傷:如果一百筆交易有一筆失敗,對客戶造成的困擾將無法接受。
事實上,平板 1% 的等錯誤率還是靠排除「山羊」達成的——生物辨識社群用這個詞指稱那些模板分類效果不佳的人。廠商通常會把沒有眼睛的人排除在虹膜掃描器的統計之外,把指尖磨損的體力工作者排除在指紋統計之外。這可能導致欺騙性的效能宣稱,並掩蓋社會排除的議題。
人臉辨識#
藉由臉部特徵辨認人是最古老的辨識機制,至少可追溯到我們早期的靈長類祖先。 生物學家相信我們認知功能中相當一部分,是為了提供辨識他人臉部特徵與表情的有效方式而演化出來的。
那麼相對於「認出眼前的朋友」,我們用照片身分證辨認陌生人的能力有多好?簡單的答案是:不好。
西敏大學的信用卡照片實驗
心理學家在一家超市與一家銀行協助下做了一個引人入勝的實驗。他們招募 44 名學生,每人發四張各有不同照片的信用卡:
- 「好的、好的」照片:真實且近期的。
- 「壞的、好的」照片:真實但有點舊,學生現在的衣著、髮型不同。換句話說,這典型於多數人身分證上的照片。
- 「好的、壞的」照片:從一百多張隨機的他人照片中,挑出最像該受試者的一張。換句話說,這典型於罪犯拿一疊贓卡所能得到的相似度。
- 「壞的、壞的」照片:隨機挑選,只確保性別與種族相同。換句話說,這典型於真的很懶、很粗心的罪犯所能得到的相似度。
實驗在超市正常營業後進行,但由有經驗、且知曉實驗目的的收銀員值班。
而這個實驗是在最佳條件下做的:有經驗的員工、充裕的時間、且拒卡不會帶來難堪或暴力威脅。真實生活的表現只會更差。
然而至少有兩家實驗過在信用卡上放照片的銀行,經歷了詐欺的顯著下降。結論是:照片身分證當時能帶來的好處,基本上是其嚇阻效果。
認出路過的陌生人無論如何都比認出你認識的人難得多。 據估計,誤認是冤獄的主因,指認排隊中有 20% 的目擊者會弄錯。
從安全劇場到神經網路革命#
1998 年倫敦紐漢區在大街上顯眼地架設攝影機,並大打公關宣傳其新電腦系統如何持續掃描人群中的臉、比對數百名已知的當地罪犯。竊盜、順手牽羊與街頭犯罪的通報量顯著下降,但他們後來承認系統裡只有 20 或 25 張壞人的臉,而且它從未認出任何一個。
911 之後有若干地方試過這招:佛州坦帕的類似系統在 2003 年被放棄,因為美國公民自由聯盟的資訊公開請求發現它一個壞人都沒認出來;波士頓羅根機場的測試發現不實用,在漏檢與誤警之間找不到有用的平衡。
然而自 2012 年神經網路革命開始,人臉辨識的效能有了顯著改善,錯誤率下降了一個數量級。
- 最準確的演算法在包含 1,200 萬人的圖庫中,若匹配項存在就能找到,漏檢率接近 0.1%;
- 但約 5% 的影像雖辨識成功卻信心低,需要人工裁決;
- 少數演算法能把側面照正確匹配到正面照圖庫——這種姿態不變性是人臉辨識研究長期追求的里程碑。
美國開發的演算法在一對一比對亞裔、非裔美國人與美洲原住民時,誤判為正的比率顯著較高;而在一對多比對中,誤判率最高的是非裔美國女性。亞洲開發的演算法對亞裔與白人表現同樣好。
其餘錯誤大部分來自長期老化、臉部傷害、影像品質差、或畫面中有第二張臉(例如印在 T 恤上的臉)。
結果發現兩類人類專家都顯著優於對照組,而 2015–2017 年間開發的四個深度 CNN 在人類專家的水準範圍內辨識人臉,最新的一個得分高於鑑識專家的中位數。
然而,最好的結果是在演算法與人類專家協同工作時取得的。
反挫:從伊利諾到舊金山#
我們是否面臨一個「每隔一根路燈就有一個內嵌 CCTV 的 5G 基地台認出所有路人」的反烏托邦未來? 突然之間,CCTV 從犯罪現場鑑識工具,變成即時人物辨識與追蹤工具。
這似乎是中國的願景:那裡的廠商訓練攝影機不只辨識個人,還辨識群體,用分類器在對象看似維吾爾族或藏族時發出警示。 俄羅斯則用其攝影機抓違反疫情隔離令的人,宣稱已部署 17.8 萬台。
該公司的金主對隱私法的態度相當隨便:「法律得決定什麼是合法的,但你不能禁掉技術。當然,那可能導致某種反烏托邦的未來之類的,但你不能禁掉它。」
政治與法律的反挫已經開始:
- 伊利諾州埃文斯頓一個家庭發現,他們 2005 年上傳到 Flickr 的孩子照片,最後進了一個叫 MegaFace 的資料庫,被用來訓練許多新的辨識系統。這違反伊利諾州法律,目前有數起集體訴訟進行中。 結果,某些社群媒體的人臉標記功能在伊利諾(與德州)無法使用。
- 2018 年 Google 決定在人臉辨識的使用受到管制之前,不在其雲端平台提供相關 API。
- 2019 年 5 月,舊金山禁止其機關(包括運輸局與執法部門)使用人臉辨識。
- 2020 年 6 月,在全球對種族主義與偏頗執法的抗議之後,Amazon 宣布暫停一年向執法機關提供其 Rekognition 軟體;其技術曾因誤認有色人種而受批評。美國公民自由聯盟曾展示 Amazon 的系統把 28 名國會議員誤配對到被捕者的檔案照上。IBM 與微軟也宣布停售人臉辨識產品。
- 2020 年 8 月,倫敦上訴法院裁定南威爾斯警方使用人臉辨識侵犯隱私權、違反資料保護法與平等法。
然而作者長孫女的 iPhone 能被她兩個弟妹解鎖——這是家庭的通病。
指紋#
自動指紋辨識系統(AFIS)已存在多年。 AFIS 產品看的是覆蓋指尖的摩擦脊,並分類脊線分叉與端點這類細節特徵(minutiae);有些還看脊線皮膚上的毛孔。
指紋辨識的歷史:從馬克吐溫到亨利爵士
用指紋辨識人被獨立發現過多次。
- 馬克吐溫在 1883 年《密西西比河上的生活》中提到拇指印,宣稱是從一位當過獄卒的老法國人那學來的;其 1894 年小說《傻瓜威爾遜》讓這想法在美國流行。
- 在那很久以前,七世紀的中國法典已接受指紋作為印章或簽名的替代,八世紀的日本法典則要求文盲男子在想與妻子離婚時使用指紋。印度數世紀前也用過。
- 顯微鏡發明後,英國植物學家 Nathaniel Grew 於 1684 年、義大利的 Malpighi 於 1686 年提及;1691 年,愛爾蘭 Londonderry 的 225 位公民用指紋在一份請願書上署名,於圍城後向威廉國王請求賠償。
第一次現代系統性使用是 1858 年起在印度,由天文學家之孫、殖民地治安官 William Herschel 推行。 他引入手印繼而指紋來簽契約、阻止冒領已故者的年金、並防止有錢的罪犯付錢請窮人替他們服刑。
在日本的醫療傳教士 Henry Faulds 於 1870 年代獨立發現指紋,並想出用犯罪現場的潛伏指紋辨識罪犯的點子。 Faulds 讓達爾文注意到指紋,達爾文又促使 Francis Galton 研究它們。Galton 在《自然》上寫了文章,這讓他聯繫上退休的 Herschel,後者的資料使 Galton 相信指紋終生持續存在。
技術的實務引入很大程度歸功於曾在孟加拉當警察的 Edward Henry 爵士。 他 1900 年寫了一本書,描述一套與助手 Azizul Haque 及 Hem Chandra Bose 一起發展的、更簡單穩健的分類法——弓形、箕形、斗形與帳形,至今仍在使用。
世界各國警方使用指紋基本上有兩個不同目的:辨識人(美國的主要用途)與犯罪現場鑑識(歐洲的主要用途)。
驗證正面或負面的身分主張#
美國警方歷來用指紋辨識被捕嫌疑人,以判定他們是否正被其他機關通緝、是否有前科、是否曾以其他名字進入視野。聯邦調查局為此維護「次世代辨識(NGI)」服務,每月辨識出約八千名逃犯。
任何想取得美國政府機密級以上安全許可的人都必須通過 FBI 指紋查核,每天最多做 10 萬次查核,約一百萬名聯邦、地方與州級人員有權存取。 還有「回報(rap-back)」服務,會在任何持有許可者觸法時警示其雇主。
美國國土安全部原本只掃每位入境訪客的兩根食指,結果被誤配對淹沒:資料庫裡有六百萬名壞人時,2004 年的誤配對率是 0.31%、漏配對率 4%。該計畫改為「十指」——每位訪客必須分三次掃描呈現雙手四指、再加兩根拇指。
誤受的發生,是因為為了降低誤拒率而納入的功能——例如對變形的容許與特徵選擇的彈性。要以「高到足以嚇阻」的機率與「高到足以拘留」的確定性抓出回流的逃犯(這意味著把誤警壓在可管理的水準),需要比對多根手指——也許十根中的八根。
這確實造成延遲:英國護照局研究發現,約 20% 的參與者在做十指採集時未能正確登錄,而十指驗證要花超過一分鐘。
替所有人採指紋的代價是:一座每 15 分鐘就有 300 名國際旅客抵達的美國機場,需要多開 10 條移民查驗通道。額外的建築與人事成本,遠遠淹沒了花在硬體與軟體上的錢。
作者小時候切蘋果時割傷左手中指,留下約半英寸的疤。當他把這根手指呈給 FBI 1989 年使用的門禁系統時,他的疤讓掃描器當機了。
從凝膠假指到「主指紋」:對指紋系統的攻擊
一個老把戲是罪犯在被採指紋時分散(或賄賂)員警注意,讓員警以錯誤順序採指,於是他在亨利系統下的索引從「01101」變成「01011」,紀錄查不到,他就得到初犯的較輕刑期。
第一次高調的技術攻擊是 2002 年,松本勉等人展示用食用明膠能快速廉價地翻模複製指紋。他測試了十一款市售指紋讀取器,輕易騙過了全部。
這促使德國電腦雜誌 C’T 測試漢諾威 CeBIT 展上販售的多款生物辨識裝置——九款指紋讀取器、一款人臉辨識與一款虹膜掃描器。它們全都容易被騙:低成本的電容式感測器連「對著掃描器呵氣以重新啟動前一位使用者留下的潛伏指紋」這種簡單把戲都擋不住。潛伏指紋也能用膠帶重新啟動或轉移。較貴的熱感應掃描器則仍能被橡膠翻模的手指擊敗。
2013 年 Apple 在 iPhone 5S 上引入指紋掃描器,其他手機廠商競相跟進。駭客照例展示了攻擊:2014 年 CCC 演講中展示了一個從照片製作的德國國防部長手指模型。
2016 年 Aditi Roy 等人發明了「主指紋(masterprint)」:一個可戴在指尖、設計成能匹配「典型手指所導出之部分指紋中至少一個」的假指紋,它對 6% 的使用者指紋有效。
2019 年,三星 S10 的新超音波掃描器被發現登錄的是螢幕保護貼而非客戶的手指,導致該手機被若干銀行的 app 封鎖。
而隨著政府機關蒐集越來越多指紋,它們也會越來越不私密。(中國已經透過人事管理局的入侵,拿到了所有美國聯邦雇員的指紋。)最新的轉折來自一個 Mitre 專案,開發了從人們貼在社群媒體的照片中採集指紋的軟體——這些照片常把手指拍得夠清楚,足以與 FBI 資料庫比中。
犯罪現場鑑識與 McKie 案#
指紋辨識的第二種用途是犯罪現場鑑識——歐洲的主要應用。 現場找到的指紋與資料庫紀錄比對,任何比中到一定程度的,就被當成嫌疑人到過現場的證據。它們往往足以單獨定罪。
- 英國過去要求指紋在十六個點(對應的細節特徵)上吻合,而一位英國警方專家宣稱這偶然發生的機率介於四十億分之一到一百億分之一。
- 希臘接受 10 點、土耳其 8 點,而美國沒有設限(改為認證檢查員)。這意味著在美國,較差品質的指紋也能找到匹配,但它們在法庭上可能受到挑戰。
蘇格蘭女警 Shirley McKie 因一枚在必要的十六個點上吻合、且經蘇格蘭刑事紀錄局四位檢查員驗證的指紋而被起訴。 她否認那是她的指紋,卻發現在英國找不到任何獨立專家支持她——這個行業關起門來一致對外。 她找來兩位美國檢查員作證那並非同一人。
她被判無罪,引發了持續多年的政治風暴。
案件的性質是第一個問題:若干資深警官曾試圖說服她做假陳述,以解釋那枚被誤認的指紋為何出現在一起兇殘謀殺案的現場。她拒絕,導致她被以偽證罪起訴,作為抹黑她的手段。她的無罪判決讓人懷疑警方證詞的可靠性,不只在她這案,而是更普遍地。
被判該起謀殺罪的男子上訴後獲判無罪並向警方求償。政府對「其他案件會出現數十起上訴」的前景陷入恐慌,起訴了自己的四位指紋專家偽證,那也沒能成功。 最終她從政府那裡贏得 75 萬英鎊賠償。
- Cowans 1997 年因搶案後槍擊一名警員被定罪,六年後在上訴中獲判無罪:他主張自己的指紋是誤認,並存夠錢對證據做了 DNA 檢驗。DNA 不吻合,這促使波士頓與州警重新分析指紋,才發現那根本不是匹配。
- Mayfield 是奧勒岡州律師,被 FBI 誤認為馬德里爆炸案的行為人之一,被拘留兩週,直到馬德里警方逮捕了另一名指紋更吻合的男子。曾稱其匹配「絕對無可爭辯」的 FBI,2006 年同意賠償 Mayfield 200 萬美元。
三位檢查員判定指紋不吻合並指出原因;一位不確定;一位堅持它們吻合。只有他是對的。 那些指紋不是 Mayfield 的那組,而是每位檢查員自己在近期刑案中判定為吻合的一對。
Dror 用六位專家、每人看八組指紋(全都是他們前幾年真的檢驗過的)重複這個實驗。只有兩位專家保持一致;另外四位之間做出了六個前後不一的判定。
四點評論:
- 指紋印痕常常雜訊很大、被髒污遮蔽。所以出錯完全可能,而檢查員的技術(與成見)進入方程式的程度,遠比 McKie 與 Mayfield 案引發喧然大波之前所被接受的更大。 然而鑑識文化卻是只有「確定」才可接受:最大的鑑識團體「國際辨識協會」認為,作證談「可能、大概或很可能的辨識」應被視為……有辱身分的行為。
- 即使十六點誤配對的機率真如警方樂觀者所稱是百億分之一,一旦大量指紋互相比對,機率論就開始咬人。 一套在「犯罪現場指紋與 157 名已知當地竊賊的紀錄人工比對」的舊日運作良好的系統,在每年有數千枚指紋與數百萬筆線上資料庫比對時就崩潰了。遲早會有足夠多次比對做出一個十六點的誤配對。
- 「任何安全機制不會出錯」的信念,會製造出破壞其正確使用所需的自滿與粗心。 導入電腦比對時,似乎完全沒有人考慮過把所需點數從十六提高到(比方說)二十。十六是傳統,而沒人想挑戰這套系統、也沒人想撥公款給被告的專家。 在英國,所有專家都是警察或前警察,反正也沒有獨立專家可以聘。
- 對「不會出錯」的信念,確保了最終失敗的後果會很嚴重。 一如提款機安全的 Munden 案,「安全機制不會出錯」的假設會催生出程序、文化假設乃至法律,確保其最終失敗會被否認到不能再否認為止,因而在再也拖不下去時造成真實衝擊。
所以現場留下指紋的嫌疑人,有可能是被另一名罪犯(或被警方——多數捏造案件涉及執法人員而非其他嫌疑人)陷害的。而即使壞人沒被陷害,他總是能宣稱自己被陷害了(而陪審團可能會相信他)。
虹膜碼#
在實驗室條件下量測時,藉由眼睛虹膜圖樣辨識人,其錯誤率遠遠優於任何自動生物辨識系統。
就目前所知,每一個人類虹膜都是可量測地獨一無二的。 它在視訊畫面中相當容易偵測,不會磨損,並被角膜與外在環境隔離(角膜又有自己的清潔機制)。
虹膜圖樣含有大量隨機性,其自由度似乎是指紋的許多倍。 它在妊娠第三到第八個月間形成,(如同指紋圖樣)似乎只受有限的基因影響;形成它的機制看來是混沌的。 即使是同卵雙胞胎(以及同一個人的兩隻眼睛)圖樣也不同,且看來終生穩定。
產生的虹膜碼有個漂亮的性質:從同一個虹膜算出的兩組碼,典型會在 90% 的位元上吻合。 這比指紋掃描器中「為細節特徵定向與分類」這種繁瑣的計算任務簡單得多。
等錯誤率已被證明優於百萬分之一,而如果你願意容忍萬分之一的誤拒率,理論誤受率會低於一兆分之一。
另一個問題是無法登錄:護照局的試驗有 10% 的參與者無法登錄,而黑人使用者、60 歲以上者與身障者的比率更高。
阿聯與 Aadhaar:兩個大規模部署,以及對虹膜的攻擊
第一次大規模部署在阿拉伯聯合大公國,他們想追蹤被驅逐出境的人(尤其是因賣淫罪)。
最大的部署是印度的 Aadhaar 系統,全體居民都掃描了指紋與虹膜,取得一張帶十位數號碼的 Aadhaar 卡,讓驗證者能在資料庫中查其檔案。
系統在 2011 至 2016 年間登錄了十億人,且所有虹膜碼都彼此互相檢查過唯一性。Aadhaar 現在對許多用途是強制的,而蒐集到的指紋也提供給警方做犯罪現場鑑識。
對虹膜辨識系統的可能攻擊包括——至少在無人看管的操作中——單純一張目標虹膜的照片。
有些終端機會偵測這類簡單偽造,例如量測「瞳孔直徑以約 0.5 Hz 自然波動」的 hippus 現象。但廣泛販售的廉價終端機不做這件事;而若活體偵測普及了,攻擊者無疑會嘗試更精巧的把戲,例如把目標的虹膜圖樣印在隱形眼鏡上。
使用最久的系統是阿聯偵測持假文件返回之被驅逐者的系統。一個典型攻擊是返回的被驅逐者在飛機上點阿托品眼藥水,讓瞳孔放大;如今這類旅客會被留置到眼睛恢復正常為止。
2019 年的熱門議題是當局不願替阿薩姆邦與其他邊境地區的穆斯林登記,這是「試圖把他們描繪成非法移民」這個更大政策的一部分。印度最高法院已裁定不得因未登記而扣留服務,但這並未阻止登記在實務上成為開戶、買手機或 SIM 卡、以及入學的必要條件。
聲紋辨識與變聲#
聲紋辨識(speaker recognition)是從一段短發話中辨識說話者的問題。
有許多子問題:辨識是否與文字內容相關、環境是否吵雜、是否必須即時運作、以及是只需驗證說話者還是要從一大群人中認出他。
如同指紋,這項技術同時用於辨識與鑑識。
較直接的生物辨識認證目標,是在某些電話系統中驗證身分主張——從電話銀行到軍事人員辨識。在英國,尋求庇護者被要求每週打電話報到數次;這類系統傾向用來電顯示確認人在哪裡,也用於被法院命令在特定時間不得前往特定地點的足球流氓。
但某家英國大銀行 2016 年在手機 app 上推出聲紋生物辨識系統後很尷尬:隔年就被一位 BBC 記者找他的異卵雙胞胎兄弟模仿其聲音而破解。
有文獻描述 1990 年代部署在美國 EP-3 飛機上的系統,把攔截到的敵機與地面管制員訊息切成四分之一秒的片段,然後剪貼出新的欺敵訊息。 那與二十年後的今天所能做到的相比還很原始。
網路上如今有許多公眾人物看似說出不當言論的影片,而「Deepfake」編輯軟體已讓這類語音與影像變造能近乎即時地完成。
最近,罪犯用 AI 冒充一位執行長的聲音,下令支付 22 萬歐元:那次欺騙的受害者甚至不是機器,而是另一位主管。這可能是變聲軟體被用於真實詐欺的第一起案例;我們可以確定它不會是最後一起。
其他系統#
打字節奏、靜脈、手部幾何、文體學與 DNA
還有許多其他生物辨識技術被提出:
- 打字節奏(擊鍵動力學):1980 年代有產品,但似乎不成功。它有個著名的前身:二戰時藉由無線電報員的「手法」辨識其身分。
- 靜脈圖樣:有一兩個系統用過,但似乎未廣泛販售(在 NPL 試驗中,靜脈是所有項目中最差的)。
- 手部幾何:曾在一些機場用過一陣子,其歷史前身是十九世紀法國警方以一套身體量測辨識罪犯的貝迪永法(Bertillonage)。
- 文體學(stylometry):辨識文本或程式碼作者寫作風格的科學。這至少可追溯一世紀:年輕時的著名密碼學家 William Friedman 與妻子 Elizebeth 曾被一位古怪的百萬富翁雇用,研究培根是否寫了莎士比亞(他們最終戳破了這個想法,但過程中對密碼學產生了興趣)。現代應用範圍從辨識在網路犯罪市場與極端主義論壇發文的人,到偵測大學生抄襲。研究顯示人們若刻意嘗試,是能改變寫作風格到足以擊敗簡單文體學的;但多數人不會,而多下一點功夫,通常能偵測出「有人試圖混淆」這件事。文體學也延伸到程式碼:程式設計師能從其編碼風格被認出來。
- 其他提案包括臉部熱圖、耳形、步態、唇印與心電圖。
最後一項值得一提的生物辨識是 DNA。
這已成為犯罪現場鑑識與子女撫養案件中判定親子關係的寶貴工具,但對即時應用而言太慢也太貴。
由於它是基因型而非表現型,其準確度受同卵雙胞胎的發生率限制:約每 120 個白人中就有一人有同卵雙胞胎手足。還有隱私問題:從一個人的 DNA 樣本能重建的資訊越來越多。
也有重大的程序問題(實驗室程序草率導致的誤配對)與重大的資料品質問題:英國警方有全球最大的 DNA 資料庫,涵蓋近六百萬人,但其中約五十萬人的名字拼錯甚至完全弄錯。 他們也曾因保留無辜者(從獲判無罪的嫌疑人到旁觀者)的 DNA 而被判敗訴。
在地方警務中管用的流程未必能全國性地擴展:從打錯字的紀錄、到嫌疑人給假名而因未被起訴所以從未被發現,這些小錯誤連同實驗室錯誤累積起來,直到誤判為正的比率成為嚴重的作業與政治議題。
出了什麼錯#
一如安全的其他面向,我們看到慣常的一批因 bug、失誤與自滿造成的失敗。
- 一家為 83 個國家 5,700 家組織供應生物辨識門禁系統的公司,把資料庫毫無保護地放在網路上。
- Uber 第二次失去倫敦營運執照,是因為他們因一個照片查核 bug 而未能阻止被禁的司機重新註冊。
- DNA 分型面臨的主要問題,是最初因實驗室程序草率而導致的高誤判為正比率,這引發了爭議的法庭案件與冤獄。
一如指紋:任何被相信不會出錯的系統,都會讓其操作者粗心到足以破壞它。
環境假設的改變——從封閉系統到開放系統、從小系統到大系統、從有人看管到獨立運作、從配合的到不合作的對象、從驗證到辨識——全都可能把東西弄壞。
許多有趣的攻擊更專屬於生物辨識系統,且適用於不只一種生物辨識:
除了指紋或 DNA 樣本可能是警方栽贓的可能性之外,它也可能只是舊的。指紋的年齡無法直接判定,而在公眾能進出區域留下的指紋說明不了什麼。銀行大門上的指紋,遠不如被搶金庫裡的指紋有意義。
所以在易遭搶劫的場所,清潔程序對證據可能至關重要。 若嫌疑人的指紋在銀行櫃檯上被發現、而他宣稱三天前去過,他可能會被「該分行櫃檯每晚都會擦拭」的證據定罪。
用系統的語言說:新鮮度往往是關鍵議題,而一些相當出人意料的東西會發現自己身在「可信計算基礎」之內。
這裡的教訓是:生物辨識認證裝置的無人看管操作很棘手。
攻擊未必總是直截了當——雖然從一枚好指紋翻模很容易,但人們留在門把、啤酒杯上的隨手指紋往往太糊、太破碎而無法通過辨識系統。但攻擊確實可能,也確實發生。防禦也是可能的:聲紋系統可以要求你朗讀一段不可預測的挑戰以挫敗錄音。
老年人與體力工作者常有受損或磨損的指紋(硬派罪犯有刻意這麼做的傳統);深色眼睛、大瞳孔的人給出較差的虹膜碼;沒有手指或沒有眼睛的身障者面臨被排除的風險(這是 Aadhaar 同時使用虹膜與指紋的一個原因);畫「X」的文盲更容易受簽名偽造之害。
生物辨識工程師有時輕蔑地稱這類對象為「山羊」,但這既愚蠢又歧視。 一套在社會層面是(或被視為是)倒退的生物辨識系統——把身障者、窮人、老人與少數族裔置於更高的被冒充風險中——理應遭遇有原則的抵抗。 它可能被法律挑戰擊敗,也可能被假裝身障的惡棍擊敗。
而有時對少數群體的漠視冒犯到違法的程度:2019 年英國內政部在明知其護照 app 對黑人無法正常運作的情況下仍予以部署。
除了單純讓 Betty 對她的指尖取橡膠印模之外,Alice 還可以自願降低書寫能力:給出幾份略有不同、幼稚的簽名樣本,她就能迫使機器接受比平常更低的門檻。她可以花兩週在花園砌牆,把指紋磨平,好讓指紋系統的登錄品質降級。她也可以在醉酒時登錄聲紋系統。
資料庫中有 10,000 筆生物辨識資料時,就有約 5,000 萬個配對。所以即使誤受率只有百萬分之一,只要登錄人數稍微超過一千,至少發生一次誤配對的可能性就會超過二分之一。
所以「辨識」比「驗證」難得多。實務後果是:一套為認證而設計的系統,在你想倚賴它作為證據時可能會失敗。
如果你在家裡裝兩套不同的防盜警報,兩者同時被擊敗的機率會下降,但誤警的次數會上升。
許多廠商宣稱其產品保護隱私,因為儲存的不是你的臉、指紋或虹膜影像,而是從中導出、有點像單向雜湊、無法據以辨識你的模板。 有人據此主張生物辨識資料在隱私法上不算個資,因而能不受限制地傳遞。
這些說法被 Andy Adler 對人臉辨識系統的一個有趣「爬山攻擊」炸掉了。 給定一個會輸出「輸入影像與目標模板有多接近」的辨識器,就持續修改輸入的臉以提高匹配度。在測試過的系統上,這迅速產出了目標的可辨識影像——把它印出來會被接受為目標的臉。 他接著展示這個爬山技術也能攻擊其他生物辨識,包括某些以指紋為基礎的。
虹膜資料人類完全無法用肉眼比對(多數虹膜碼來自人眼不敏感的相位資訊)。但當警衛與程式對「某人的臉是否與檔案照吻合」意見不合時會怎樣?
心理學家建議生物辨識系統的使用方式應支持並賦能人類認知,並在我們的社會規範內運作。然而我們工程師往往覺得把使用者當成必須適應我們技術的麻煩更容易。這可能反而降低人類的表現。
例如當自動指紋資料庫拉出它認為最可能的指紋呈給檢查員時:他難道不會傾向偏袒它嗎?如果電腦給他三個最佳匹配加兩個差的匹配以持續測試其警覺性,是不是更好——還是那太惱人了?
小結#
脈絡很重要;即使是手寫簽名驗證這種薄弱的生物辨識,只要良好地嵌入社會與法律的基質中,也能有效。
鑑識用途則有問題,而法院對指紋證據的盲目信任已遠不如十年前。歷史上許多生物辨識系統的主要效果來自嚇阻罪犯,而非真的辨識出他們。
而雖然如今已有從人臉辨識大規模辨識人的前景,且俄羅斯與中國這類威權國家正在做,我們是否該允許在民主國家大規模例行使用這項技術,如今已有嚴肅的辯論。
研究問題#
所以這裡有另一個點子:我們能否用其他「習得的技能」來辨識人類與 AI/ML 系統?
本章開頭的引文——以法蓮人因為說不出希伯來字母「shin」而被認出並殺害——其實講的是一種人們年幼時(或成年後更費力地)習得的技能。以當地方言流利說一種語言的能力,是區分內團體與外團體最普遍也最本能的方式之一。
既然機器人與人類一樣,都擁有只能靠努力習得的技能,這是否會導向什麼有趣的方向?