技術編輯：宗恩丨發自 思否編輯部
今年 1 月的一個星期四下午，美國人威廉士在辦公室里接到了底特律警察局的電話，讓他到警察局自首。開始他以為這只是一個惡作劇，但隨後發生的事情顛覆了他的認知。
在接到電話的一個小時後，正在開車去密西根州法明頓山莊的他，突然被一輛警車攔住。兩名警察下車，當著他妻子和女兒的面給威廉士戴上了手銬。警察沒跟他說為何逮捕他，只給他看了一張紙，上面有他的照片和 「重罪逮捕令」、「盜竊罪 」等字樣。
隨後威廉士被送到了拘留中心。拍照、採集指紋和 DNA 後他被丟進監獄關押了一夜。
第二天中午兩名警官把他帶到審訊室，警官翻出了一張紙。是一段監控視頻中的靜止圖像，顯示一名身穿黑色衣服、戴著紅色聖路易斯紅雀隊帽子的男子站在手錶展示台前。在幾分鐘後那名男子盜竊了五塊價值 3800 美元的鐘表。
「這是你嗎？」警察問。
「不，這不是我。你以為所有的黑人都長得一樣嗎？」威廉士說。
威廉士很清楚他知道，他並沒有犯下任何罪行。
但他不知道的是並不是警官把它認錯，而是人工智慧面部識別算法將他誤判為罪犯。而且他的案件可能是第一個已知的美國人因人工智慧面部識別算法的缺陷匹配而被錯誤地逮捕的案件。
威廉士含冤被捕的原因
底特律警察部門已有二十多年的面部識別系統使用歷史。雖然該技術對識別白人男性的效果相對較好，但對其他人種的判斷結果卻不太準確，主要原因是用於開發基礎資料庫的圖像缺乏多樣性。
並且底特律警察部門使用的算法並非來自 Facebook 和谷歌等技術最為頂尖的公司，該州的技術由一家名為 DataWorks Plus 的公司提供。官方公開的數據顯示，DataWorks Plus 軟體包含了日本科技巨頭 NEC 和總部位於科羅拉多州的 Rank One Computing 公司開發的組件。
2019 年，這兩家公司的算法被納入聯邦對 100 多個面部識別系統的研究中，發現存在很大偏見，錯誤識別非洲裔美國人和亞洲人的面孔是高加索人面孔的10倍到100倍。
不僅是底特律，美國其他州也在大規模的使用人臉識別系統抓捕罪犯，明尼蘇達州和紐約等州在使用 Clearview AI 系統。明尼蘇達州華盛頓縣警察在使用亞馬遜 Rekognition 系統。
讓人更為擔憂的是 Clearview AI 違反服務條款，通過用戶社交媒體獲得用戶照片，這表明你隨手發布的一個照片就有可能成為判斷你是否犯罪的線索。
麻省理工學院也研究發現，Rekognition 人臉識別系統識別女性和黑人的正確率很低。該軟體將女性誤認為男性的比例高達19%。如果納入膚色進行統計錯誤率更高，有31％的黑人女性被標記為男性。
顯然人工智慧面部識別系統並沒有人們預期中的那麼聰明，它距離一個「公正的執法者」相距甚遠。
如何避免悲劇再次發生
專家們給出了幾點建議：
- 低質量的搜索圖像比如來自顆粒狀監控視頻的靜止圖像應該被禁止，目前使用的系統應該嚴格測試其準確性和偏差。
- 有平庸的算法，也有好的算法，執法部門應該只買好的算法。
- 開發一種新的算法供 NIST 審查，縮小了不同人口組群之間的準確性差異。
不過還有一種激進的解決辦法就是放棄使用，近日 IBM 宣布退出了面部識別軟體業務。微軟和亞馬遜也已經限制了他們與執法機構進行面部識別的能力。原因正是因為面部識別算法產生的偏見將有可能犯下巨大的錯誤。
上文故事的最後警察意識到了錯誤並釋放了威廉士，當地檢察官也表示威廉士會被撤銷案件和他的指紋數據。檢察官說：「我們表示歉意，但這絲毫不能彌補威廉士先生在監獄中度過的時間。」
被釋放後的威廉士回到家中他不敢同自己的母親和朋友提及此事，他的老闆更是嚴厲的告訴他不能和同事談論此事。他的小女兒現在見到他有時會脫口而出：「舉起手來跟我去警局！」，而他自己深深的陷入了再一次被冤枉的恐懼中。