大出包!亞馬遜人臉辨識軟體把議員認成嫌犯 為了提升維安、執法效率,許多政府、企業都希望借助人臉辨識幫忙,不過人臉辨識一但出包,恐將影響人身安全與自由,美國民權聯盟(ACLU)最近做了一項測試,將國會議員照片與資料庫內的嫌犯照片進行比對,結果亞馬遜的人臉辨識軟體Rekognition,竟然將28名議員誤認為嫌犯,外界呼籲在執法中導入人臉辨識技術,必須要有更嚴謹的討論。

 28名議員遭亞馬遜系統誤認為嫌犯

為了測試系統的準確性,美國民權聯盟(ACLU)將535名國會議員的臉部資料,透過亞馬遜的辨識軟體Rekognition,與資料庫中 25,000 名嫌犯的臉部資料進行比對,結果顯示有 28個國會成員都是疑犯。

ACLU認為,如果將這套系統用於執法,恐將有侵害生命跟安全的疑慮,「根據測試結果,我們發現這項技術若讓政府使用並不安全,人臉辨識將加深歧視,特別是針對有色人種、移民和社運人士,一旦放行傷害將難以回復。」ACLU表示:「國會必須將這些威脅嚴肅看待,對這項技術踩煞車,並暫停在執法中使用人臉識別。」

大出包!亞馬遜人臉辨識軟體把議員認成嫌犯
透過亞馬遜的辨識軟體Rekognition,與資料庫中 25,000 名嫌犯的臉部資料進行比對,結果顯示有 28 個國會成員都是疑犯。ACLU

亞馬遜則回應,之所有會有這麼不精準的結果,是因為Rekognition系統的默認設定準確度只有80%,如果要用在執法,必須將準確度調整到95%,「我們認為,以最理想的方式設定準確度,結果就會有所不同。」

亞馬遜強調,80%的預設值是可接受的範圍,用在辨識動物、椅子或是一般社群媒體用途都沒問題,「對用來辨識一個人的身分就不恰當,特別是在執法過程中使用時,我們建議客戶把信任度調整為95%或更高。」

大出包!亞馬遜人臉辨識軟體把議員認成嫌犯
ACLU認為,如果將不準確的系統用於執法,恐將有侵害生命跟安全的疑慮。
shutterstock

AI演算法偏見,導入執法時應更謹慎

人臉辨識軟體Rekognition,是基於亞馬遜的AWS圖像識別和分析平台,可以提供物體、場景、人臉辨識與分析,主打可以在機場、車站等人潮擁擠的公眾場所準確地監控,最近正積極向政府以及執法部門推銷。

不過許多不同的意見認為,此舉將侵犯隱私與個人自由,今年六月,亞馬遜有100多名員工,寫一封公開信要求執行長貝佐斯(Jeff Bezos),停止向執法機構出售可能有違憲疑慮的Rekognition軟體。

人臉辨識系統還有一個很大的爭議,就是演算法偏見,因為系統一開始使用大量的白人男性資料作為學習基礎,因此一直以來有色人種以及女性遭到系統誤認的比例極高。在這次ACLU的測試中,比對結果出錯的28位議員中,11人是有色人種,約占整體39%,過去ACLU也曾發信給貝佐斯強烈表達人臉辨識系統偏見的疑慮。

大出包!亞馬遜人臉辨識軟體把議員認成嫌犯
比對結果出錯的28位議員中, 11 人是有色人種,約占整體 39%。
ACLU

這個月初,微軟總裁史密斯(Brad Smith)就公開表示:「有鑑於臉部辨識技術廣泛的社會影響與可能的濫用,追求周全的政府規範就很重要。」他提議國會應該要召集一個跨黨派的專家委員會,討論臉部辨識在執法與國安上的應用限制,避免出現執法上的偏見,科技公司也應該對臉部辨識的合約更加謹慎,如果發現有侵害人權的使用,應該適時拒絕客戶,「臉部辨識科技,對於隱私保護、自由都構成了影響。」

這次的測驗凸顯了人臉辨識技術在應用上的一大缺陷,ACLU律師也公開呼籲:「對於要不要在維安監控上導入人臉辨識,以及要如何應用這項技術,大家應該要進行全方位的辯論。」

 

 

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則