奧蘭多市政府恐侵犯人權,已停止使用Amazon人臉辨識技術 當地時間6 月25 日,奧蘭多市與奧蘭多警察局發布聲明稱,已於上週停止使用亞馬遜深度學習人臉辨識技術——Rekognition,從去年12 月份開始為期6 個月的合約已經到期,目前不再續約。聲明中還稱,工作人員將繼續討論和評估未來能否重啟該項技術,而目前評估工作仍在進行中,說明奧蘭多市仍可能在今後對亞馬遜「敞開大門」。

奧蘭多市政府恐侵犯人權,已停止使用Amazon人臉辨識技術

Rekognition 雖然已經被Pinterest、C-SPAN 等公司使用,但是在ACLU(美國公民自由聯盟)調查了6 個月之後發現亞馬遜至少跟兩家執法機構「秘密」合作。奧蘭多市公共安全監視網路,亞馬遜Rekognition 的負責人Ranju Das 稱,「亞馬遜會從監視器回饋的圖像與執法部門的尋人照片進行對照,一有進展就立即通知執法部門。Rekognition 的重要性在於從大量資料庫中鎖定目標並進行追踪,做到即時回饋。」除了奧蘭多警察局,華盛頓警長辦公室也使用了該項技術,用於搜索身份不明的嫌疑犯。

奧蘭多市政府恐侵犯人權,已停止使用Amazon人臉辨識技術

雖然奧蘭多市很看好與亞馬遜的合作,表示「一直在尋求保障當地居民和外來人員安全的新舉措。在不違反隱私權的情況下,與亞馬遜這樣具有創新性的公司合作,有助於推進社區安全。」同時承諾不會用人臉辨識技術追踪正常居民。但是ACLU 對奧蘭多市給出理由並不買賬,聲明「Rekognition 技術的廣泛使用會給有色人種、非法入境移民、抗議示威民眾帶來可怕的後果。」

ACLU 在6 月25 日給奧蘭多市長Buddy Dyer 和議會發郵件,要求他們立即停止使用人臉辨識監視技術。郵件中還稱,人臉辨識系統威脅到公民的自由,尤其是政府機構在未經社區討論、未經地方立法監督、沒有防止濫用的規則出台的情況下就「秘密」實施。這為奧蘭多市的居民造成了極大的威脅,而這來源於亞馬遜技術的支持。         

亞馬遜面對來自員工、投資人、人權組織的三方壓力

針對奧蘭多和華盛頓的情況,上個月ACLU 位於加利福尼亞、俄勒岡、佛羅里達的多個分會就聯合給亞馬遜寫信要求其停止向政府機構銷售Rekognition,超過40 個民主組織簽署表示支持ACLU 的提議。亞馬遜股東上周致信貝佐斯表示,如果Rekognition 被濫用,極有可能侵犯人權,並銷售到國外的專制政權,同時對公司股票產生負面影響。亞馬遜員工也寫請願書要求貝佐斯不僅停止與執法機構的Rekognition 合作,同時停止與ICE (美國移民和海關執法局( Immigration and Customs Enforcement:ICE)和Palantir 的合作。請願書中寫道,「作為有正義感和道德感的亞馬遜人,對生產面向市場的產品有選擇權,對其如何被使用有發言權。以史為鑑,IBM 在二戰期間為德國提供其特有的打孔卡技術屠殺猶太人,而我們無法允許那樣的事情再發生。」

奧蘭多市政府恐侵犯人權,已停止使用Amazon人臉辨識技術

人臉辨識技術是否真的準備好應用於執法工作中

為了維持Rekognition在執法機構的訂單,亞馬遜表示一旦發現用戶違反法律便會立即停止提供服務,用戶在使用Rekognition時要有底線,必須遵循法律對自己的行為負責。上個月,亞馬遜曾對Gizmodo說,Rekognition的確做了一些好事,幫助執法部門抓住盜竊犯、找到被綁架的受害者、找到遊樂場失散的兒童。雖然亞馬遜一再強調科技的重要性,「如果因為技術會被濫用就取締它,那麼如今的生活品質只會變得更差。」但是社會似乎更關心科技是否會助紂為虐。

喬治城大學法隱私和技術中心的助理Clare Garvie 說道,實施臉部辨識的部分問題是其對言論自由的潛在影響。好比在遊行示威中,臉部辨識就如同警方在隊伍中穿行,要求在場的每個人都出示身份證明。加之亞馬遜在科技領域的影響力,會有更多執法機構願意參與進來。Kairos(人臉辨識及AI 技術初創公司)的CEO Brian Brackeen 發表了一篇反對將人臉辨識應用在執法工作中的文章。文章中寫道,在種族歧視嚴重的美國,非白人受到更嚴格的審查,人臉辨識只會加重「不平等」。在資料庫還不夠完善的當下,讓技術去「指認」一個人是否犯了罪是極其不負責任的。

言語之中可以聽出亞馬遜的無奈,但是如此多的「反對聲」說明人臉辨識技術還不夠成熟,很多弊端沒有應對之策,想要應用在執法工作中目前來看或許還行不通。

參考:

本文授權轉載自極客公園

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則