IBM 宣布從此不碰臉部辨識技術研發,因為已經被政府濫用到種族歧視且監控人民上

IBM 宣布從此不碰臉部辨識技術研發,因為已經被政府濫用到種族歧視且監控人民上

今日 IBM 首席執行官 Arvind Krishna 向美國國會發表了一封公開信,他表示未來 IBM 將不再研發、製作跟提供任何「臉部辨識技術」相關科技,因為它們被濫用於大規模監視人民、涉及種族歧視與侵犯了基本人權。

追蹤T客邦IG,送你《2020影音大補帖》 https://bit.ly/3gjivf3

科技巨頭 IBM 現任首席執行官 Arvind Krishna,向多位美國國會議員呈上了公開信。他表示,IBM 堅決反對且不會容忍將任何臉部識別技術,使用於大規模監視、種族歧視、侵犯基本人權和民眾自由等,與科技產品最初目標不符的任何用途。

Arvind Krishna 強調,當臉部辨識科技侵犯了人權,這並不符合 IBM 的價值觀、客戶信任感與透明度原則。Arvind Krishna 認為,或許現在該是時候,政府單位得深切檢討,美國國內執法機構是否「應該採用」臉部識別技術,以及「如何使用」相關科技等,進行一場公開對話。

IBM 首席執行官 Arvind Krishna

在過去的十多年時間內,由於人工智慧的進步,臉部辨識科技有著標誌性的突破,但由於大部分服務都由私人公司所提供,所已很少受到法規或美國聯邦政府的監督。因此,這類科技時常被質疑於年齡、種族、身份地位上存在偏見,進而誤導執法標準或執法人員,更具有潛在安全性與侵犯公民權利的風險。

在去年,美國國家標準暨技術研究院(NIST)於一份研究中公開表明,在現有大多數的臉部辨識技術演算法當中,都存在著廣泛的偏差,但這並非為「不準確」,而是因為開發者納入自己的經驗準則。比方說,這類系統對「中年白人男子」的辨識正確率最高,但對亞裔、非裔美國人、美洲原住民和太平洋島民等群體,就容易出現錯誤。

I臉部辨識帶有種族歧視且監控人民,IBM 決定退出相關技術研發

今年初,另一家相關技術公司 Clearview AI 受到了政府單位的嚴格審查,因為它的臉部辨識人工智慧訓練來源,居然是於網路上蒐集了超過 30 億張人臉照片,造成了個人隱私的極大爭議。此後,Clearview 遭到提告並被要求停止運作。無獨有偶,Facebook 於一月份也因為非法使用臉部識別技術,而被提起了集體訴訟,求償高達 5.5 億美元。

至於 Amazon 則是少數幾個,有公開承認向執法部門出售臉部識別軟體的主要科技公司。只不過,他們研發的「Rekognition」軟體也存在著準確性爭議,例如於 2018 年,美國公民自由聯盟發現,Rekognition 居然把 28 名國會議員的臉辨識為罪犯。

I臉部辨識帶有種族歧視且監控人民,IBM 決定退出相關技術研發

這次公開表示退出臉部辨識科技研發的 IBM,近年來也持續嘗試解決偏差問題,但也在去年因為資料庫照片未經他人同意使用,進而造成隱私爭議,幾乎可以說沒有一家相關領域的公司,不曾因此鬧上新聞版面。

IBM 現任首席執行官 Arvind Krishna 也在信中主張,美國應該開始進行警察改革,他認為因警察不當行為而產生之法律案件,應該要更積極被納入聯邦法院管轄,國會也必須行動,修改免責條件的適用範圍,避免警察因此濫權。

追蹤T客邦IG,送你《2020影音大補帖》 https://bit.ly/3gjivf3

來源:The Verge

▶ 訂閱頻道+留言,送你萬元「OVO K1 智慧投影機」

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則