舊金山將使用AI技術編輯警方報告,以減少在控告嫌疑人時可能出現的種族偏見

日前,舊金山宣佈了一個「消除偏見的工具」,該工具透過使用基礎AI技術自動編輯校對警方報告中的訊息進而辨識出嫌疑人的種族。這麼做則是為了防止檢察官在決定某人是否被控犯罪時受到種族偏見的影響。

據悉,該套工具計畫在7月1日投入使用。

據舊金山地區檢察官辦公室介紹稱,該工具不僅可以刪掉種族描述,還可以刪掉眼睛、顏色和頭髮顏色等描述。那些可能有意或無意地向檢察官透露嫌疑人有某種種族背景的人名、地點和社區也會被刪掉。

舊金山地區檢察官George Gascón在今天的新聞發佈會上說道:「看看這個國家被監禁的人,有色人種的男女比例將不成比例。」他指出,當看到像Hernandez這樣的名字時,檢察官立即就會知道這個人是拉丁美洲裔,而這可能會影響結果。

另外,這套工具還會刪掉警察的詳細訊息,這樣做則是為了防止檢察官看出是自己認識的人,進而可能影響他們的判斷。

據瞭解,這套工具由Alex Chohlas-Wood和來自史丹佛運算政策實驗室的團隊共同開發,他們之前還曾幫助紐約警察局開發過可以自動搜尋案件文件已發現犯罪模式的Patternizr系統。Wood指出,新工具只是一個輕量級的web應用程式,其使用數種演算法自動編輯警察報告,另外還會透過使用電腦視覺功能辨識報告中的單詞並將其替換為一般用語。

Wood表示,目前這個工具已經進入了最後開發階段,它將在未來幾週開放原始碼。據其介紹,工具使用了一種名為命名實體辨識(name -entity recognition)的特殊技術。

至於這個新工具是否真的有幫助則還有待觀察,畢竟現在AI更出名的好像是引入偏見而不是消除偏見。

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則