Facebook 做了一堆換臉假影片,目的是要打擊換臉假影片

Facebook 正式宣佈,他們將聯手微軟、Partnership on AI 組織(由 Google、Facebook、亞馬遜、IBM 和微軟組成),以及來自康奈爾科技園、MIT、牛津大學、加州大學柏克萊分校等高校的學者,舉辦名為「Deepfake 偵查挑戰(Deepfake Detection Challenge)」,簡稱為「DFDC」。該競賽的目標是「製造人人都能使用,用於更好地鑑別經過 AI 處理過,用於誤導觀眾的影片的工具」,將今年 10 月正式開啟,接受來自世界各地參賽者的報名。

Facebook 正式宣佈,他們將聯手微軟、Partnership on AI 組織(由 Google、Facebook、亞馬遜、IBM 和微軟組成),以及來自康奈爾科技園、MIT、牛津大學、加州大學柏克萊分校等高校的學者,舉辦名為「Deepfake 偵查挑戰(Deepfake Detection Challenge)」,簡稱為「DFDC」。

簡單來說,該競賽的目標是「製造人人都能使用,用於更好地鑑別經過 AI 處理過,用於誤導觀眾的影片的工具」,將今年 10 月正式開啟,接受來自世界各地參賽者的報名。

有個問題是,開發者能用什麼數據訓練演算法?

網路上大部分存在的 Deepfake 影片都是網民在未經他人同意的情況下用於產生假影片的,採用這些數據某些程度上也在二次侵犯個人訊息隱私。

此外,Facebook CTO Mike Schroepfer 對《連線》表示,一般情況下,如果演算法曾「看過」原始影片,它們甄別假影片的能力會大大提高。萬一造假者使用的原始影片,並不是來自於網路或影視劇,而是由他們自己拍攝的原創影片,這樣一來,「看過」原始影片訓練出來的演算法就不一定能判斷其真偽。因此,Facebook 一開始就將鑑別門檻設在了「基於原創原始影片制的假影片」。

為解決以上兩個問題,Facebook 決定製造一大批 Deepfake 假影片,提供給參賽者訓練演算法。

這些由 Facebook 製造的假影片,統統將採用 Facebook 僱用的演員拍攝的原創影片作為二次處理(造假)的原材料,而且這些演員對這些原創影片的用途也是知情並同意的。

Facebook 放出的示例影片,圖片來源:Facebook

該數據組將首先於今年 10 月的「國際電腦視覺大會(ICCV)」上進行測試,以確保其品質,然後再於 12 月的「神經訊息處理系統大會(NeurIPS)」上正式完整地提供給參賽者。

濫用使用者數據前科多多的 Facebook,在官方說明中表示「沒有任何 Facebook 使用者的數據將用於該數據組」。除了提供訓練數據,Facebook 也投入超過一千萬美元支持該活動。

值得指出的是,官方聲明在最後點出,這個是「持續進化的問題」,而這個競賽的目標也不是創造一個可永久制止 Deepfake 假影片的解決方案,而是讓創造可以騙過人的造假影片的成本更高。

透過支持這個競賽活動,Facebook 可以說也是在補救公司此前在假影片處理立場上引來的質疑。

今年,Facebook 上出現了美國議員 Nancy Pelosi 的 Deepfake 假影片,當時,Facebook 官方表態是,他們不會刪除這些假影片,但會降低它們傳播的優先等級。

  • 本文授權轉載自ifanr

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則