臉書拒絕刪除假影片,於是網路上出現用Deepfake偽造的祖克伯影片

據CNET報導,圖片分享網站Instagram上出現一段Facebook首席執行長馬克·祖克伯(Mark Zuckerberg)就大數據的觀點發表一段簡短的演講,但事實上,祖克伯從來沒有說過這些話。這段影片是透過「深度偽造」(Deepfake)技術製作的。

影片中的祖克伯稱:「試想一下:一個人完全控制著數十億人被盜的數據,掌握著他們所有的秘密、生活和未來。這都要歸咎於Spectre漏洞。它讓我明白,誰控制了數據,誰就控制了未來。」

事實上,祖克伯從來沒有說過這些話。這段影片是透過「深度偽造」(Deepfake)技術製作的,它利用人工智慧(AI)創建影片,並偽造目標沒有說過的話,這突顯出社群網路在管理受操縱內容方面面臨的挑戰。

祖克伯的這段假影片也可能是對Facebook的一次​​挑戰,此前該公司拒絕刪除美國眾議院議長南希·裴洛西(Nancy Pelosi)的假影片。Facebook宣稱,該公司不會刪除假新聞,但會減少其在網站上的影響力,並顯示來自事實核查人員的訊息。

Instagram發言人稱:「我們將像對待Instagram上所有錯誤訊息一樣對待這些內容。如果第三方事實核查人員將其標記為假影片,我們將從Instagram的推薦頁面(如Explore和hashtag頁面)過濾它。」

事實核查機構Lead Stories稱這段影片為「藝術」,並在一篇文章中表示,將這段影片打上諷刺的標籤,這不會損害影片的傳播。使用者將看到警告標籤,說明它不是真實的。

藝術家比爾·博斯特斯(Bill Poster)、丹尼爾·豪維(Daniel Howe)與Canny廣告公司合作製作了這段影片。他們在Instagram上的文章中稱,這段影片是使用CannyAI的影片對話替代(VDR)技術創建的。

創作者們稱,這段影片使用了祖克伯2017年關於俄羅斯干預美國大選的影片片段。影片的右側有哥倫比亞廣播公司(CBS)標誌,標籤上寫著「祖克伯:我們正在提高廣告透明度。」CBS發言人已經表示,該公司要求Facebook「撤下這一未經授權的假冒CBSN商標」。

Canny公司還曾與博斯特斯合作,製作了唐納·川普(Donald Trump)總統和金·卡戴珊(Kim Kardashian)等人的假影片。祖克伯的假影片是四天前發布的,博斯特斯沒有立即回復置評請求。

這已經不是有關祖克伯的第一個虛假影片了。早在2018年,電影製作人安德魯·歐雷克(Andrew Oleck)就曾在Facebook上發布了一段影片,影片中似乎是祖克伯在說他要刪除社群網路,這讓許多使用者誤以為是真的。

與此同時,美國議員們對在2020年美國總統大選中使用深度造假技術感到擔憂。美國眾議院情報委員會計劃於週四就被操縱媒體和「深度造假」問題舉行聽證會。

使用 Facebook 留言

名明
1.  名明 (發表於 2019年6月20日 21:32)
問題在於社群平台用戶龐大及虛實難辨特性,以致成為不肖用戶散佈假訊息,引發民眾恐懼、仇視及不信任的來源,以及成為擾亂社會秩序及民主機制低成本武器。Deepfake只是讓假訊息變得真實難辨,難以察覺。

所以,還是要回到原有問題:社群平台是否該由政府監管?

照理來說,在民主國家之下,政府不應限縮民眾言論及思想自由。但隨者網路假訊息猖獗,散播不實言論及仇恨訊息已影響民眾理性判斷、思考及決策能力。Deepfake、AI技術圖像及對話軟體問世,徒增辨識及查核方面難度。此外,社群平台用戶龐大及虛實難辨特性,管理機制也是一大問題,如何判定發文及留言內容是否為不實言論及挑撥離間仇恨訊息,即使看起來是一篇新聞報導或發文訊息,如何防範不當檢舉、滲透社群平台管理機制及擔任管理人員,進而放任假訊息大量散佈,也是一項問題。

發表回應

謹慎發言,尊重彼此。按此展開留言規則