DeepFake威脅加劇,女性更易成為受害目標

儘管人們對利用DeepFake來操縱選舉、在世界各國製造混亂的做法高度關注,但其中絕大多數人實際上更為幼稚,他們會將女性名人的面孔映射到色情明星的身體上,任何熟悉網際網路歷史的人都不會對此感到驚訝。

在最近關於全身DeepFake的報導中,一家名為Deep Trace Labs的公司表明他們對合成媒體領域已開展廣泛研究,這家位於阿姆斯特丹的公司過往專注於AI操控內容。今天,該公司發佈了一份備受期待的報告《DeepFake現狀:前景、威脅和影響》,他們在報告中探討了在網站、論壇和行動APP中普遍存在的DeepFake。

正如Deep Trace Labs的Giorgio Patrini所解釋的,這項研究始於該公司2017年成立之時,包括對網站、論壇和服務的全面檢查。研究人員梳理了論壇和DeepFake社群的帖子,找到晦澀和不太受到關注的元素,以全面瞭解DeepFake對現狀的威脅。Deep Trace通過其內部開發的公共API和特別工具從這些網站、渠道、論壇和社群收集數據。它還可以查看網站或YouTube頻道,在這些網站或頻道中,並非所有內容都可能來自DeepFake。

Deep Trace發現,目前網上有14678個DeepFake影片,其中96%是色情影片,並且大部分都是著名女演員的臉,被轉移到色情明星的身體上。事實上,大多數DeepFake的目標是女性,而大多數非色情的目標是男性。YouTube上超過90%的DeepFake影片都來自西方世界,從女演員、音樂家到政客和企業界人士。但Patrini強調,這不僅僅是一種僅限於西方的現象。

「在DeepFake色情網站上,近三分之一的影片中出現了非西方題材,其中韓國流行歌手占了目標對象的四分之一,」Patrini說道。「這表明,DeepFake色情是一種日益全球化的現象。」

「我們的數據顯示,大多數實際上仍然是演員,但也有少數企業和政治領導人,」Patrini說道。「我認為這可以歸因於與非色情DeepFake相關的生命力機制。」創造者主要是業餘愛好者,他們試圖創造高品質的DeepFake成果。選擇知名人物,如馬斯克、川普或者尼可拉斯·凱吉,意味著你的「DeepFake」成果更容易被人看到,同時也增加了喜劇元素。

據介紹,在過去幾年裡,關於生成性對抗網路(GANs)的論文數量激增,生成性對抗網路是兩種神經網路,一種是合成器或產生器,另一種是檢測器,可以生成DeepFake的圖像或影片,然後在回饋環中仔細檢查品質,直到最終產品令人信服地得到改進。生成性對抗網路絕不是DeepFake的幕後黑手,但Patrini表示,它們無疑是「由深度學習驅動的最流行和最有效的生成方法」。

Deep Trace的研究表明,生成性對抗網路發文量的顯著增長,只能間接地表明這兩種現象具有相關性。Deep Trace無法在更多的生成性對抗網路研究和DeepFake的增加之間,建立起直接的因果關係。

「不僅僅是具有博士學位的研究人員,更多的人都能夠試驗並提出新的演算法變體,而且我們可以透過論文的增長來間接衡量這一點,」Patrini表示。「發表更多的實驗成果並將其擴展到新的應用表明,這些想法有可能被轉化為可重用程式碼和更可靠、更高效的工具,來供非專家使用。」

Deep Trace還指出,DeepFake創作社群正在增長。Github、4chan、8chan和其他基於論壇的網站都共享開源的DeepFake程式碼。

「我們在報告中指出的一個關鍵點是,與其他社群相比,某些社群的動機和活動非常不同,」Patrini表示。「如果我們只看負面新聞,很明顯,一些社群和論壇主要集中在使用DeepFake的創作工具,來製作那些非自願的DeepFake色情作品。」

Patrini認為,其中一些社群以提供非法或邊緣化的內容而聞名,這方面以4chan和8chan為代表。在這些平台上,DeepFake創作工具的商品化,可能會導致該技術繼續產出有害和惡意的使用案例,例如網路欺凌或政治宣傳。

但Patrini很快注意到,其他平台上也都有愛好者和一些個體,在YouTube上專注DeepFake的部落客更符合他們的興趣。比如部落客Ctrl Shift Face,他曾將湯姆·克魯斯和艾爾·帕西諾的臉變成了喜劇演員和印象派比爾·哈德的臉。

Patrini認為:「我不會說這些用途具有明確的正面作用,但從表面上看,它們肯定不是惡意的。」此外,由於DeepFake不只是發生在西方的現象,Deep Trace認為,這需要全球採取行動,打擊惡意使用。

「從已經出現的各種工具和網站的數量可以看出,DeepFake對企業來說具有巨大的商機,」Patrini指出,這有助於這些工具的商品化和日益普及。「僅僅是DeepFake的想法就足以動搖政治進程。」

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則