「你是誰?」議員與「俄羅斯反對派成員」Zoom視訊結束後,才驚覺對方可能是Deepfake

「你是誰?」議員與「俄羅斯反對派成員」Zoom視訊結束後,才驚覺對方可能是Deepfake

ADVERTISEMENT

最近,一些歐洲資深議員都傻眼了。

他們收到了一些「俄羅斯反對派成員」的視訊會議邀請,還煞有其事地討論了克里米亞問題之類的政治事務,結果發現在這些所謂的「俄羅斯反對派成員」都是別人用Deepfake換臉假冒的。

這些受騙者包括拉脫維亞議會外交事務委員會主席Rihards Kols,以及來自愛沙尼亞和立陶宛的議員。英國外交事務特別委員會主席Tom Tugendhat也表示,他也是目標之一。

Deepfake真是出息了,終於從娛樂圈玩到國際政治了。

聊完發現被騙,拉脫維亞議會外事委主席發推文吐槽

本月早些時候,有一個自稱是沃爾科夫的人透過電子郵件聯絡了拉脫維亞議會外事委主席Rihards Kols,並與他進行了一個簡短的視訊會議,討論了對俄羅斯政治和克里米亞問題。

Rihards Kols說,直到後來他才意識到自己可能是一個高科技惡作劇的受害者。

Rihards Kols在推特中放出了兩張照片,左邊是真正的俄羅斯反對派成員Leonid Volkov,右側是視訊會議中用Deepfake產生的Leonid Volkov。

 「這是一個非常痛苦的教訓,但也許我們也應該感謝這位假造的Volkov,感謝他給我們、立陶宛同事和愛沙尼亞同事上了這堂課,」他寫道。「顯然,所謂的真相衰退或後真相和後事實時代有可能嚴重威脅地方和國際國家、政府和社會的安全與穩定。」

被別人假冒的Volkov自然很生氣,他也在推特上指責經常以西方官員為目標的俄羅斯惡作劇「高人」二人組弗拉基米爾‧庫茲涅佐夫(沃萬)和阿列克謝‧斯托利亞羅夫(雷克薩斯)是這件事的幕後推手。

曾經惡搞過多國政要的弗拉基米爾‧庫茲涅佐夫(沃萬)和阿列克謝‧斯托利亞羅夫(雷克薩斯) 

阿列克謝 ‧ 斯托利亞羅夫(雷克薩斯)在 Facebook 上聯絡到Rihards Kols,他沒有否認與Rihards Kols通過話,說他會「保守這個祕密」。他否認使用Deepfake使自己看起來像Volkov,他寫道: 「很可能Volkov收到了錯誤的訊息。」

換臉背後的技術支撐——Deepfake

從北京衛視把「吳秀波」的臉換掉,到迅速隕落的換臉App Zao,再到現在在國際政治上「攪渾水」,這背後的技術Deepfake早已在AI圈家喻戶曉。

Deepfake是一種使用AI深度學習,能夠將一張圖片中人的臉換到其他人的圖片上的技術。透過這種技術,我們可以創造一個非常逼真的「假」影片或圖片,「換臉」因此得名。

研究人員使用自動編碼器神經結構,使這一想法成為現實。基本思路非常簡單:對於每張臉,我們都訓練一套編碼器和相應的解碼神經網路。編碼時,使用的是第一個人的圖片。而解碼時,卻是使用第二個人解碼器。

「你是誰?」議員與「俄羅斯反對派成員」Zoom視訊結束後,才驚覺對方可能是Deepfake對於訓練部分,需要蒐集每個人幾百張不同姿勢的圖片,用明星來做訓練很容易,畢竟有大量的網路公開圖片影片。圖片不足時,我們還可以從現有影片中提取。在神經網路訓練並學習了關於每個人面部的特徵之後,它自己就能預測想出這個人還沒擺出來的姿勢。

例如,訓練產生John Oliver。

「你是誰?」議員與「俄羅斯反對派成員」Zoom視訊結束後,才驚覺對方可能是Deepfake

在這個技術出現之前,人們想換個臉只能依賴手動PhotoShop。這就要花費很多人工和時間,而且想在影片裡換個臉更難,每一幅都得換。

但自從這個叫做「Deepfake」的軟體被匿名開源發佈,一切都不一樣了。

類似的換臉軟體還有一款叫做DeepFaceLab。

「你是誰?」議員與「俄羅斯反對派成員」Zoom視訊結束後,才驚覺對方可能是Deepfake

在Github上有開源

DeepFaceLab 

 

Deepfake攪動政壇,技術才是最後一道防線?

2019年,美國眾議院議長Nancy Pelosi的一段深度偽造的談話影片出現在社群媒體上,這段影片經由川普總統分享,在Facebook上獲得了超過250萬次的瀏覽量。

早些的時候,歐巴馬的臉被「借用」來攻擊川普,該影片在網站上也有480萬的瀏覽量。

川普本人也難逃一劫,西雅圖電視網曾播放過一段Deepfake的川普演講影片,影片中川普滿臉通紅,還不時做一些滑稽的表情。由於Deepfake技術可以運用在包括總統在內的任何官員身上,美國兩黨開始擔心該技術將成為針對美國和其他西方國家發起假訊息戰爭的最新武器。

2019年6月13日,美國眾議院情報委員會召開關於人工智慧Deepfake的聽證會,公開談論了Deepfake技術對國家、社會和個人的風險及防範和應對措施。

法律法規只能把正規企業的技術關進籠子,但是很難阻止個人的行為。例如這次假冒「俄羅斯反對派成員」騙過了一幫歐洲資深議員的人,到現在都沒有人宣佈為此事負責,人們也不知道這次事件背後究竟是誰主導。

能夠打敗魔法的也許還是魔法,能不能用技術手段檢測Deepfake呢?答案是可以的。

就在Deepfake開源不久,Facebook首席技術長Mike Schroepfer就發部落格宣佈,公司正和微軟聯合來自麻省理工、牛津等大學的研究者,透過舉辦「Deepfakes鑑別挑戰賽」,探索如何透過資料集和基準測試檢測Deepfake換臉影片。

美國國防部也研究了一項名為forensic的圖像鑑定技術。他們的想法是尋找圖片和影片中的不一致性,例如不一致的燈光、陰影和相機噪音。

加州大學河濱分校的學者也提出了檢測Deepfake偽造圖像的新演算法。同樣的,演算法的一個組成部分是各種「循環神經網路」,它能將有問題的圖像分割成小塊,然後逐像素觀察這些小塊。神經網路經過訓練可以檢測出數千幅Deepfake圖像,它找到了贗品在單像素水準上的一些特質。

RealAI團隊也宣稱,由於Deepfake產生的造假影片畫面會有不「自然」的紋理存在,他們透過巨量影片訓練神經網路,讓其學習正常情況中的紋理特徵,再以此檢測造假影片中不一致的紋理。利用該技術,可以對造假影片做到逐格的檢測,準確率高達90%以上。

不過,這次歐洲議員和假冒的「俄羅斯反對派」人物視訊會議發生在Zoom上,顯然,Zoom還沒有搭載線上檢測Deepfake的技術手段。

bigdatadigest
作者

大數據文摘(bigdatadigest)成立於2013年7月,專注數據領域資訊、案例、技術,在多家具有影響力的網站、雜誌設有專欄,致力於打造精準數據分析社群。

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則