AI改圖很厲害?Google旗下公司推出用 AI 識別圖片是否造假的免費工具Assembler

在這個謠言鋪天蓋地的時代,新聞可以是假的,圖片造假也並非難事。不過,既然技術可以成為造假者的幫凶,反過來也能在識別照片真假時發揮作用。Google 旗下的技術公司 Jigsaw(原 Google Ideas)發佈了一款免費工具,聲稱可以幫助媒體從業人員識別被動過手腳的圖片,連AI製造的圖片也難逃其法眼。

這款神器名為 Assembler,具有 7 個檢測器(detectors),其中 5 個由美國和意大利的大學研究團隊開發,分別負責檢測經不同類型的技術處理過的照片,例如合成、擦除等,這些操作都可能留下蛛絲馬跡,透過學習過大量案例的程式,可以在分析圖像後標記出它認為的更改痕跡,如顏色模式異常、已經複製和粘貼多次的區域,以及是否圖像使用了多個鏡頭模型來創建等。

假圖氾濫,Google 出了一款圖片打假工具

▲ 圖片來自:Jigsaw

另外兩個檢測器則由 Jigsaw 自己的團隊開發,其中一個旨在識別「deepfake」,也就是這兩年引起熱議的「AI 換臉」,該檢測器使用機器學習區分真人圖像和 StyleGAN 技術生成的 deepfake。

據 Jigsaw 產品經理表示,Assembler 可能會對經常收到大量醜聞照片並面臨核實壓力的新聞機構「最有幫助」,還可用於驗證已經在網路上大規模傳播的圖像的真實性。

Assembler 雖然免費,但目前只開放給各大事實查證組織中測試,準確性到底如何我們暫時無從得知。

隨 Assembler 一同發佈的還有一個互動平台,展示了過去十年裡來自世界各地的虛假宣傳活動,合作方大西洋理事會的數字取證研究實驗室表示希望通過這一項目制定分類法,幫助其他媒體和機構研究虛假信息。

不過,也有一些觀點認為,讓商業公司定義信息的真假難以讓人信服,換而言之,演算法不僅要決定你能看到什麼,今後還想告訴你它認為的真相。

 

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則