用AI揪出「戰爭假畫面」!以巴戰爭從加薩打到網路,新創Clarity如何協助媒體戰?

用AI揪出「戰爭假畫面」!以巴戰爭從加薩打到網路,新創Clarity如何協助媒體戰?

2023年10月7日,特拉維夫清晨時分響起了空襲警報,新創公司Clarity創辦人麥克.馬蒂爾斯(Michael Matias)從床上驚醒,並從手機上得知哈瑪斯對以色列發布恐怖攻擊,劫持了上百名人質,而且案發地點距離他家只有1小時車程之遙。

震驚之餘,他也立刻意識到自己的公司將擔起重責大任,Clarity是辨別競選期間Deepfakes造假的AI新創。就如他所想,這場戰事不只依靠現實中的彈藥與火力,網路上各種真真假假的「第一線畫面」成為了媒體戰的最好材料。

隨著科技進步,AI生成的內容愈來愈難以分辨。無論是誰,在任何地方都能輕易取得強大的AI技術,大量生成虛假訊息,甚至是肉眼難辨真偽的圖片和影像,馬蒂爾斯成立Clarity就是想解決這樣的問題。當加薩走廊的各種資訊在網路上流竄時,便有國際媒體組織請Clarity剔除Deepfakes的內容,他們也和以色列情報單位合作,協助辨別哪些戰場影像是假的。

Clarity的作法並不是直接證明內容真偽,而是利用AI技術找出影片中是否有AI動刀的痕跡,例如10月7日真主黨領導人譴責的一部襲擊影片,便被他們發現是偽造的。

用AI揪出「戰爭假畫面」!以巴戰爭從加薩打到網路,新創Clarity如何協助媒體戰?

「這是一場AI與AI之間的戰爭。」馬蒂爾斯表示。不過一些解析度較差的影片,仍然需要人類協助判斷。

現在從企業到政府都開始加強相關的防護措施,Meta就要求競選內容必須註明是否由AI生成,而Google則要求提供圖片來源等資料;於英國舉辦的AI峰會上,28個國家的官員都同意應採取措施辨別AI造假。

本文轉載自:數位時代

數位時代
作者

《數位時代》,關注國內外網路創業生態,精選全球科技業的重要趨勢、創新模式和最新動態,並有記者第一現場的報導,以及各類社群活動消息。希望能協助讀者早一步領略趨勢脈動、領先掌握下一步行動的競爭優勢。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則