用AI揪出「戰爭假畫面」！以巴戰爭從加薩打到網路，新創Clarity如何協助媒體戰？

2023年10月7日，特拉維夫清晨時分響起了空襲警報，新創公司Clarity創辦人麥克．馬蒂爾斯（Michael Matias）從床上驚醒，並從手機上得知哈瑪斯對以色列發布恐怖攻擊，劫持了上百名人質，而且案發地點距離他家只有1小時車程之遙。

震驚之餘，他也立刻意識到自己的公司將擔起重責大任，Clarity是辨別競選期間Deepfakes造假的AI新創。就如他所想，這場戰事不只依靠現實中的彈藥與火力，網路上各種真真假假的「第一線畫面」成為了媒體戰的最好材料。

隨著科技進步，AI生成的內容愈來愈難以分辨。無論是誰，在任何地方都能輕易取得強大的AI技術，大量生成虛假訊息，甚至是肉眼難辨真偽的圖片和影像，馬蒂爾斯成立Clarity就是想解決這樣的問題。當加薩走廊的各種資訊在網路上流竄時，便有國際媒體組織請Clarity剔除Deepfakes的內容，他們也和以色列情報單位合作，協助辨別哪些戰場影像是假的。

Clarity的作法並不是直接證明內容真偽，而是利用AI技術找出影片中是否有AI動刀的痕跡，例如10月7日真主黨領導人譴責的一部襲擊影片，便被他們發現是偽造的。

「這是一場AI與AI之間的戰爭。」馬蒂爾斯表示。不過一些解析度較差的影片，仍然需要人類協助判斷。

現在從企業到政府都開始加強相關的防護措施，Meta就要求競選內容必須註明是否由AI生成，而Google則要求提供圖片來源等資料；於英國舉辦的AI峰會上，28個國家的官員都同意應採取措施辨別AI造假。

本文轉載自：數位時代