AI「換臉」成人片網上流竄，那些關於開源軟體的黑暗面

科技的進展，或許將讓真實變得越來越珍貴，近期有網友在網路論壇 Reddit 發布一款 AI 工具，可以讓所有人輕易將影片中的人物「換臉」製作假影片，許多網友紛紛用這款工具將女明星的臉移花接木到色情片演員身上，包括 Pornhub、Twitter 等各大平台紛紛出手禁止這類影片，同時此一現象也引起不少倫理道德的討論。 

色情換臉影片氾濫，各大平台出手打擊

最近網路上流傳了一批「名人色情影片」，不過這可不是被偷拍或外洩，而是去年12月，有一位在網路論壇 Reddit 上，代號叫「deepfake（深偽）」的用戶利用 AI 軟體，將《神力女超人》（Wonder Woman）主角蓋兒·加朵（Gal Gadot）的臉移花接木到色情片主角身上。

後來，另一位代號叫「deepfakeapp」的用戶，將「deepfake（深偽）」的演算法加以改造推出軟體「FakeApp」，目標是要讓所有沒有技術背景的人，都可以利用深度學習輕易製作出假影片。根據實測，有網友僅花了五小時，就用 FakeApp 成功將潔西卡·艾芭(Jessica Alba)的臉換到 AV 女優身上，甚至將希特勒與阿根廷總統 Mauricio Macri 接合在一起，也絲毫看不出怪異之處。

不過，為了遏止「換臉色情片」的歪風，從上星期開始，GIF 平台 Gfycat 已開始移除相關內容，交流平台 Discord 也出手封鎖討論製作換臉色情影片的伺服器。全球最大色情影片平台 Pornhub 表示：「本站不容忍任何非自願的內容，非自願內容直接違反我們的使用條款。該條款禁止復仇色情報復（revenge porn）、深偽，以及任何未經同意或允許上傳的內容。」；Twitter 也表示會阻止這類移花接木內容在平台上傳播。

各大平台紛紛出手打擊，但科技始終來自於人性，而人性正毫不掩飾的代表最赤裸的慾望，移除影片並不能阻擋技術的演進，而未來真實是否也將變得珍貴？

方便卻被濫用，開源軟體的黑暗面

Google 在2015年推出開源軟體庫「TensorFlow」，使得資源不僅免費更變得開放、易得，自此讓機器學習研究的門檻從實驗室帶進了大眾的筆記型電腦中。

不過 TensorFlow 的威力現在 Google 也難易控制，在「FakeApp」出現後不僅是名人可能變色情片主角，身邊好友、同學等一般民眾都將更容易受害。最初「deepfake（深偽）」製作影片所用到的工具，是基於 TensorFlow 和 Keras 等開源軟體，素材則是透過 Google 圖片搜索、公開圖庫取得，共同的特點就是公開開放且免費。

圖片來源:shutterstock

TensorFlow 是開源軟體，而 FakeApp 則是代表開源軟體的黑暗面，因此 Google 並無法追蹤軟體被下載後的使用用途，任何人都可以下載開源軟體，用來製作搞笑影片或色情片沒人管得著，概念就很像槍械公司把手槍賣出後，消費者要用來自衛或是殺人也都是槍械公司無法控制及負責的。

軟體開源對科技大公司有許多好處，可以驅使更多人使用 AI 創作，內部員工可以做為新產品的靈感來源，外部使用者則可以協助找出產品 bug，AT&T 實驗技術副總裁 Mazin Gilbert 曾說：「機器學習的突破不是演算法，而是開源，開源可以降低大眾進入的門檻。」

假影片將成社群平台最頭痛的事

開源軟體也使 AI 開發中的道德問題變得複雜化，各家科技公司也都試圖找出解方，微軟 AI 副總裁 Harry Shum 曾說：「這其實不容易，我不認為我們現在有簡單的解決方法，但我們在過程中學到的是，當我們在設計機器學習演算法時，會試圖找出盲點。」

將 AI 從開源中移除看似可以解決眼下問題，但作法太過消極，目前許多原始代碼都可以在 Github 這類平台上找到，學者、倫理學家、研究人員可以從這些資源找到問題、提出不同觀點的看法，一般人也可以運用這些資源操作簡單的應用。

圖片來源:shutterstock

既然科技始終來自最赤裸的人性，因此不難想像未來這些移花接木的色情片，會流竄到 Facebook、Twitter 這類更加主流的平台上，甚至更多不同目的、企圖的假影片產生也不是不可能，許多人就擔心換臉色情片可能成為「復仇式色情」的性報復工具，甚至助長假新聞的散佈。

該如何運用開源資源完全取自個人心中那把尺，因此核心技術的開發者很難為此負責，而大部分責任可能都將落在用來散布影片、圖片的社群平台上。YouTube 去年才宣布要啟動萬人大軍人工審查影片內容，換臉色情片的氾濫是否會加重平台營運負擔，將是值得觀察重點。

這起事件也讓人想起先前 Facebook 假新聞事件，都是有心人士製作虛假內容在平台上傳播，Facebook 打擊假新聞、Pornhub 打壓假影片，兩相對照之下可以想見的是，未來的世界將會更加真假難辨，而這將只是剛開始而已。

資料來源：Quartz、TNB、The Verge

• 本文授權轉載自:bnext(數位時代)