AI「換臉」成人片網上流竄,那些關於開源軟體的黑暗面 近來利用 AI 改造的「換臉色情片」在網路上流竄,Pornhub、Twitter 等各大平台紛紛出手禁止這類影片,同時此一現象也引起不少倫理道德的討論,未來世界是否將變得更加真假難辨?

科技的進展,或許將讓真實變得越來越珍貴,近期有網友在網路論壇 Reddit 發布一款 AI 工具,可以讓所有人輕易將影片中的人物「換臉」製作假影片,許多網友紛紛用這款工具將女明星的臉移花接木到色情片演員身上,包括 Pornhub、Twitter 等各大平台紛紛出手禁止這類影片,同時此一現象也引起不少倫理道德的討論。 

色情換臉影片氾濫,各大平台出手打擊

最近網路上流傳了一批「名人色情影片」,不過這可不是被偷拍或外洩,而是去年12月,有一位在網路論壇 Reddit 上,代號叫「deepfake(深偽)」的用戶利用 AI 軟體,將《神力女超人》(Wonder Woman)主角蓋兒·加朵(Gal Gadot)的臉移花接木到色情片主角身上。

後來,另一位代號叫「deepfakeapp」的用戶,將「deepfake(深偽)」的演算法加以改造推出軟體「FakeApp」,目標是要讓所有沒有技術背景的人,都可以利用深度學習輕易製作出假影片。根據實測,有網友僅花了五小時,就用 FakeApp 成功將潔西卡·艾芭(Jessica Alba)的臉換到 AV 女優身上,甚至將希特勒與阿根廷總統 Mauricio Macri 接合在一起,也絲毫看不出怪異之處。

▲希特勒與阿根廷總統 Mauricio Macri 融為一體,你看出破綻了嗎?

不過,為了遏止「換臉色情片」的歪風,從上星期開始,GIF 平台 Gfycat 已開始移除相關內容,交流平台 Discord 也出手封鎖討論製作換臉色情影片的伺服器。全球最大色情影片平台 Pornhub 表示:「本站不容忍任何非自願的內容,非自願內容直接違反我們的使用條款。該條款禁止復仇色情報復(revenge porn)、深偽,以及任何未經同意或允許上傳的內容。」;Twitter 也表示會阻止這類移花接木內容在平台上傳播。

各大平台紛紛出手打擊,但科技始終來自於人性,而人性正毫不掩飾的代表最赤裸的慾望,移除影片並不能阻擋技術的演進,而未來真實是否也將變得珍貴?

方便卻被濫用,開源軟體的黑暗面

Google 在2015年推出開源軟體庫「TensorFlow」,使得資源不僅免費更變得開放、易得,自此讓機器學習研究的門檻從實驗室帶進了大眾的筆記型電腦中。

不過 TensorFlow 的威力現在 Google 也難易控制,在「FakeApp」出現後不僅是名人可能變色情片主角,身邊好友、同學等一般民眾都將更容易受害。最初「deepfake(深偽)」製作影片所用到的工具,是基於 TensorFlow 和 Keras 等開源軟體,素材則是透過 Google 圖片搜索、公開圖庫取得,共同的特點就是公開開放且免費。

AI「換臉」成人片網上流竄,那些關於開源軟體的黑暗面
▲科技始終來自於人性,而人性正毫不掩飾的代表最赤裸的慾望,Pornhub 表示,將禁止復仇色情報復(revenge porn)、深偽內容。
圖片來源:shutterstock

TensorFlow 是開源軟體,而 FakeApp 則是代表開源軟體的黑暗面,因此 Google 並無法追蹤軟體被下載後的使用用途,任何人都可以下載開源軟體,用來製作搞笑影片或色情片沒人管得著,概念就很像槍械公司把手槍賣出後,消費者要用來自衛或是殺人也都是槍械公司無法控制及負責的。

軟體開源對科技大公司有許多好處,可以驅使更多人使用 AI 創作,內部員工可以做為新產品的靈感來源,外部使用者則可以協助找出產品 bug,AT&T 實驗技術副總裁 Mazin Gilbert 曾說:「機器學習的突破不是演算法,而是開源,開源可以降低大眾進入的門檻。」

假影片將成社群平台最頭痛的事

開源軟體也使 AI 開發中的道德問題變得複雜化,各家科技公司也都試圖找出解方,微軟 AI 副總裁 Harry Shum 曾說:「這其實不容易,我不認為我們現在有簡單的解決方法,但我們在過程中學到的是,當我們在設計機器學習演算法時,會試圖找出盲點。」

將 AI 從開源中移除看似可以解決眼下問題,但作法太過消極,目前許多原始代碼都可以在 Github 這類平台上找到,學者、倫理學家、研究人員可以從這些資源找到問題、提出不同觀點的看法,一般人也可以運用這些資源操作簡單的應用。

AI「換臉」成人片網上流竄,那些關於開源軟體的黑暗面
▲假新聞、假影片,未來的世界將會更加真假難辨,而這將只是剛開始而已。
圖片來源:shutterstock

既然科技始終來自最赤裸的人性,因此不難想像未來這些移花接木的色情片,會流竄到 Facebook、Twitter 這類更加主流的平台上,甚至更多不同目的、企圖的假影片產生也不是不可能,許多人就擔心換臉色情片可能成為「復仇式色情」的性報復工具,甚至助長假新聞的散佈。

該如何運用開源資源完全取自個人心中那把尺,因此核心技術的開發者很難為此負責,而大部分責任可能都將落在用來散布影片、圖片的社群平台上。YouTube 去年才宣布要啟動萬人大軍人工審查影片內容,換臉色情片的氾濫是否會加重平台營運負擔,將是值得觀察重點。

這起事件也讓人想起先前 Facebook 假新聞事件,都是有心人士製作虛假內容在平台上傳播,Facebook 打擊假新聞、Pornhub 打壓假影片,兩相對照之下可以想見的是,未來的世界將會更加真假難辨,而這將只是剛開始而已。

資料來源:QuartzTNBThe Verge

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則