FB 建議貼文

選取貼文複製成功(包含文章連結)!

AI合成臉比真人更真!你還敢相信自己的眼睛嗎?過度自信恐釀資安破口

AI合成臉比真人更真!你還敢相信自己的眼睛嗎?過度自信恐釀資安破口

你能分辨出眼前的人臉是真的,還是 AI 生成的嗎?根據澳洲最新研究顯示,一般民眾已經很難可靠地分辨由人工智慧生成的合成人臉與真實人臉 即便具備卓越辨識能力的「超級辨識者」(Super-recognizers),在面對高逼真度的 AI 臉孔時,優勢也變得微乎其微

研究人員警告,這種技術的突飛猛進將對身分驗證與安全審查構成嚴峻挑戰,更糟糕的是,多數人對自己的識別能力還處於「過度自信」的狀態

AI合成臉比真人更真!你還敢相信自己的眼睛嗎?過度自信恐釀資安破口

新南威爾斯大學與澳洲國立大學聯手:合成臉比真人更「真人」

這項發表在《英國心理學雜誌》(British Journal of Psychology)的研究,由新南威爾斯大學(UNSW Sydney)與澳洲國立大學(ANU)的心理學團隊共同完成 。研究指出,現代生成模型製造出的臉孔,在主觀觀感上甚至比真實照片更具「真實感」

UNSW 研究員 James Dunn 表示,早期的 AI 生成影像常伴隨著扭曲、瑕疵或比例怪異,讓大眾誤以為自己具備一眼看穿假臉的能力 。然而,現在的 AI 臉孔不再因「錯得離譜」而露餡,反而是因為「好得過頭」而難以察覺

ANU 副教授 Amy Dawel 分析,AI 生成的臉孔通常具備高度對稱、比例協調且特徵處於統計上的「平均值」 。這種過於完美的特徵,在人類視覺感官中顯得既討喜又自然,卻也隱藏了身分冒用、社群詐騙與社交工程攻擊的巨大風險

大眾辨識力僅略高於隨機猜測

實驗邀請了 125 名參與者,包含 36 名「超級辨識者」 。結果顯示,一般民眾的正確率僅略高於隨機猜測,而超級辨識者的表現雖較佳,但領先幅度非常有限 。諷刺的是,不論辨識能力高低,所有人對自己的判斷都表現出極高的自信度

AI合成臉比真人更真!你還敢相信自己的眼睛嗎?過度自信恐釀資安破口

研究團隊目前正試圖逆向分析「辨識成功」的線索,希望能協助開發自動化的檢測工具,並提升大眾的辨識策略 。UNSW 也在官網上線了「UNSW Face Test」線上測試,讓一般用戶也能實測自我的辨識極限 。在 AI 技術拉大與人類感知差距的當前,單靠肉眼偵測已顯得力不從心

 

 

janus
作者

PC home雜誌、T客邦產業編輯,曾為多家科技雜誌撰寫專題文章,主要負責作業系統、軟體、電商、資安、A以及大數據、IT領域的取材以及報導,以及軟體相關教學報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則