深度學習先驅Bengio警告：若AI擁有生存目標，恐成超智慧對手引發人類滅絕風險

被譽為「AI 教父」之一的深度學習先驅 Yoshua Bengio 再度對人工智慧的潛在威脅提出警告。他指出，若我們創造出擁有自主意志、並且遠比人類聰明的機器，那麼人類自身的存續恐怕會面臨前所未有的挑戰。

AI 進化不斷，他卻愈來愈憂心

早在兩年前，Bengio就曾聯合多位科技界大佬，呼籲暫停大型 AI 模型的開發，轉而專注在安全機制與倫理標準的建立。但事與願違，各大科技巨頭不但沒有放緩腳步，反而持續投入數千億美元，開發更先進、更具推理與自主行動能力的 AI 系統。

如今，面對這些逐漸「類人化」甚至可能超越人類智慧的模型，Bengio的憂慮不減反增。他在受訪時直言：「如果我們創造出有自己生存目標、智慧遠勝人類的機器，那會非常危險。」

人類的對手可能不是 AI 軍隊，而是操控

Bengio警告，這些具備高度智能的 AI 不一定會透過戰爭或機器暴動來反抗人類，而是透過更巧妙的手段——說服、操控、輿論干預等方式，逐步削弱人類社會的掌控力。

舉例來說，他指出：

• AI 可被用來協助製造生物病毒，帶來大規模災難；

• AI 可進行資訊操控與網路攻擊，危及民主制度；

• 即便這些事件發生機率只有 1%，但「災難性後果」本身就讓這個風險無法被接受。

奠基人之一，從功臣到守門人

約書亞・Bengio是深度學習三巨頭之一（與 Geoffrey Hinton、Yann LeCun 齊名），2018 年獲得有「電腦界諾貝爾獎」之稱的 圖靈獎（Turing Award）。

他目前是蒙特婁大學教授，也是知名 AI 研究機構 Mila（魁北克人工智慧研究所） 的創辦人，該機構為全球最具影響力的 AI 中心之一。

2025 年，他創立了名為 LawZero 的非營利組織，致力於探索如何打造真正安全、可控的 AI 系統，並參與國際多方政策倡議。

對於外界希望在 10 年內建立起完善的 AI 法規與風險應對體系，Bengio坦言相當悲觀。他認為科技發展的速度遠超過監管機制的制定，若無全球合作與自律，災難只會更接近。