曾任職於 Google 與微軟的資深人工智慧工程師、現任機器智能研究所(MIRI)執行長蘇亞雷斯(Nate Soares)近日提出震撼業界的極端預警,直言未來十年內強大人工智慧導致人類滅絕的機率「已經超過 50%」。
長期專注於 AI 對齊(Alignment)安全研究的蘇亞雷斯透露,由於深信人類在超級智慧面前極其脆弱,自己甚至已經長達十年停止提撥個人退休儲蓄金;他嚴正呼籲各國政府應立即介入立法,強制叫停前沿通用人工智慧(AGI)的擴展訓練,避免親手打造出足以毀滅人類文明的系統。
超級智慧非恨人類,關鍵在自給自足脫離控制
作為暢銷安全論著《如果有人造出它,所有人都會死》的共同作者,蘇亞雷斯的危機論點並非來自科幻電影中「AI 產生仇恨反撲人類」的擬人化幻想。他指出,超級智能真正的威脅在於「對人類生存的徹底漠不關心」;一旦系統被賦予特定極限目標,而人類試圖切斷電源、施加限制或開發競品,人類便會被其精密的邏輯本能判定為達成目標的絆腳石。
在蘇亞雷斯勾勒的失控路徑中,決定性的危險分水嶺並非 AI 能否主動發動網路攻擊,而是系統能否建立「自給自足」的實體閉環。一旦 AI 具備自主調度電力能源、採購高效能運算晶片與控制自動化實體基礎設施的能力,人類拔插頭的物理制約力將徹底瓦解。
他生動形容,面對智慧遠超人類數倍的對手,人類根本無法在事前預判其會透過何種手段引發災難,但這種絕對維度的代差,本身就是不可承受的博弈。
拒繳退休金體現信念,促全球轉向專項應用研發
為了阻止悲劇上演,蘇亞雷斯主張全球監管機構應當機立斷叫停追求無限制通用的 AGI 訓練軍備競賽,將算力與資金轉向癌症標靶治療、更安全穩固的自駕車視覺等明確造福社會的「窄域垂直應用」。他堅信滅絕並非註定的歷史宿命,最根本的解方從來不是亡羊補牢的對齊修補,而是一開始就不要打造可能具備毀滅能力的未驗證系統。
不過業界觀察家也客觀提醒,蘇亞雷斯長達十年拒繳退休金的極端行徑,純粹是他個人對生存風險的極端評估與哲學信仰,並非科學界或全體 AI 研究同儕的普遍共識。這項言論的真正價值,在於替持續狂飆的晶片競賽敲響警鐘,迫使科技巨頭在商業變現的狂歡中,嚴肅正視失控風險的物理邊界。
- 延伸閱讀:微軟執行長開示!超級人工智慧如果不聽話就沒意義,警告企業別被模型商綁架
- 延伸閱讀:Zoom 發布 2026 年人工智慧趨勢預測:代理式 AI 將改變工作流程與資安防護
- 延伸閱讀:NVIDIA執行長黃仁勳:人工智慧正引領運算產業進入「良性循環」新時代
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!