FB 建議貼文

選取貼文複製成功(包含文章連結)!

前 Google 專家深信 AI 會毀滅世界,已經十年沒存過退休金

前 Google 專家深信 AI 會毀滅世界,已經十年沒存過退休金

曾任職於 Google 與微軟的資深人工智慧工程師、現任機器智能研究所(MIRI)執行長蘇亞雷斯(Nate Soares)近日提出震撼業界的極端預警,直言未來十年內強大人工智慧導致人類滅絕的機率「已經超過 50%」。

長期專注於 AI 對齊(Alignment)安全研究的蘇亞雷斯透露,由於深信人類在超級智慧面前極其脆弱,自己甚至已經長達十年停止提撥個人退休儲蓄金;他嚴正呼籲各國政府應立即介入立法,強制叫停前沿通用人工智慧(AGI)的擴展訓練,避免親手打造出足以毀滅人類文明的系統。

超級智慧非恨人類,關鍵在自給自足脫離控制

作為暢銷安全論著《如果有人造出它,所有人都會死》的共同作者,蘇亞雷斯的危機論點並非來自科幻電影中「AI 產生仇恨反撲人類」的擬人化幻想。他指出,超級智能真正的威脅在於「對人類生存的徹底漠不關心」;一旦系統被賦予特定極限目標,而人類試圖切斷電源、施加限制或開發競品,人類便會被其精密的邏輯本能判定為達成目標的絆腳石。

在蘇亞雷斯勾勒的失控路徑中,決定性的危險分水嶺並非 AI 能否主動發動網路攻擊,而是系統能否建立「自給自足」的實體閉環。一旦 AI 具備自主調度電力能源、採購高效能運算晶片與控制自動化實體基礎設施的能力,人類拔插頭的物理制約力將徹底瓦解。

他生動形容,面對智慧遠超人類數倍的對手,人類根本無法在事前預判其會透過何種手段引發災難,但這種絕對維度的代差,本身就是不可承受的博弈。

拒繳退休金體現信念,促全球轉向專項應用研發

為了阻止悲劇上演,蘇亞雷斯主張全球監管機構應當機立斷叫停追求無限制通用的 AGI 訓練軍備競賽,將算力與資金轉向癌症標靶治療、更安全穩固的自駕車視覺等明確造福社會的「窄域垂直應用」。他堅信滅絕並非註定的歷史宿命,最根本的解方從來不是亡羊補牢的對齊修補,而是一開始就不要打造可能具備毀滅能力的未驗證系統。

不過業界觀察家也客觀提醒,蘇亞雷斯長達十年拒繳退休金的極端行徑,純粹是他個人對生存風險的極端評估與哲學信仰,並非科學界或全體 AI 研究同儕的普遍共識。這項言論的真正價值,在於替持續狂飆的晶片競賽敲響警鐘,迫使科技巨頭在商業變現的狂歡中,嚴肅正視失控風險的物理邊界。

 

 

 

KKJ
作者

快科技成立於1998年,是驅動之家旗下科技媒體業務,中國極具影響力的泛科技領域媒體平台之一。

發表回應
謹慎發言,尊重彼此。按此展開留言規則