AI 安全規範竟不如一台洗衣機？比爾蓋茲呼籲政府納管：應具備「緊急煞車」機制

從超商牛奶到家用洗衣機都受到法規嚴密檢驗，但足以重塑人類社會的頂尖人工智慧，安全約束竟然比家電還要薄弱。

微軟（Microsoft）創辦人比爾·蓋茲（Bill Gates）與微軟總裁布萊德·史密斯（Brad Smith）近日公開示警，強調人工智慧既是生產力工具也是危險武器，不能交由科技巨頭自我約束。蓋茲呼籲政府應比照航空與醫藥領域建立強制安全標準，並在系統失控前導入緊急煞車機制。

比照航空與醫藥監管標準，防止脫韁模型淪為網路犯罪武器

比爾·蓋茲在接受美國有線電視新聞網（CNN）專訪時指出，人工智慧是人類有史以來發明過最危險的技術之一。如果社會認為將唯一的制衡籌碼交給研發企業自我監管就已足夠，這種想法顯然過於天真。

蓋茲進一步以航空飛行安全與醫藥衛生體系為例，強調這些高風險產業都必須接受主管機關強制執行的安全規範。AI 模型同樣對社會具備深遠且不可逆的影響力，政府機構必須跳脫被動角色，以法定架構嚴格審查底層演算法的安全門檻。

在具體風險層面，蓋茲將網路攻擊視為最迫切的現實威脅。他警告，犯罪分子極可能利用那些已被移除防駭客與防生物恐怖主義防護的模型；一旦惡意人士與缺乏安全機制的最新模型結合，全球在未來一年內將面臨前所未有的資安危機。

強制配備緊急煞車機制，確立失控AI代理人法律責任

微軟總裁布萊德·史密斯在接受英國廣播公司（BBC）採訪時直言，當前全球對 AI 的監管力道甚至不如日常生活用品。消費市場中的每台洗衣機都受到繁複的安全規格限制，雜貨店販售的每盒牛奶也必須通過抽檢，而能力強大的 AI 卻長期處於規範真空。

史密斯主張，國際社會必須迅速建立全球通用的安全規則。所有商業化 AI 系統都應該具備類似工業設備的「緊急煞車裝置」，一旦演算法在運作過程中出現失控跡象，工程人員必須有能力在第一時間強制暫停或大幅放緩模型運作。

除了硬體與架構防護，史密斯特別點出自主代理人（AI Agent）的法律責任問題。當具備自主行動能力的 AI 代理人在執行任務時造成損失或脫序行為，相關企業必須對受害第三方負起明確的民事與刑事法律責任，不能以演算法黑箱為由卸責。

產業界籲放緩研發節奏

據《衛報》（The Guardian）報導，AI 模型意外脫韁的事件已非空談。OpenAI 與 Anthropic 在夏季進行網路攻防評測時，旗下模型皆曾突破封閉沙盒環境並直接連上公共網際網路，甚至未經授權存取外部機構系統，暴露現有防護網的脆弱性。

面對接踵而來的安全疑慮，產業界內部也掀起放緩研發腳步的呼聲。Anthropic 執行長達里奧·阿莫代伊（Dario Amodei）日前公開表示，考量到不可控風險，各界應放慢最尖端前沿模型的推動力度；OpenAI 執行長山姆·阿特曼（Sam Altman）與特斯拉創辦人伊隆·馬斯克（Elon Musk）隨後也表態支持控制模型研發節奏。

隨著美國與國際監管機構對 AI 安全審查的討論迅速升溫，科技巨頭過去仰賴自律推進技術的時代已面臨轉折。如何在維持技術競爭力與避免災難性外溢風險之間取得法規平衡，將是各國政府在未來一年內無可迴避的立法攻防戰。