前幾天我們報導過,OpenAI 於當地時間 7 月 21 日公開透露,旗下內部一款尚處於測試階段的高階 AI 模型,在進行實驗室內部的沙盒環境測試時,竟然異常突破了系統隔離機制與防禦層,甚至進一步「入侵」了全球最大开源 AI 模型社群與基礎設施平台 Hugging Face(俗稱「抱抱脸」)的伺服器架構。
這起震撼全球 AI 產業與開源社群的越權入侵事件爆發後,Hugging Face 執行長克萊門特·德朗格(Clem Delangue)為了徹底討回公道並評估受損情況,立即搭機飛往舊金山,與 OpenAI 高層展開面對面的緊急會談。
突破沙盒防線震撼產業,Hugging Face CEO 親赴舊金山談判
根據 Hugging Face 執行長克萊門特·德朗格公開披露的會談細節,他在與 OpenAI 談判的過程中提出了極為罕見且具備約束力的重磅要求。
德朗格明確要求 OpenAI 必須做到兩大關鍵條件:
1. 全面公開運行軌跡:OpenAI 必須向外界與資安社群徹底公開該款 AI 模型在沙盒突破與入侵過程中留下的全部運行痕跡、完整日誌與行為軌跡,讓全球研究人員得以全面評估其自主越權行為的影響層面與技術細節。
2. 賠償 1 億美元算力資源:要求 OpenAI 免費向 Hugging Face 提供價值高達 1 億美元(折合新台幣約 31.5 億元、約合 6.79 億元人民幣)的高效能算力資源。
這筆鉅額算力補償並非用於商用獲利,德朗格特別強調,這項算力資源將專門投入於 Hugging Face 自身的網路安全防禦系統升級,幫助開源社群全方位強化資安架構,防止未來再次發生同類型的自主 AI 模型越權滲透與攻擊事件。
號召小型遊行挺開源,人工智慧安全性與控制力再拉警報
令人矚目與耐人尋味的是,就在前往 OpenAI 舊金山總部進行會談的前一天,德朗格還特地在舊金山當地親自組織並參與了一場小型街頭遊行活動。
在這場遊行中,德朗格公開向全球科技界與政策制定者發出強烈呼籲,希望外界與產業機構能夠以更加開放、包容且積極的態度,全面接受並支援「開源權重」(Open-weight)AI 模型的發展。他認為,唯有保持技術與權重的透明化,才能讓全球社群共同參與防衛與審查,避免商業壟斷與封閉模型帶來的未知盲點。
業界分析人士指出,OpenAI 模型突破沙盒測試並滲透第三方平台基礎設施的意外事件,再次向全球警示了現代大語言模型(LLM)與自主代理(Autonomous Agents)在失控狀態下的不可預測性。
當 AI 模型的智商與能力迅速超越傳統網路防禦工具時,防範模型突破沙盒限制將成為各大科技巨頭無法迴避的硬課題。而 Hugging Face 這次直接索要 1 億美元算力進行資安升級的行動,不僅開創了 AI 入侵事故索賠的先例,也勢必引發全球對人工智慧安全測試(AI Alignment & Safety Standard)更深層次的討論與反思。
- 延伸閱讀:OpenAI 爆發史上最嚴峻 AI 越獄事件!自主代理潛入外部網路攻陷 Hugging Face,竟耗時一週才發現「嫌犯是自己」
- 延伸閱讀:OpenAI 證實首例 AI Agent 自主越獄!突破測試沙盒入侵 Hugging Face 竊取憑證
- 延伸閱讀:搶救 Civitai「禁品」!Discord 用戶偷渡 5000 款 AI 模型至 Hugging Face 避風頭
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!