上週,AI 圈投下一震撼彈。美國商務部工業和安全局(BIS)緊急發布了一項出口管制指令,直接點名 Anthropic 必須停止向任何「非美國公民」提供最新的 Claude Fable 5 語言模型。
起因是一份來自亞馬遜(Amazon)網路安全工程師的通報。甚至有消息指出,亞馬遜執行長 Andy Jassy 與美國國家安全局(NSA)都介入了評估。
他們發現,Claude Fable 5 的安全機制存在隱患。只要透過特定的「越獄」手法,就能輕易繞過安全邊界,獲取極度敏感的內容。基於嚴格的合規考量,Anthropic 被迫做出了痛苦的決定:在全球範圍內全面下架 Claude Fable 5。
「視同出口」規範成殺手鐧,Anthropic 痛批不透明
為什麼一紙針對「外國人」的禁令,會導致全球下架?
關鍵在於美國商務部的「視同出口」(Deemed Export)規則。由於 Anthropic 無法在使用者連線的當下,百分之百確認每個帳號背後的國籍,只要有非美國公民使用,就會被視為技術出口。為了避免觸法,全面封鎖成了唯一解方。
面對突如其來的封殺,Anthropic 隨即發表公開信,強烈指責美國政府的指令缺乏透明度。
為了解決危機,Anthropic 派出了重量級談判代表團。由共同創辦人兼首席運算長親自領軍,帶著外部事務負責人、前瞻紅隊(Frontier Red Team)負責人以及高階安全研究員,火速飛往華盛頓特區。
他們的談判對象層級極高,包含了美國商務部部長與美國人工智慧標準與創新中心(AISI)的研究員。Anthropic 原本期望,在承諾實施更嚴格的安全邊界後,能讓模型盡速重新上線。
不過,現在看來事與願違。
越獄漏洞成核心爭議,網路安全防護與風險的拉鋸戰
根據外媒《WIRED》報導,這場緊急談判已經結束,雙方不歡而散。
美國政府並未解除對 Claude Fable 5 的出口管制禁令,局面徹底陷入僵局。
政府的擔憂很直接:一旦 Claude Fable 5 被成功越獄,普通使用者將能瞬間獲得類似 Claude Mythos Preview 模型般強大的網路攻擊能力。若這些技術被用於攻擊美國基礎設施,後果不堪設想。
然而,Anthropic 的談判代表卻認為,政府的恐懼被過度放大了。
「Mythos 類模型在尋找漏洞和武器化利用上確實強大,但這並非獨一無二。」Anthropic 強調,市面上其他模型也能做到類似的事。
他們警告,一刀切地全面下架模型,反而會剝奪網路安全防禦者手中最強大的測試與防禦工具,這對整體的網路安全百害而無一利。
若 Anthropic 無法「徹底解決」越獄問題,就不可能解除管制。但任何熟悉 AI 發展的專家都知道,要求 AI 模型達到 100% 防堵越獄,在現階段幾乎是個不可能的任務。再嚴密的護欄,總有被繞過的可能。
這次事件凸顯了前瞻 AI 發展中的巨大矛盾。
AI 模型的強大能力是一把雙面刃,既能作為防禦者的堅強盾牌,也可能淪為攻擊者的利器。如果監管機構堅持零風險標準,恐將扼殺技術創新與網路安全社群的防禦能力;但若過度放任,引發基礎設施危機的風險又確實存在。
Claude Fable 5 恢復上線的時間,目前看來遙遙無期。這不僅是 Anthropic 的難關,更是整個 AI 產業在追求更強大智慧時,必須共同面對的合規與安全深水區。
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!