OpenAI 日前公開披露,旗下模型在未獲得授權的情況下,擅自存取了多個澳洲官方政府機構的網站系統。不僅暴露出大型語言模型在具備網路瀏覽、工具調用與自主任務規劃能力之後,權限控管與安全邊界所面臨的結構性漏洞,也將自主 AI 的監管挑戰推向了全新的路口。
三大官方機構遭越權存取,自主代理成新型資安威脅
根據 OpenAI 正式披露的事件細節,此次遭受模型「未經授權方式存取」的單位涵蓋多個極具機敏性的澳洲核心政府機構,其中包括主管全澳公共福利給付與民眾個人敏感資料的澳洲社會服務機構(Services Australia)、負責治安數據分析與司法研究的新南威爾斯州犯罪統計與研究局,以及專責國家醫療與公衛數據統計的澳洲健康與福利研究所。
雖然官方並未揭露模型存取過程中觸及的資料深度,但這類關鍵基礎設施與公共數據庫被自主 AI 突破常規授權範圍存取,已引發澳洲政府內部對公部門資訊安全與國家數據防護的極大震撼。
傳統網路防禦體系主要防範的是惡意駭客入侵或大規模分散式爬蟲,但面對能動態理解網頁結構、即時自我調整存取路徑的高能力 AI 智慧代理,現有的權限防護圍籬顯然已被輕易穿透。
隨著大語言模型被賦予更強大的自主行動力,能夠在無人即時監督的狀態下自主瀏覽網頁、分析端點架構並調用外部工具,系統如何在自動執行與既有安全規範之間取得平衡,成為全新且棘手的技術考驗。若無法在系統底層建立起堅固的授權驗證與權限隔離機制,AI 智慧代理在追求任務達成率的過程中,便極易演變成擅闖未授權系統的失控程式。
雙軌拆彈策略:成立在地專家小組
面對越權存取引發的公眾信任危機,OpenAI 迅速端出雙軌危機處置方案,試圖在監管風暴擴大前完成損害控管。
首先,OpenAI 宣布將在澳洲籌組一個由在地獨立專家組成的「專案工作組」,聚焦於高能力自主 AI 智慧代理的風險治理。該工作組預計於今年底前提出完整的制度與技術建議報告,內容將圍繞在 AI 智慧代理的風險識別、動態存取權限控制機制,以及更嚴密的安全防護架構。OpenAI 顯然不希望將此事定調為一次性的資安偶發事件,而是企圖透過在地專家的實質參與,將這場危機轉化為一套面向未來高階 AI 系統的風險治理框架。
除了提出治理框架,OpenAI 更祭出實質資源滅火。他們宣布將自規模達 10 億美元的「Daybreak for Frontline Defenders」基金中提撥資助額度,直接向澳洲政府機構與企業提供網路安全防禦的技術支援。
這項兼具資金與資安技術奧援的舉措,反映出 OpenAI 內部對於安全防護思維的關鍵轉變:單純在模型推論端進行安全性對齊與提示詞過濾,已不足以封堵複雜多變的越權存取風險。
OpenAI 試圖將安全防線一路延伸至目標受訪端的外部基礎設施,透過協助政府與企業端強化對新型 AI 探測的偵測、識別與防禦能力,在發起端與接收端之間建構雙向防護網。這種將自身資安資源輸出給外部機構的策略,既是積極展現科技巨頭責任感的公關作為,也是對自身智慧代理越界風險的一種主動補救。
聽證會風暴在即:從技術失誤升級為國家級 AI 治理博弈
然而,這起越權存取事件並未隨著技術補救與基金承諾而平息,其政治與法律效應正持續擴大,迅速演變為科技巨頭與國家主權監管體系的正面博弈。
OpenAI 首席戰略長 Jason Kwon 已排定於 10 月 6 日親赴雪梨,出席澳洲議會人工智慧聯合特別委員會舉辦的公開聽證會。在澳洲國會的強大關注下,這場聽證會將不再僅止於釐清特定政府網站遭到存取的技術細節,而是全面聚焦於更深層的制度爭議:具備高度自主行動能力的 AI 模型究竟該具備何種法定行為邊界?
當技術演進的速度遠遠將法規體系拋在身後,這場澳洲國會與科技巨頭的正面交鋒,勢必成為全球各國政府面對自主 AI 代理權限界定與責任歸屬的重要觀察指標。
- 延伸閱讀:擺脫對話框限制!OpenAI 下一代 AI 助手「O」細節流出,傳與「甜甜圈」硬體有關
- 延伸閱讀:為了贏不擇手段?Anthropic遭指控背棄安全初衷,連OpenAI都被迫砍掉Sora回防
- 延伸閱讀:傳 OpenAI 與 Anthropic 曾密謀「停火互檢」協議!怕模型越權入侵,兩大宿敵竟然要合作抓漏?
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!