據 Axios 當地時間 9 日報導,Anthropic、OpenAI 以及其他人工智慧公司的高層,近期正在私下閉門推演:萬一發生重大災難性 AI 事件,該如何面對公眾與政界的強烈抗議與抵制浪潮。
他們最怕的劇本,是基礎設施等級的網路攻擊
這些高層預期,未來很可能發生一場大規模事件——極有可能是某種等級的網路攻擊,導致金融服務、網際網路通訊,甚至水電供應等基礎設施大面積癱瘓。
重點不在事件本身,而在事件之後。一旦非安全可控的 AI 首次在現實世界造成實質重大危害,原本就對這項技術心存戒備的公眾,將更堅決地反對技術本身與其領頭人物,包括 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)與 OpenAI 執行長山姆·奧特曼(Sam Altman)。
過去這段時間,AI 領域的公眾情緒本就處於拉鋸狀態:一邊是產業狂歡的應用爆發,一邊是隱私、就業、偏見等疑慮不斷被放大。對龍頭公司來說,一場真的會傷人的事故,足以把這種拉鋸一次翻盤。
情境規劃在許多企業與國家安全領域行之有年,金融機構、國防團隊都會定期做這類演練。但這次的本質差異在於:許多頂尖 AI 研究人員與業界高層一致認為,發生重大安全事故不是「會不會」,而是「什麼時候」。
OpenAI 發言人對外回應相當謹慎,表示公司一直有在組織完備性演練,由相關團隊共同探討並推演一系列潛在情境,並未把這些情境視為必然發生,核心目的是幫團隊為應對各種突發狀況做好準備。Anthropic 則選擇拒絕置評。
當龍頭公司的危機演練,從「假設性劇本」變成「時間表問題」,社會對這場技術革命的容忍度,也正在被重新丈量。
- 延伸閱讀:你和 AI 的對話真的只有你知道?佛州女子把 Claude 當日記,Anthropic 審查後直接報警
- 延伸閱讀:當最懂AI的人開始準備逃亡:Anthropic工程師被爆集體買地避難「躲AI」,還推演曼哈頓計畫級逃亡預案
- 延伸閱讀:不只靠輝達!Anthropic傳聯手三星博通開發最強AI晶片,2奈米黑科技規格曝光
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!