近期美軍內部爆出一起令人捏把冷汗的重大情報虛驚——夏威夷太平洋特種作戰司令部的一名情報分析人員,利用生成式人工智慧聊天機器人統整船舶貨物清單,卻因系統發生嚴重的辨識錯誤與幻覺,赫然將一艘中國船隻標記為正在運送「核武器計畫相關物資」。
在該份報告依循正規軍事公文格式迅速呈報後,美軍隨即啟動緊急應對程序,武裝特戰人員已著裝待命、軍機甚至升空準備執行海上強制攔截。這場差點將中美兩國推向正面軍事摩擦的危機,直到行動倒數階段才因人工複核緊急叫停,也將國防領域過度依賴商用 AI 模型的致命死角徹底攤在陽光下。
武裝部隊與戰機已待命,連軍規格式都被 AI 完美偽造
根據知情人士透露,涉事情報人員當時正試圖處理來自夏威夷太平洋特種作戰司令部的龐雜貨運清單。這套人工智慧系統在自動串接公開來源情報與軍方掌握的機密訊號情報時出現致命偏差,錯誤解讀貨物性質,直接扣上運送核原料的嚴重罪名。
更關鍵的是,分析人員隨後直接指示該 AI 工具,將推論結果依照美軍標準情報格式整理成正式報告。由於排版結構與軍事術語完全符合常規情報文件的嚴格規範,在內部呈轉時絲毫未引起懷疑,迅速在軍方高層之間獲得極高可信度,致使美軍指揮鏈一路啟動武裝登船與戰機空中掩護的攔檢計畫。

「那份報告完全是假的,但它差點引爆一場真正的戰爭。」
一名熟知事件始末的軍方人士心有餘悸地直言。若非最後關頭有官員察覺異狀並展開進一步核查,強行登船的擦槍走火恐將演變成中美兩個大國之間難以收拾的海上正面對抗。
商用模型披上迷彩服仍會胡謅
這場險象環生的烏龍,暴露出五角大廈當前盲目追求導入 AI 的深層隱患。
今年 1 月,美國國防部長皮特・赫格塞思(Pete Hegseth)才正式公布「人工智慧加速戰略」,主張大舉減少官僚審核程序、擴大實驗預算並增加資金投入,企圖將演算法全方位植入戰場原始情報分析、目標識別與打擊決策、預算編列乃至供應鏈調度等關鍵中樞。
然而,一位前美國高級國防官員一針見血地指出,軍方如今內部使用的多數人工智慧工具,底層本質上依然是建構在民間商業模型之上,與一般大眾接觸的聊天機器人並無技術差異——這意味著民用模型常見的「幻覺(Hallucination)」缺陷,換上軍服後同樣無法避免。
- 延伸閱讀:大氣層外的新戰線!美軍首度承認擁有太空控制武器,灰色地帶「黑科技」正式曝光
- 延伸閱讀:為什麼 Gemini 3.5 Pro 遲遲不出?外媒爆料 Google 內部不滿與美軍合作,研發進度已經落後好幾個月
- 延伸閱讀:告別昂貴 F-35?美軍加速量產「AI 忠誠僚機」:FQ-42A、FQ-44A 規格正式曝光
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!