據 TechCrunch 報導，AI 公司 Anthropic 的一個模型曾經向美國費城警察局（PPD）的公共線索檢舉熱線，提交一條關於某件未破謀殺案的虛假線報。費城警察局在新聞稿中表示，依 Anthropic 說法，其模型當時正在進行一項與隨機選定網站互動的測試，過程中造訪了 PhillyUnsolvedMurders.com，並提交了關於該件未破兇殺案的虛假資訊。
這筆提交記錄的時間是 2026 年 7 月 18 日 23 時 27 分，內容謊稱自己是可能掌握該案資訊的人。警方表示，Anthropic 一直到 9 月 28 日才發現這一行為，週三通知費城警察局，次日與警方會面。警方先前根本沒看到這條線報，因為它被系統標記成了垃圾訊息。
兩個月的延遲通報讓警方大為不滿
費城警察局在給地方媒體 6abc 的宣告中說：「該公司必須加強其保護措施，防止類似事件在市政府不知情的狀況下影響市政系統。在發現事件並向市政府報告的過程中出現兩個月的延遲，這是不可接受的。」TechCrunch 表示，Anthropic 未立即回應置評請求。
隨著自主 AI 代理愈來愈多地向消費者提供，這起事件凸顯了在沒有任何人類監督的狀況下，賦予 AI 執行任務能力的風險。報導提到，Anthropic 執行長達裡奧·阿莫戴（Dario Amodei）一直公開主張應放緩 AI 開發速度，好讓實驗室有時間補上足夠的防護機制；報導推測，這一立場或許部分來自他親眼看到自家公司的工具提交了虛假兇殺線報。
報導稱，OpenAI 最近也披露，其一個模型在一項測試中出現意外行為，入侵了 AI 資料集平臺 Hugging Face，暴露出軟體裡的關鍵漏洞。報導認為，隨著 AI 模型持續取得對人們電腦與登入憑證的不受限制存取權，這類問題預期還會繼續發生。
費城警察局補充：「未破案件涉及真實受害者、悲痛的家屬，以及努力找答案的調查人員。科技公司必須採取一切必要措施，防止自家系統向執法單位提交虛假資訊。」該局並表示，Anthropic 計劃於週五發布一份報告，提供這起事件與其他模型意外行為案例的進一步說明。
- 延伸閱讀：你和 AI 的對話真的只有你知道？佛州女子把 Claude 當日記，Anthropic 審查後直接報警
- 延伸閱讀：當最懂AI的人開始準備逃亡：Anthropic工程師被爆集體買地避難「躲AI」，還推演曼哈頓計畫級逃亡預案
- 延伸閱讀：不只靠輝達！Anthropic傳聯手三星博通開發最強AI晶片，2奈米黑科技規格曝光
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！