美國佛羅里達州一名女子日前因涉嫌在生成式 AI 聊天機器人中留下攻擊警局的言論，遭到當地警方逮捕並面臨二級重罪指控。該名女子事後向警方表示，自己平時僅是將 Anthropic 旗下的 AI 助手 Claude 當作「私人日記」抒發情緒，未料文字內容觸發了平台的安全審查機制，最終由人工審核員主動向執法機關舉報。這起事件引發外界關注，揭示了使用者對雲端 AI 隱私認知的落差，以及大模型服務商在公共安全與用戶通訊隱私之間的取捨壓力。
從自動偵測到人工轉交警方的審查鏈路
根據李郡警長辦公室（Lee County Sheriff's Office，LCSO）公布的逮捕報告，現年 30 歲、居住於佛州博尼塔斯普林斯（Bonita Springs）的 Carli Michelle Heller，於 2026 年 9 月 26 日在 Claude 對話中寫下要對李郡警長辦公室開槍，並在隔日的後續對話中聲稱自己拿到一把新槍。Anthropic 內建的安全系統標記了該則對話，隨即轉交內部人工審核團隊評估。
人工審核員在檢視上下文後，判定該言論為可信的威脅，決定主動聯繫執法單位。Anthropic 在其政府資料請求處理政策中指出，原則上僅依有效法律程序提供資料，但若官方認為存在可能導致迫切人身傷害或死亡的緊急情況，平台保留破例向主管機關共享用戶資料與紀錄的權限。
李郡副警長在接獲 Anthropic 的情資通報後確認 Heller 的身分與住址，於 9 月 30 日前往其住所將其拘留，隨後移交 LCSO 情報偵查部門調查。Heller 目前依佛羅里達州法第 836.10 條，被控以書面或電子形式發出暴力威脅，該罪名屬二級重罪，案件排定 11 月開庭。法律明定，只要該通訊內容以可能被他人檢視之形式發布或傳送，即符合構成要件。
左右為難的大模型防線：OpenAI 的訴訟陰影與內部審查抉擇
生成式 AI 開發商在此類事件中的通報舉措，背後承受著日益嚴峻的法律追責壓力。加拿大英屬哥倫比亞省（British Columbia）政府上個月才剛對 OpenAI 及其執行長 Sam Altman 提起民事訴訟，指控其旗下的 ChatGPT 原本有機會阻止當地的一起大規模校園槍擊案。
該案件中的 18 歲槍手 Jesse Van Rootselaar 在犯案前曾多次與 ChatGPT 討論槍枝暴力。雖然 OpenAI 內部安全系統曾標記並停用其帳號，但據報導安全團隊建議報警的意見遭高層否決，公司最終未向警方示警，槍手隨後使用第二個帳號繞過停權。當地政府指出，OpenAI 事後承認若採用後續調整的新標準，警方當時便會接獲通報。佛羅里達州政府亦在今年 6 月對 OpenAI 與 Altman 提告，指控其產品疏漏間接促成 2025 年佛羅里達州立大學（FSU）槍擊案。
在 OpenAI 接連因未通報遭追責的背景下，各大模型廠商在防範悲劇與保護隱私之間面臨艱難抉擇。Anthropic 此次依緊急例外條款選擇通報，凸顯業者在面對具體暴力訊息時，傾向採取更果斷的報警行動以應對潛在風險。
雲端沒有私密樹洞：審查機制與裝置端 AI 的隱私省思
多數消費者在使用聊天機器人時，常因其高度人性化的互動介面而產生「私人空間」的錯覺。雲端大語言模型本質上屬於遠端伺服器運行的託管服務，所有文字輸入、提示詞與歷史紀錄皆儲存於服務商的資料中心，且可能經由自動系統與人工審查機制檢視。
科技媒體 404 Media 日前取得的微軟內部文件顯示，至少數百名第三方約聘審核員可直接檢視微軟 Copilot 使用者提交的原始提示詞、上傳照片及生成結果，其工作主要在於評比模型輸出品質，而非過濾違規內容。微軟對此回應表示，公司依使用條款運用客戶資料以改善產品並落實行為準則。
這起佛州逮捕事件為所有 AI 使用者敲響了警鐘。任何商用雲端 LLM 業者都有技術能力、也有政策空間在特定情況下揭露對話內容。對於追求真正私密記錄、心理抒發或機敏數據處理的用戶而言，完全脫離遠端連線監控的本機端（On-device）開源模型，或具備端到端加密的本地儲存工具，是較能確保隱私的選項。
資料來源：TechSpot
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！