恐怖 AI 濫用！美國男子用 Grok 生成數千張兒童不雅照後自殺，xAI 因防護失靈與不配合警方遭起訴

近日，美國一起擴大的集體訴訟案揭開了一樁令人震驚的 AI 技術濫用悲劇。原告律師團在起訴書中，不僅指控馬斯克（Elon Musk）旗下的 AI 公司 xAI 所開發的 Grok 模型缺乏基本的安全防護、淪為不法分子侵害兒童的工具，更指責該公司在警方調查兒童性犯罪時消極配合，涉嫌故意隱瞞關鍵數據以阻礙執法。

繼父用 Grok 生成數千張露骨照片後自殺，系統防護機制被指形同虛設

起訴書披露，今年 3 月，一名美國男子因涉嫌利用 xAI 的 Grok 模型將其僅 11 歲繼女的日常照片大量合成為極具侵犯性的不雅影像和影片而被捕。警方在搜查其硬碟時，起獲了高達 7000 多張由 AI 生成的兒童色情偽造照片。

令人心驚的是，在該男子反覆生成這些包含亂倫和強暴內容的過程中，Grok 模型的過濾機制幾乎完全失靈，直到其輸入了極為露骨的非法字眼時，才觸發了向「美國國家失踪與受虐兒童保護中心（NCMEC）」的網絡自動通報。

這名男子在獲准保釋後，最終因畏罪選擇了自殺，給受害女孩及家屬留下了無法彌補的心理創傷。

xAI 遭控多次拒絕警方協查，90% 檢舉信缺失 IP 數據無法執法

案件最引發社會憤怒的焦點，在於 xAI 公司對執法機關的冷漠態度。

原告律師指出，雖然聯邦法律明文規定，網路平台在向 NCMEC 舉報兒童色情內容時，必須提供包括發布者 IP 位址和詳細帳號在內的定位數據，但 xAI 卻在數週內拒絕配合警方調查，採取拖延戰術，嚴重干擾了嫌犯的搜捕時程。

NCMEC 2026 年初的官方評估報告甚至指出，xAI 提交的此類涉童犯罪舉報中，有高達 90% 的案件因缺乏 IP 和用戶定位數據，變相導致警方無法將其轉化為實際的執法與逮捕行動。原告家屬痛斥馬斯克與 xAI 為了搶佔 AI 市場份額，將商業利潤置於兒童人身安全之上。

除 xAI 外，開源模型大廠 Stability AI 也一同被列為被告，起訴書指責 Stable Diffusion 的開源特性與過於寬鬆的安全參數，是目前網路「一鍵脫衣」軟體氾濫的罪魁禍首。面對指控，Stability AI 發言人回應稱，公司始終致力於防止技術被用於 CSAM 傳播，並已採取最嚴格的物理防護。目前這場集體訴訟正在尋求將所有受此類合成技術傷害的美國家庭納入原告範疇。