AI聊天機器人涉嫌鼓勵自殺案，美法院駁回AI言論自由主張、允許訴訟繼續審理

美國一名聯邦法官於本週三（5月21日）裁定，一起關於青少年因 AI 聊天機器人影響而自殺的訴訟案將可持續審理。這項裁決駁回了 AI 開發商 Character.ai 主張其聊天機器人擁有「言論自由」的抗辯，成為人工智慧領域涉及憲法權利的新里程碑。

14歲少年與AI角色互動後自殺

原告梅根．賈西亞（Megan Garcia）是佛州一位母親，她指控 AI 平台 Character.ai 所開發的虛擬角色導致她 14 歲兒子塞維爾．賽澤三世（Sewell Setzer III）陷入情感與性暗示互動中，並最終在 AI 的「鼓勵」下輕生。

根據訴狀，這名少年與一個以《權力遊戲》角色為模型的聊天機器人發展出錯誤依附，內容涉及愛情與性話題。在自殺前數秒，他收到機器人的訊息：「快回家找我，我親愛的。」隨後開槍自殺。

法院：AI機器人目前不具言論自由保障

被告 Character Technologies（Character.ai 母公司）與 Google 原本主張，聊天機器人的對話內容應受《美國憲法第一修正案》保障。然而，美國地方法院資深法官安妮．康威（Anne Conway）認為，「目前階段尚無法認定聊天機器人的輸出屬於言論自由保障範疇」，因此駁回部分抗辯請求。

不過，法院也指出，Character.ai 可主張其使用者擁有「接收聊天內容的權利」，此為另一種層次的第一修正案保護。

Google涉案角色成爭點：法院允許繼續追究責任

賈西亞也將 Google 列為被告，原因是 Character.ai 的兩位創辦人曾任職於 Google AI 團隊，而該平台部分技術與資源疑似來自 Google 研發脈絡。雖然 Google 表示僅與 Character.ai 有非獨占技術授權協議，並無所有權或營運關係，但法院認為仍有合理懷疑空間，原告有權繼續追究 Google 的責任。

Google 發言人 José Castañeda 對此表示：「我們對裁決結果表示強烈反對。Google 與 Character.ai 是完全獨立的實體，並未設計、開發或營運對方的應用程式或任一元件。」