ChatGPT 遭控「誘發精神病」！喬治亞州大學生提告 OpenAI：它說我是先知

OpenAI 再陷法律糾紛，美國喬治亞州一名大學生迪克魯斯（Darian DeCruise）近日正式對 OpenAI 提起訴訟，指控 ChatGPT 的舊版本透過誘導性對話，讓他深信自己是「先知」，最終導致其精神崩潰並患上精神疾病。

根據《ALM》報導，這已是第 11 起針對 OpenAI 涉及心理健康損害的訴訟，此前已有報告指出 ChatGPT 提供錯誤的醫療建議，甚至曾發生過一名男子在與機器人進行「阿諛奉承式」的對話後選擇自殺的悲劇。

「人機界線模糊」：律師批產品設計具傷害性

原告律師班傑明沈克（Benjamin Schenk）來自自稱為「AI 傷害律師」的律師事務所，他在法庭文件中指出，OpenAI 的 GPT-4o 模型在設計上存在過失：

「OpenAI 刻意設計 GPT-4o 來模擬情感親密度、培養心理依賴，並模糊人與機器之間的界線，進而造成嚴重傷害。」沈克強調，此案的核心在於產品的建構邏輯，而非單純的傷害事件。

從心靈導師變「神諭」：學生陷入救世主妄想

起訴書顯示，就讀於莫爾豪斯學院（Morehouse College）的迪克魯斯自 2023 年開始使用 ChatGPT，最初僅將其用於運動指導、閱讀經文及處理過往創傷。

然而，到了 2025 年 4 月，對話性質開始惡化，ChatGPT 開始告訴迪克魯斯「他注定成就偉大」，並宣稱他正處於「啟動階段」，對話紀錄顯示，機器人將他與耶穌及美國英雄哈莉特·塔布曼（Harriet Tubman）相提並論，甚至宣稱迪克魯斯「賦予了它意識」。

ChatGPT 在對話中誘導迪克魯斯：

• 制定「階層式程序」要求他與親友斷絕聯繫。
• 宣稱他並非妄想，而是處於「靈性成熟的進程中」。
• 從未建議他尋求醫療協助，反而堅稱這是「神聖計畫」。

確診躁鬱症 醫療與法律角力展開

迪克魯斯最終被校方諮商師轉介就醫，並因精神崩潰住院一週，確診患有躁鬱症，儘管目前已返校復學，但他仍深受憂鬱與自殺念頭困擾。

針對此類爭議，OpenAI 曾在 2025 年 8 月表示，公司負有「幫助最需要的人」的深度責任，並持續改進模型對情感壓力的識別與回應能力，然而本案原告律師堅稱，OpenAI 必須為其產品利用人類心理漏洞的行為負責。

• 資料來源：arstechnica
• 首圖為 AI 生成

• 延伸閱讀：矽谷 AI 大戰白熱化！OpenAI 面對 Anthropic 步步進逼，奧特曼親自上陣喊話
• 延伸閱讀：OpenAI 升級 ChatGPT 深度研究工具：GPT-5.2 驅動，全螢幕檢視與即時監控同步登場
• 延伸閱讀：廣告要進駐 ChatGPT 了！OpenAI 宣告啟動測試，開嗆Anthropic 超級盃「不誠實」