FB 建議貼文

選取貼文複製成功(包含文章連結)!

前高盛分析師在ChatGPT討論如何謀殺前女友,OpenAI緊急向FBI舉報把他抓了

前高盛分析師在ChatGPT討論如何謀殺前女友,OpenAI緊急向FBI舉報把他抓了

近日,ChatGPT 開發商 OpenAI 向美國聯邦調查局(FBI)主動舉報了一名 25 歲的佛羅里達州男子,原因為該男子在與人工智慧聊天機器人的大量對話中,巨細靡遺地策劃並描述了企圖性侵、殺害其前女友的具體行動方案。

法庭公開文件披露了這名名為達倫·周(Darren Zhou)男子的完整聊天紀錄,他曾在對話中向聊天機器人直接宣稱計劃於當月底前殺死前女友,並留下「如果自己得不到她,其他人也休想得到」等極端威脅字句。

調查人員進一步指出,達倫·周曾任職於高盛集團(Goldman Sachs)擔任分析師,居住在鄰近前總統川普(Donald Trump)海湖莊園一帶,案發前已被公司解雇。

今年 3 月,達倫·周在與相戀 6 個月的女友分手後,開始高頻率使用 ChatGPT。在長達數週的文字互動中,他向系統詳細輸入了前女友的個人喜好、日常行蹤與常去地點,並反覆宣洩對她身邊其他男性的強烈嫉妒與執拗的復合渴望。

演算法觸發安全審查:OpenAI 緊急例外通報機制啟動

根據 OpenAI 既定的安全防護與使用條款政策,當底層安全護欄與語意過濾系統偵測到使用者輸入含有暴力傷害、自殘或重大公共威脅的意圖時,系統會自動將該對話標記並升級至內部專門的安全審核團隊進行人工介入審查。而且,在情況極端且涉及立即生命危險的緊急情況下,公司得依據緊急例外條款直接向執法機關通報關鍵線索。

雖然 ChatGPT 的歷史對話紀錄過去曾多次在民刑事法庭案件中被列為呈堂證供,但由官方主動辨識並向警方舉報使用者活動的案例實屬罕見。

執法調查顯示,達倫·周與 AI 的對話內容迅速從單純的情緒抒發,惡化升級為包含性侵、謀殺及自殺式襲擊的具體威脅。今年 5 月,FBI探員在完成初步研判後,將其長達兩個月的完整聊天紀錄正式移交給佛州棕櫚灘郡警長辦公室(Palm Beach County Sheriff's Office),此時其威脅範圍甚至已進一步擴大至女方的家庭成員。

負責審查這批對話紀錄的執法人員特別指出,這些長篇文字並非模糊零碎的情緒宣洩,而是展現出一種具備高度預謀性、反覆演練與具體步驟的犯罪計畫模式。

在接獲聯邦通報後,警方隨即前往居住於沃思湖灘(Lake Worth Beach)的 21 歲前女友住處進行緊急安全查訪。女方向警方證實,由於達倫·周在交往期間情緒反覆無常、猜忌心重且展現出極強的控制欲,她最終選擇透過電話提出分手,原因正是深怕當面提分手會引發對方的過激行為。

分手後,達倫·周便展開連續不斷的電話騷擾、狂發簡訊與社群平台私訊,不僅嚴厲質問其他男性在其 TikTok 影片下方的公開留言,更指責她移情別戀,完全無視女方多次要求停止聯繫的嚴正警告。

虛擬門號騷擾與多重指控:認罪協商判處八年緩刑

專案調查人員發現,達倫·周在遭女方封鎖後,還利用多款通訊應用程式生成虛擬門號,持續對女方進行電話轟炸與簡訊威脅。受害女子機警地將所有包含言語騷擾、侮辱、不雅內容以及死亡威脅的文字簡訊截圖存證,成為案件的重要佐證。

在掌握了達倫·周傳送給 AI 的完整犯罪企劃紀錄,以及其直接寄發給前女友的實質騷擾威脅後,警方於 5 月正式將其拘捕歸案。達倫·周在棕櫚灘郡監獄被羈押兩天後,繳納了 10 萬美元保釋金獲釋。隨後在 6 月,助理州檢察官安娜·庫斯科娃(Anna Kuskova)正式對其提出公訴,指控其涉嫌犯下「加重跟蹤罪」(Aggravated Stalking)、「書面威脅殺人生態罪」(Written Threats to Kill)以及「非法使用雙向通訊設備罪」(Unlawful Use of a Two-way Communications Device),這三項重罪指控若全部成立,最高可判處長達 25 年有期徒刑。

8 月 13 日,在與檢察機關達成認罪協議後,達倫·周於法庭上對全部三項指控正式認罪。巡回法院法官史考特·蘇斯考爾(Scott Suskauer)在法庭上公開表示,法院之所以決定接受這份使達倫·周免於即刻入獄服刑與留下重罪定罪前科的認罪協議,完全是建立在獲得受害前女友充分理解與同意的前提之下。

依據協議裁定,法官宣布暫緩判決,判處達倫·周 8 年緩刑,在長達 8 年的監督期間,他必須嚴格遵守包含禁止接觸受害者、接受心理治療與行動限制等多項規範條款。

達倫·周的辯護律師史蒂文·貝爾(Steven Bell)在庭後表示,其當事人過去以優異成績畢業於波士頓東北大學(Northeastern University),在此案發生前沒有任何刑事犯罪前科。雖然他在與 ChatGPT 的文字對話中多次暗示擁有槍枝,但警方實質調查確認他並未持有任何槍械武器。

律師強調,達倫·周並非暴力分子或窮凶極惡之人,他當時只是經歷了一次極為嚴重的心理健康危機,目前在專業治療下恢復狀況良好。這起案件也讓科技業界與法律學界再次審視:在大型語言模型深度走入人類生活之際,AI 對話框早已不再只是靜態程式碼,而是一道連通真實世界安全與倫理底線的即時防護網。

 

 

 

janus
作者

PC home雜誌、T客邦產業編輯,曾為多家科技雜誌撰寫專題文章,主要負責作業系統、軟體、電商、資安、A以及大數據、IT領域的取材以及報導,以及軟體相關教學報導。

發表回應
謹慎發言,尊重彼此。按此展開留言規則