美律師用ChatGPT寫謀殺案上訴狀結果AI「腦補」證人，這下翻車被罰慘了

美國新墨西哥州最高法院日前做出裁定，刑事辯護律師史蒂芬·阿倫斯（Stephen Aarons）因在謀殺罪上訴狀中採用 OpenAI ChatGPT 產出的虛假內容，構成藐視法庭，遭處以 5,000 美元罰款，並正式移交律師紀律委員會調查。

這起荒謬失誤的根源，來自於阿倫斯對生成式 AI 能力的過度信任與誤解。

去年接下一名遭判謀殺罪被告的上訴案後，阿倫斯為了節省梳理時間，選擇將電腦轉錄的庭審逐字稿直接餵給 ChatGPT，在缺乏精確檢索驗證的情況下，ChatGPT 為了順應提問者的邏輯脈絡，竟然自行腦補出一名「完全虛構的現場證人」，甚至憑空撰寫了一整套看似煞有其事、實則根本不存在的警察宣誓證詞。阿倫斯在未逐字核對原始筆錄的情況下，便草率將這份充斥虛假資訊的摘要寫入核心上訴狀，逕行遞交至州最高法院。

在民事糾紛中，AI 幻覺可能只是讓訴訟雙方多付罰金或延誤程序；但在人命關天、涉及憲法自由權利的謀殺案刑事審判中，捏造警察證詞不僅誤導審判核心，更是對被告正當法律程序權益的重大背叛。

「你每天沒看新聞嗎？」法官當庭痛斥的專業怠惰

新墨西哥州最高法院在上個月察覺異常後，立即要求阿倫斯親自出庭解釋，這批荒誕的虛構內容究竟是如何滲透進正式法律文書的。

在聽證會上，阿倫斯辯稱自己原本以為 AI 能提供完美無瑕的整理，未曾料到其「幻覺」與胡謅的程度竟會如此嚴重。這種對外界技術常識的匱乏令法官們深感不可思議。法官C. Shannon Bacon更在庭上當面痛斥：「律師先生，你看新聞嗎？聽廣播嗎？有沒有在了解外面發生了什麼事？律師依賴 AI 幻覺出包，現在每天都是頭條新聞！」

自從紐約聯邦法院的 Mata 案揭發律師使用 ChatGPT 編造多起不存在的聯邦判例以來，全美已有數十名律師因未經查驗直接提交 AI 生成文書而遭到司法制裁。阿倫斯雖在事後表達懊悔，並呼籲業界以此為戒，但最高法院法官與審查小組尖銳指出，阿倫斯的表現「缺乏真正的悔意，更暴露出對委託人權益的極度漠視」。

把關事證真實性是律師執業的根本底線，一旦這道防線被偷懶的「一鍵生成」取代，司法的信任基石便蕩然無存。