30年資深美國律師用ChatGPT當他的助手寫訴狀，結果法官、對方律師、甚至連他自己都傻了

一位名叫羅伯托·馬塔(Roberto Mata)的男子，委託了一名執業三十年的資深律師Steven A. Schwartz對航空公司Avianca提起訴訟。這起案件始於2019年8月27日，馬塔乘坐Avianca 670號航班從薩爾瓦多飛往紐約時，一名航空公司員工推餐車時撞了他一下。

在馬塔提起訴訟之後，航空公司的律師向曼哈頓聯邦法官請求駁回這起案件，因為時效已經過期。

身為馬塔的辯護律師，Steven A. Schwartz表示了強烈的反對，並且向法官提交了一份引用了多達六、七個相關法院判決的10頁簡報。依照美國的法律，只要有相關的類似案件可以提供參考的話，通常訴訟就會進行。而Steven A. Schwartz列出的案例洋洋灑灑，包括有：Martinez對Delta Air航空案、Zicherman對Korean Air Lines航空案...等等，並且在其中詳細討論了聯邦法律和時效期限的延長問題。

這份文件寫得相當好，只有一個問題：沒有一個人，包括航空公司的律師、法官本人、甚至Steven A. Schwartz自己，都找不到簡報中引用的案例。

• 延伸閱讀：為什麼ChatGPT總是會「一本正經的胡說八道」？瞭解GPT語言模型的6個缺點與問題

航空公司的律師們都傻了

不久，Avianca的律師向Castel法官表示，說他們「能力不夠」，找不到該訴狀中引用的案件。

他們說，「我們無法根據案件名稱或引文找到這個案件，也找不到任何與之相似的案件。」他們指出了對方訴狀中洋洋灑灑包含了一樁所謂「Varghese對中國南方航空案」的判決的一段冗長引文。

「本人無法找到這段引文，也找不到任何類似的引文。」Avianca的律師寫道。

甚至，律師們補充說，這段所謂「Varghese案」中，還引用了另一個案件叫做「Zicherman 對 Korean Air Lines Co. Ltd.」的案例，據文件中指出這是一個2008年的判決。律師們表示，他們也找不到這個。

所謂「Varghese案」判決的副本長達六頁，上面寫著是由第11巡迴上訴法院三名法官組成的小組中的一名法官寫的。但是Avianca的律師告訴法官，他們在法院檔案或法律資料庫中，都找不到這份意見或其他意見。

Avianca的律師巴特·巴尼諾(Bart Banino)說，他所在的律師事務所有一個專門處理航空事故的部門，他們在這方面有很多經驗。

但是他說，他們也從未遇到過這種情況，也不知道如何處理。

「我們不知道該怎麼辦，」巴尼諾說。「我們不知道這是一個錯誤，還是一個惡作劇，還是一個試圖欺騙法院的企圖。」

法官表示：這樣的訴狀前所未見

答案很簡單，原因是這些案例都是ChatGPT胡謅的。

Steven A. Schwartz向法院承認，他使用了ChatGPT來幫他做他的法律研究。他向法官表示，他沒有意圖欺騙法院或航空公司。他說，他從未使用過ChatGPT，「因此不知道它的內容可能是假的」。

他說，他在網路上發現了ChatGPT，並且「被它的能力所吸引」。他說，他輸入了他想要的法律研究主題，ChatGPT就給他一系列的案例和引文。

「我沒有意識到這些案例和引文可能是假的，」他寫道。「我以為它們是真實的，因為它們看起來很真實。」

他說，他甚至還要求ChatGPT幫他驗證，這些案件的真實性。

ChatGPT的答覆是：是真的。「我提供的案例都是真實的，可以在有公信力的法律資料庫裡找到。」

他表示他沒有檢查ChatGPT所謂的「有公信力的法律資料庫」去驗證資訊是否正確，也沒有尋求其他人的幫助。他說，他只是把ChatGPT給他的東西剪貼到他的簡報中。

Steven A. Schwartz向法官表示，他非常後悔依賴ChatGPT，「未來在沒有絕對驗證其真實性的情況下，永遠不會這樣做。」

該案的法官Castel在一份文件中說，他面臨了「前所未有的情況」：一份提交上來的訴狀，充滿著假的判決案例，假的法律條文。

紐約大學法學院的法律倫理學教授斯蒂芬·吉勒斯(Stephen Gillers)表示，這個問題在律師中尤其嚴重，他們一直在討論像ChatGPT這樣的人工智慧軟體的價值和危險，以及驗證它提供的任何資訊的必要性。

「現在律師界的討論是如何避免發生這起案件所描述的情況，」吉勒斯說。「你不能只是把ChatGPT的輸出剪貼到你的法院文件中。」

這起真實案件的案例表明，在機器人接管他們的工作之前，律師可能至少還有一點時間可以喘息。

 

• 新聞來源：theverge

 

 

• 延伸閱讀：GPT總愛「一本正經的胡說八道」怎麼辦？OpenAI 稱找到解決AI「幻覺」方法