用演算法對抗演算法，史丹佛大學推出 DetectGPT來反制 ChatGPT 生成論文

大型語言模型（LLM）的使用正在激增，尤其是 ChatGPT 最近非常火爆，然而由於其太過強大，甚至可以為學生生成論文。正因為如此，現在需要有檢測機器生成的文字的系統。

最近，史丹佛大學的一個研究小組提出了一種名為 DetectGPT 的新方法，旨在成為打擊高等教育中機器生成文字的首批工具之一。該方法基於的原理是：由 LLM 生成的文字通常在模型的對數機率函數的負曲率區域的特定區域徘徊。通過這個發現，該團隊開發了一種新的指標，用於判斷文字是否是機器生成的，並且不需要訓練人工智慧或收集大型資料集來比較文字。

這種方法被稱為“零次學習（zero-shot）”，允許 DetectGPT 檢測機器寫的文字，而不需要瞭解用於生成文字的是什麼人工智慧工具。它的操作與其他需要訓練“分類器”和真實及生成段落資料集的方法形成鮮明對比。

該團隊在假新聞文章的資料集上測試了 DetectGPT，它在檢測機器生成的文字方面的表現優於其他零次學習方法。該團隊聲稱檢測性能有了實質性的提高，並表明 DetectGPT 可能是一種有前途的方法，可以仔細檢查機器生成的文字。

總之，DetectGPT 是一種檢測機器生成的文字的新方法，它利用了 LLM 生成的文字的獨特特徵。它是一種不需要任何額外資料或訓練的零次學習方法，使其成為識別機器生成的文字的高效和有效工具。隨著 LLM 的使用繼續增長，檢測機器生成的文字的相應系統的重要性將變得越來越關鍵。DetectGPT 是一種很有前途的方法，可以在許多領域產生重大影響，它的進一步發展可能對許多領域都有利。