用AI來打AI!ChatGPT 官方推出AI工具,幫助教師檢查文章是否由AI生成

用AI來打AI!ChatGPT 官方推出AI工具,幫助教師檢查文章是否由AI生成

人工智慧研究初創公司 OpenAI 週二推出了一個工具,旨在弄清文字是人類還是電腦寫的。

OpenAI 是 ChatGPT 背後的公司,ChatGPT 是一個聊天機器人,可以根據提示生成像是人類寫的文字,在兩個月前發佈後迅速走紅。上週微軟宣佈對 OpenAI 進行數十億美元的投資,並表示將把這家初創公司的人工智慧模型納入其面向消費者和企業的產品。

自從 ChatGPT 在 11 月首次亮相以來,包括紐約市在內的一些美國最大的學區已經禁止了這種人工智慧聊天機器人,因為它們擔心學生會利用文字生成器作弊或剽竊。

OpenAI 的首席執行長 Sam Altman 說,自從這種數位技術出現後,教育已經發生了變化,但他也表示,該公司可能有辦法幫助教師來判斷人工智慧所編寫的文字。

OpenAI 的這個新工具並不完美,該公司稱其仍然在研發最佳化中,使用過程中可能會出錯。「在我們對英語文字的評估中,我們的分類器正確地將 26% 的人工智慧寫的文字(真陽性)識別為‘可能是人工智慧寫的’,而將人類寫的文字錯誤地標記為人工智慧寫的佔 9%(假陽性),」OpenAI 員工表示。

目前這個工具有很多限制,例如在分析如果文字量少於 1000 個字元的文章方面並不可靠,而且 OpenAI 不建議將其用於英語以外的語言。此外,來自人工智慧的文字可以稍作更新,就會使分類器不能正確判斷它不是人類的作品。

OpenAI 表示,它正在與教育工作者接觸,討論 ChatGPT 的能力和侷限性,並將繼續致力於檢測 AI 生成的文字。

早在 2019 年,OpenAI 就明確表示,識別人工智慧合成的文字不是一件容易的事。OpenAI 員工表示:「我們在檢測人工智慧生成的文字方面的工作將繼續進行,我們希望在未來分享改進的方法。」

cnBeta
作者

cnBeta.COM(被網友簡稱為CB、cβ),官方自我定位「中文業界資訊站」,是一個提供IT相關新聞資訊、技術文章和評論的中文網站。其主要特色為遊客的匿名評論及線上互動,形成獨特的社群文化。

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則