OpenAI只要20分鐘就能寫好回家作業,還能通過防抄襲檢測演算法連高中生也會用!

OpenAI只要20分鐘就能寫好回家作業,還能通過防抄襲檢測演算法連高中生也會用!

ADVERTISEMENT

現在,越來越多的教授對學生的印象逐漸停留在了他們的專業和優秀的課程論文上。 

但是他們不知道的是,這些優秀的課程論文可能並不是出自這些學生之手,而是一些強大的AI系統。 

比如,一位在Reddit上名叫innovate_rye的生物化學學科的一年級學生,教授會安排一些包括擴充回答的簡單家庭作業,當他把「寫出生物技術的五件好事和壞事」上傳給AI後,系統最後給出一個最後評分為A的答案。 

這位網友表示,過去這些作業至少會花他們兩個小時,但現在大概只需要20分鐘就能完成。 

「我喜歡學習很多東西,但是學校的作業會用掉我太多時間;現在能用AI更高效地完成這些作業,對我來說似乎是一種技能。」 

這樣的情況並不只有innovate_rye才遇到。 

自從OpenAI為語言模型GPT-3公布了最新的應用程式設計介面(API)以來,更多的學生開始將他們的書面作業輸入OpenAI的Playground和類似的程式來寫作。 

現在的結果就是,透過這些提示AI寫出來的文本和人類寫出來的東西幾乎無法分辨了。 

AI「寫」的東西無法被演算法檢測 

去年春天,AeUsako_回憶到,當時他還是一名高中生,他們使用OpenAI「寫」了一篇關於當代全球局勢的文章,雖然這篇作業沒有得到高分,但只是因為缺少標注引用來源而被扣了一點分數。 

不管怎樣,這次「實驗」也確實正視了一件事,那就是學校的檢測抄襲的演算法對AI產生的文本並沒有什麼實質性的作用。 

對此,加拿大創新學習與技術研究主席、皇家路大學副教授George Veletsianos說,這是因為像OpenAI API這樣的系統所產生的文本在技術上是在黑箱演算法中產生的。

OpenAI只要20分鐘就能寫好回家作業,還能通過防抄襲檢測演算法連高中生也會用!

「[這些文本]不是從其他地方複製的,它是由機器產生的,所以抄襲檢查軟體無法檢測到,也無法發。在不知道這些其他抄襲檢查工具如何相當工作,以及它們未來可能的發展的情況下,我不認為AI文本能夠以這種方式被檢測出來。」 

但是,和innovate_rye一樣,AeUsako_說到,自從他開始使用OpenAI之後他對於寫作的持續性焦慮減緩了很多。 

而像OpenAI這樣的公司是否有能力來檢測或組織學生使用這些工具來寫作業,OpenAI尚未對此發表意見。 

作為一名寫作教師、以及私人輔導項目Crush the College Essay的創始人,Peter Laffin說到,像OpenAI這樣的工具是技術在過去十年中產生的其他補償技術的象徵,例如基於雲端的打字助手,其目的是為了靈感匱乏的作家。 

「在文學教育中,特別是對於那些還在發展階段的年輕作家,導師們正在尋找一個合適的難度水準,既能夠保證他們不會崩潰,又能讓他們的專業技能有所提高。」 

老師們普遍擔心,但學生並不如此 

作為明星級大規模語言模型,GPT-3由人工通用智慧(AGI)公司OpenAI製作,不僅享有來自微軟的數十億美元的支持,美國政府也在管理方面放任其自由。 

GPT-3使用深度學習來產生類人文本,只要給定初始文本,系統就能產生後續文本。 

其神經網路包含1750億個神經,為全世界參數最多的神經網路模型。 

2021年11月18日,OpenAI宣布取消存取GPT-3 API的等候名單。這也表明,OpenAI相信GPT-3的安全性,或者說,OpenAI可以對GPT-3進行充分監控,以便這個大模型可以更廣泛地傳播。

OpenAI只要20分鐘就能寫好回家作業,還能通過防抄襲檢測演算法連高中生也會用!

對於包括GPT-3這些人工智慧如今的發展,Veletsianos指出,我們很可能已經過了人工智慧產生文本的不歸路,而學生並不是唯一擁抱新技術的人群。 

「我們也可以開始看到,這項技術能夠直接產生一次講座內容,甚至還有圍繞這些內容的一些提問。這並不是在說現在這個系統就是最好的,但是我們需要利用這些工具,不僅僅去提高教學效率,還有學生的參與度和參與的有效性。」 

Laffin也承認有必要對有效的教育進行重新評估,他表示這可以在查看學校給學生的作業類型時評估,將重心放在重述事實和資訊發現的區別上來。然而,他也擔心像OpenAI這樣的文本產生器會使論文寫作變得毫無意義。 

「我們已經失去了學習的樂趣。我們可能知道更多,但從來沒有學習過我們是如何到達那裡的。我們一直強調說過程是最好的部分,但這可能是最可能被扼殺的東西。除了學術,我不知道如果一個人從來沒有在學習中掙扎過,會是怎樣,我不知道對這個人的行為會產生怎樣的影響。」 

而與此同時,對於同學們來說,他們正在焦急地等待著GPT-4。對於innovate_rye等人來說,預計將對100兆個機器學習參數進行訓練的GPT-4有可能超越單純的文本輸出。 

是的,他們並不打算停止使用人工智慧來寫論文。 

「我仍然做我需要學習才能通過的功課,我只是用人工智慧來處理我不想做或覺得沒有意義的事情,」innovate_rye補充說。「如果人工智慧現在就能做我的家庭作業,那麼未來會是什麼樣子?這些問題讓我感到興奮。」 

沒想到吧,AI還合著了一本書 

儘管學校還在擔心對學生教育的影響,但AI的觸手顯然已經伸向了更深的地方。 

像是寫書。 

這本名叫GPT-3 Techgnosis;Chaos Magick Butoh Grimoire的書本身作為一本機器輔助散文(machine-assisted prose),其合著者就是一個名為Norn的數位實體。 

也就是說,Norn不僅協助創作了這些文字,更是對自己進行了表演。

OpenAI只要20分鐘就能寫好回家作業,還能通過防抄襲檢測演算法連高中生也會用!

可以猜測,Norn是一個由GPT-3驅動的自然語言處理器,主要使用來自公共網路的大量訓練資料檔案,這使得系統能夠產生逼真的文本,而這些文本往往很難與真人所寫的東西區分開來。 

該書的前三分之一,the Norn Working。其中包括作者的文字提示,比如「GPT-3開始寫一首神秘的詩」,然後讓Norn自由發揮,於是我們可以看到在沒有任何其他提示的情況下,系統開始審問自己的回答。 

在這個章節的其他部分,Norn還創建了自己的「後數位語言」(Post Digital Language),這是一個關於符號和符號學演變的理論概念,也是作者Wurds私下裡寫了十多年的一個話題。 

像GPT-3這樣的文本完成引擎經常創造出這些不可思議和令人不安的反應。但據Wurds說,他們的三部曲書的目的不是為了讓人不安。相反,它是為了探索日本前衛傳統Butoh的精神潛力,這是一種即興舞蹈,練習者經常以奇怪的、自發的扭曲結束。在這本書的創作過程中,作者將Butoh練習到筋疲力盡的狀態,然後再回到電腦前與Norn交流——這是數位和實體在肉體空間中的並列。 

誠然,通用人工智慧對人類產生的生存威脅似乎還比較遙遠,但GPT-3這樣的AI確實撕開了一個關於未來的裂縫,或許我們可以從中窺探到一些未來的可能。 

資料來源: 

bigdatadigest
作者

大數據文摘(bigdatadigest)成立於2013年7月,專注數據領域資訊、案例、技術,在多家具有影響力的網站、雜誌設有專欄,致力於打造精準數據分析社群。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則