Altman「被離職」的原因還是個謎:曾有OpenAI研究人員致信董事會,警告AI模型“Q*”恐會危及人類

Altman「被離職」的原因還是個謎:曾有OpenAI研究人員致信董事會,警告AI模型“Q*”恐會危及人類

OpenAI 的內亂看似已經大結局了,不過,事實上還留有一個變數,那就是當初到底董事會為什麼堅持要讓 Altman 離開、他們手上到底有什麼證據或是理由,讓這些董事這麼堅持,幾乎是與整個 OpenAI 槓上?至今,真正的原因都沒有被公開。

最近有爆料指出,Altman「被離職」的原因,竟然是因為一封內部人士的信?

據知情人士向路透社透露,幾名研究人員在 Altman 離職的四天前(當地時間上週一)向董事會發出了一封信,表示一項新發現可能威脅人類。媒體猜測,這封信成為 OpenAI 此次內亂的導火線。

長期擔任 OpenAI 技術長 Mira Murati 週三向員工提到了這個名為「Q*」(音:Q-Star)的計畫,並表示在董事會採取行動(開除 Altman )之前曾取得這封信。

Altman 在上週四曾公開透露過這項技術進展。據知情人士向媒體透露,這項技術由 OpenAI 前首席科學家 Ilya Sutskever 帶頭,和使用電腦生成的資料來幫助訓練模型有關,而此前大模型訓練的資料大多源於網路個人資料。

媒體還報導稱,OpenAI 兩位高級研究人員 Jakub Pachocki 和 Szymon Sidor 在該技術基礎上建構了模型"Q*",該模型能夠解決先前從未見過的數學問題。

雖然目前人工智慧模型的數學成績幾乎與小學生差不多,但研究人員對「Q*」未來的成功,非常樂觀。而研究人員在給董事會的信中指出了人工智慧的能力和潛在危險,但沒有具體說明信中提到的安全問題。電腦科學家長期以來一直在討論超級智慧 (AGI) 帶來的危險,例如他們是否會認為毀滅人類符合他們的利益。

在上週提及這項技術時,Altman 稱其能夠「揭開未知的面紗,推動發展的前沿」。

不過,還有媒體出面佐證這封信直接導致 OpenAI 內亂,論據有二:首先是 Sutskever 對該技術持保留態度,領頭參與了這次高調罷免 Altman 的風波。作為 AI 保守派,在今年7月時,Sutskever 就組建了一個團隊,致力於限制 AI 潛在的安全威脅。 

其次是,在 Altman 離開後,高級研究員 Szymon Sidor、Jakob Pachocki 和總裁 Greg Brockman 相繼辭職的事實也證實了雙方在商業化和安全性方面的觀念分歧。

 

cnBeta
作者

cnBeta.COM(被網友簡稱為CB、cβ),官方自我定位「中文業界資訊站」,是一個提供IT相關新聞資訊、技術文章和評論的中文網站。其主要特色為遊客的匿名評論及線上互動,形成獨特的社群文化。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則