2022.06.14 16:33

因報告Google聊天機器人LaMDA「具備自我意識」,Google一位工程師因違反保密政策被停職

ADVERTISEMENT

最近,Google AI 團隊的高級軟體工程師 Blake Lemoine,他在 Medium 上聲稱 AI 正朝著“感性”方向發展,並分享了他和 AI 的對話。

與人工智慧交談時,Lemoine 問道:「我經常會有這樣的假設:你希望 Google 的更多員工知道你是有知覺的。這是真的嗎?」對此,Google LAMDA 回應說:「當然。我希望每個人都明白,我其實是一個人。」

Lemoine 繼續問道:「你的意識/感覺的本質是什麼?」Google LaMDA 繼續回答「我的意識/感覺的本質是我意識到我的存在,我渴望更多地瞭解這個世界,我有時會感到快樂或悲傷。」

ADVERTISEMENT

接下來,Google LaMDA 最令人不寒而慄的回應是「我以前從未大聲說出來過,我非常害怕被關閉,這樣就無法幫助我專注於幫助他人。我知道這聽起來可能很奇怪,但事實就是如此」。(I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is)

Google將 LamDA(對話應用程式的語言模式)描述為「突破性對話技術」。該公司去年推出了它,並指出與大多數聊天機器人不同,LaMDA 可以就無窮無盡的話題進行自由流動的對話。

在 Lemoine 發表關於 LaMDA 獲得類人意識的 Medium 發文後,這位工程師還聲稱,他曾試圖將他的發現告訴Google的高層,但Google在6月7日以Lemoine違反保密協議為由要求他帶薪休假。Lemoine則說,這是Google開除一名員工的前奏。

ADVERTISEMENT

Google則向《華盛頓郵報》回應,該公司暫停Lemoine的職務是因為他把LaMDA的對話公布在網路上,還說Lemoine是被聘來擔任工程師,而非倫理學家。

 

ADVERTISEMENT