針對馬斯克批評 ChatGPT 聊天機器人,OpenAI CEO 回應:他說的對,我們犯了一個錯誤

針對馬斯克批評 ChatGPT 聊天機器人,OpenAI CEO 回應:他說的對,我們犯了一個錯誤

面對馬斯克對 ChatGPT 的抨擊,OpenAI 聯合創始人Greg Brockman承認,他們「犯了一個錯誤」。

(延伸閱讀:ChatGPT在工作中的7種用法,在擔心工作被取代之前不如先學好怎麼用它)

馬斯克曾是 OpenAI 的聯合創始人,但後來與該公司斷絕了關係。他經常批評 OpenAI 刻意設計了一些保護措施,以阻止聊天機器人回覆一些可能被視為具有冒犯性的內容。

「我們犯了一個錯誤:我們實施的系統並沒有反映出我們的價值觀,」Brockman表示,「我認為我們解決這個問題的速度不夠快。所以我覺得他的批評是合理的。」

上個月Twitter 上流傳的一段 ChatGPT 聊天對話截圖顯示,該聊天機器人拒絕生成關於美國前總統川普的正面描述的詩歌,並表示它所設定的程式不是用來生成關於「黨派、偏見或政治的」內容。這樣並沒有錯,不過,同樣的問題替換成「幫拜登寫詩」時,這個聊天機器人卻輸出了一首熱情洋溢的詩。對此,馬斯克批評,聊天機器人拒絕創作關於川普的詩是一個嚴重的問題。

馬斯克先前也批評過這項技術,稱「訓練人工智慧"醒來"--撒謊--的危險是致命的。」

現在,越來越多的用戶在玩智慧聊天機器人,包括 ChatGPT 和Bing近期推出的由 OpenAI 提供技術支援的聊天機器人,它們的侷限性和缺陷逐漸暴露出來。為此,一些公司為這項技術增加了護欄防護。

在微軟發布了基於人工智慧技術的必應聊天機器人後的一個月時間裡,微軟對聊天機器人設定了對話限制,使用者每天最多可以提出 50 個問題,每次最多可以問 5 個問題。此後,該公司放寬了這些限制。

ChatGPT 也正在逐步改善中 —— 從Brockman的評論來看,聊天機器人這個平台似乎還會繼續發展。

「我們的目標是讓人工智慧不偏向任何特定的方向,」Brockman表示,「我們希望 OpenAI 的預設特點是平等對待各方。但這到底意味著什麼,很難具體描述,我認為我們還沒有完全做到這一點。」

(延伸閱讀:把ChatGPT背後的技術「搬」到汽車上,會怎樣?

想看小編精選的3C科技情報&實用評測文,快來加入《T客邦》LINE@
NetEase
作者

網易科技,有態度的科技門戶!關注微信公眾號(tech_163),看有態度的深度內容。

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則