OpenAI CEO 出席美國國會聽證會表示AI很危險:假新聞與失業問題嚴重,如果不介入就會失控

OpenAI CEO 出席美國國會聽證會表示AI很危險:假新聞與失業問題嚴重,如果不介入就會失控

美國參議院針對人工智慧舉行的首場大型聽證會涵蓋了許多方面,從生成式人工智慧的爆發,到社會和民主因此而感受到的生存危機。

美國參議院小組委員主席理查德・布盧門撒爾(Richard Blumenthal)在聽證會一開始播放了一段音訊。音訊中說話的人聽起來像是他本人,但實際上卻是由人工智慧合成的。明尼蘇達州民主黨參議員艾米・克羅布查(Amy Klobuchar)則與田納西州共和黨參議員瑪莎・布萊克本(Marsha Blackburn)開玩笑說,根據 ChatGPT 的答案,誰的州有最好的音樂家。

但與這種輕鬆愉快的態度形成鮮明對比的是,人們已經意識到,這是一種可能改變一切的技術,而美國國會恐怕難以足夠迅速地制定保護消費者的各種規則。

與 Facebook CEO 馬克・祖克柏(Mark Zuckerberg)和 TikTok CEO 周受資的待遇相比,ChatGPT 開發商 OpenAI 的 CEO 山姆·阿特曼(Sam Altman)在國會受到了更加熱情和誠摯的接待。參議員們似乎接受了他的警告,相信人工智慧會「對世界造成重大傷害」,並呼籲對這項新興技術設定一些監管。

AI的發展需要政府管理

南卡羅來納州共和黨參議員林賽・格雷厄姆(Lindsey Graham)將人工智慧技術比作核反應爐,認為相關企業應該申請執照,並對監管機構負責。其他參議員也認同這一觀點,他們認為國會行動速度過慢,無法跟上創新速度,因此應當設立新的機構來為這樣一個充滿活力的行業制定規則。

「我會建議成立一家新機構,任何超過一定規模的計畫都要獲得許可才能進行,許可也可以收回,以確保達到安全標準。」阿特曼說。

他補充道,這樣一個美國政府機構可能有助於在全球範圍內形成對人工智慧監管的共識。阿特曼表示,這完全有可能實現,因為運行人工智慧應用所需的龐大算力的供應鏈,大部分都由美國設計和控制。

假新聞與選舉

阿特曼警告稱,人工智慧有能力增強現有技術傳播虛假資訊的能力。他引用了人們之前對 Photoshop 的擔憂,並表示人工智慧生成的圖像也會對現實產生同樣的扭曲作用,而且實際影響要大得多。

「我們很擔心這會對選舉產生影響。」阿特曼說,「這不是社群媒體,二者並不一樣,所以我們需要採取不同的應對措施。」

有人認為,OpenAI 這樣的公司應該暫停生成式人工智慧工具的開發,因為這種工具可以產生無法與人類語言相區分的內容。但與聽證會的證人一樣,參議員也認為,在中國等競爭對手紛紛加大人工智慧創新之際,暫停美國的創新是不明智的。

阿特曼補充,OpenAI 尚未推進其大型語言模型工具的下一個更新。「我們還沒有開始訓練 GPT-5。」他還補充道,該公司未來 6 個月沒有訓練 GPT-5 的計畫。

互動必須要有透明度

與阿特曼一同出席聽證會的 IBM 首席隱私和信任官克里斯蒂娜・蒙哥馬利(Christina Montgomery)表示,透明度應當成為人工智慧監管的核心,這樣才能讓使用者知道他們的對話對象不是人類。

「消費者應當知道他們什麼時候與人工智慧系統互動,以及他們是否可以求助於真人。」蒙哥馬利說,「無論什麼情況,都不能欺騙任何人與人工智慧系統互動。」

蒙哥馬利和阿特曼也都同意,應該為使用者賦予選擇權,讓他們自己決定是否可以用自己的資料來訓練人工智慧產品。

美國田納西州參議員布萊克本為該州著名的鄉村音樂行業代言,她表示,她的辦公室曾經讓人工智慧工具寫一首加斯・布魯克斯(Garth Brooks)的歌曲,結果令人震驚。她向阿特曼詢問了對歌手和詞曲作者的版權保護措施。阿特曼承諾與藝術家合作,並強調內容創作者將受益於人工智慧工具,並且可以保持對自己作品的控制。

「如果我們不介入,事情就會失控。」

勞動力市場要面臨失業挑戰

阿特曼表示,他最大的擔憂來自人工智慧對勞動力市場的衝擊,因此呼籲國會幫助解決這一問題。不過,他也表示,人工智慧更擅長具體的任務,而非某個職業。即使某些崗位因此消失,人工智慧也有望創造許多更高品質的崗位。

「隨著我們的生活品質提高,加上我們創造的機器和工具可以幫助我們過上更好的生活,我們的工作門檻也會提高。」阿特曼說,「我對未來的工作機會非常樂觀。」

布盧門撒爾也提到,勞動者被取代「或許是人工智慧進步的最大噩夢」。他強調,必須要培訓勞動者學習新的技能,應該將此作為他所謂的「迫在眉睫的新工業革命」的一部分。

cnBeta
作者

cnBeta.COM(被網友簡稱為CB、cβ),官方自我定位「中文業界資訊站」,是一個提供IT相關新聞資訊、技術文章和評論的中文網站。其主要特色為遊客的匿名評論及線上互動,形成獨特的社群文化。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則