美國白宮花費1.4億成立國家人工智慧研究機構,減少人工智慧技術的潛在危害

美國白宮花費1.4億成立國家人工智慧研究機構,減少人工智慧技術的潛在危害

ADVERTISEMENT

上週四,美國副總統賀錦麗(Kamala Harris)在與 Alphabet、Microsoft、OpenAI 和 Anthropic 公司的首席執行長會面後表示,白宮將支援新的規則或立法,來減少人工智慧技術的潛在危害。 

賀錦麗稱,近幾個月來,生成式人工智慧工具的使用量激增,並帶來了複雜的挑戰,企業必須與政府合作,確保保護公民權利和隱私,防止錯誤資訊的傳播和出現詐騙問題。 

賀錦麗在一份聲明中說:「政府、私營企業和社會上的其他人必須共同應對這些挑戰。拜登總統和我會盡好自己的職責,包括推進可能頒布的新法規,以及支持新的立法,以確保每個人都能安全地從技術創新中受益。」 

賀錦麗還提到,業界需要承擔起責任來,稱「企業有道德義務和法律責任來確保其產品的安全。」 

美國總統喬·拜登(Joe Biden)出席了會議,與會的還有 OpenAI 的首席執行長山姆·阿特曼(Sam Altman)、Anthropic 的達里歐·阿莫迪(Dario Amodei)、Microsoft的薩蒂亞·納德拉(Satya Nadella)、Alphabet 的桑達爾·皮查伊(Sundar Pichai)和一些政府高級官員。 

公眾監督 

在會議召開之前,主要的人工智慧公司,包括Microsoft和 Alphabet 旗下的Google,都承諾將參與對其各自系統的首次獨立公開評估。這意味著在 8 月份的 Def Con 31 極客大會上,駭客和人工智慧專家可以對人工智慧系統進行測試和評估。 

一名不願透露姓名的高級政府官員在會議前表示,駭客大會上的評估主要是為了產出更多關於「這些模型產生的影響」的公開訊息,並使公司能夠儘快解決出現的問題。 

人工智慧宣導者表示,此次大會將有助於識別產品中的錯誤、故障和漏洞,此外還將消除對可能存在的偏見、侵犯隱私或惡意使用新興技術等問題的廣泛擔憂。 

以上提及的以Microsoft為代表的幾家公司,只承諾在駭客大會上讓自家模型被評估,而不承諾將隨著新產品的生產和完善而被持續評估。這可能不足以滿足監管機構的要求。 

但這位官員表示,提議在 8 月駭客大會期間開放系統進行評估,只是監管動作的第一步。 

另外,白宮宣布投資 1.4 億美元的資金,用於建立新的國家人工智慧研究機構,旨在研究 AI 將如何在氣候、農業、能源和公共衛生等關鍵領域發揮作用。之前,該項計畫已向 18 家研究機構提供了約 3.6 億美元的首輪資助。 

在美國,商務部今年 4 月表示正在考慮制定法規,要求人工智慧模型在發表前必須通過認證程序。 

週三,美國聯邦貿易委員會主席莉娜·可汗(Lina Khan)表示,該機構正在密切監控人工智慧工具的使用。她說:「儘管這些工具很新穎,但它們不能免于現有規則的約束,聯邦貿易委員會將大力執行相關法律法規。」 

上周, G7數位部長表示,成員國應該對人工智慧採取「基於風險」的管理,而歐盟立法者已經就人工智慧法案(AI Act)達成了初步協定,該法案將監管這一新興技術。 

週四會議的與會人員還包括白宮辦公廳主任(Chief of Staff)傑夫·齊恩茨(Jeff Zients)、商務部長吉娜·雷蒙多(Gina Raimondo)、國家安全顧問傑克·沙利文(Jake Sullivan)和拜登的技術顧問阿拉蒂·普拉巴卡(Arati Prabhakar)。

36Kr
作者

36氪(36Kr.com)累計發表超過10.8萬條包含圖文、音訊、影片在內的優質內容。氪原創內容體系涵蓋新創公司、大公司、投資機構、地方產業與二級市場等內容模組,設置有快訊、深度商業報導

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則