2400名 AI 專家承諾抵制殺手機器人,馬斯克積極響應 包括Google旗下DeepMind的聯合創始人和SpaceX公司的執行長在內的2400名人工智慧科研人員簽署宣言,承諾阻止致命的人工智慧武器。

數千名專攻人工智慧(AI)的科學家已經宣布,他們將不會參與開發或製造在自動狀態下具備識別和攻擊行為的人工智慧機器人。GoogleDeepMind的Demis Hassabis(傑米斯.哈薩比斯)和美國火箭公司SpaceX的Elon Musk(伊隆.馬斯克)都在這項承諾的2400多名簽署者之列。該承諾宗旨在阻止軍事公司和國家執法機構建造致命的自動武器系統。

2400名AI專家承諾抵制殺手機器人,馬斯克積極響應

這一宣言的簽署是人工智慧領域的組織和科學家的最新舉措,強調將生死的決定權交給人工智慧機器的危險性。同時呼籲相關人士要未雨綢繆,禁止技術濫用,因為這可能會催生出新一代大規模殺傷性武器。

這一承諾是由波士頓的Future of Life Institute(生命未來研究所)組織策劃的,它呼籲各國政府訂定商定規範、法律和法規,這些措施將扼殺和有效的禁止殺手機器人的發展。

在今天沒有此類措施的情況下,簽署者承諾「既不參與也不支持發展、製造、貿易或使用致命的自動武器」。超過150個與人工智慧相關的公司和組織也加入了簽署者的行列,這一承諾在前幾日於瑞典斯德哥爾摩舉行的國際人工智慧聯合會議(國際聯合會議)上宣布。

蒙特利爾學習算法研究所的人工智慧先驅Yoshua Bengio在接受衛報採訪時表示,如果這一承諾能夠讓那些製造自動武器的公司和軍事組織蒙羞,公眾輿論就會反對他們。「由於國際條約和公開羞辱,這種方法實際上適用於地雷,儘管像美國這樣的主要國家沒有簽署禁止地雷的條約。美國公司已經停止製造地雷。」Bengio也簽署了承諾,表達了他對「致命的自動武器的強烈關注」。

2400名AI專家承諾抵制殺手機器人,馬斯克積極響應

軍方是人工智慧技術的最大資助者和採用者之一。有了先進的計算系統,機器人可以在惡劣的地形上空飛行,在地面上步行,在海底巡邏。更先進的武器系統正在醞釀之中,週一,英國國防內閣Gavin Williamson(加文.威廉姆森)公佈了一項20億英鎊的計劃,計劃購買一架新的英國皇家空軍戰鬥機 - Tempest(暴風雨),它將能夠在沒有飛行員的情況下飛行。

英國的內閣們表示,英國並沒有發展出致命的自動武器系統,而且英國軍隊將永遠對其部署的武器進行監督和控制。但活動人士警告說,人工智慧和其他領域的快速發展意味著,現在可以製造出先進的武器,在未經人類控制者同意的情況下,識別、跟蹤和射擊人類目標。對許多研究人員來說,讓機器來決定人類的生存和死亡,這超越了道德底線。

「我們需要把自動武器不被接受作為國際準則。人類必須永遠擁有控制權,」雪梨新南威爾士大學的人工智慧教授Toby Walsh說:「我們不能阻止一個意志堅定的人製造自動武器,就像我們不能阻止一個意志堅定的人製造化學武器一樣。」他補充說,「但如果我們不希望流氓國家或恐怖分子輕易獲得自動武器,我們必須確保武器公司不會公開出售這些武器。」

研究人員可以選擇不去研究自動武器,但是其他人在他們發表的突破性進展上所拓展的事情,實際上超出了他們的控制範圍。英國蘭卡斯特大學的另一位簽署者,科學與技術人類學教授Lucy Suchman表示,儘管研究人員不能完全控制他們的工作成果如何被使用,但當他們有顧慮時,他們可以參與並進行干預。

她說:「如果我是一名簽署了承諾的機器視覺研究人員,我將首先承諾追踪我的技術的後續使用,並公開反對他們的應用程式來實現自動化目標識別。其次,我會拒絕參與任何建議或直接幫助將這項技術整合到自動武器系統中。」

本文授權轉載自網易科技

使用 Facebook 留言

Max
1.  Max (發表於 2018年7月29日 23:49)
.

太平洋東邊在簽署宣言,承諾阻止致命的人工智慧武器。

太平洋西邊可是正在全力開發致命的人工智慧武器。

.

發表回應

謹慎發言,尊重彼此。按此展開留言規則