相關文章

1965e0888f06bd5c5966706e816228dd 在世界上占主導地位的科技企業支持下,這幾年人工智慧技術進展非常快速,面對充滿人工智慧的世界,美國著名科幻小說家,同時也是生化教授 Isaac Asimov,1950 年時即在其著作《我,機器人》中定出機器人三律,後來還成為機械倫理學基礎。

近期美國科學家 Steve Omohundro 在一份論文中提出六種邪惡的人工智慧系統,針對此,以史蒂芬霍金為首的科學家也發出警告,認為這問題的確值得擔憂。

Steve Omohundro 的論文題出一個假想畫面,一個機器人被指派運送 Amazon 商品,想當然他的腦袋裡會被植入一個系統可以處理周遭環境的阻礙,如果你試著阻止他,機器人會把你當成障礙,甚至把你處理掉。史蒂芬霍金認為,近期人工智慧雖然離科幻電影裡面的樣子還很遠,但隨著技術進展快速,人工智慧導致人類毀滅的可能性確實該被提出來討論。

史蒂芬霍金在英國媒體 The Independent 表示,Google 的自動駕駛汽車,IBM 的華生電腦贏得益智節目冠軍,蘋果的數位個人助理 Siri 等等,只是龐 IT 軍備競賽成果當中的鳳毛麟角。但是霍金指出,這些龐大投資產出的成就,絕對不包含這些技術會為接下來數十年的人類社會帶來甚麼危害。

霍金認為,人工智慧很有可能是人類最偉大的發明,但前提是,人類必須先知道避免風險的方式才有權力享有他們。然而,目前我們只知道這些技術智勝財務金融市場,比人類研究員更聰明,擺脫人類領袖的操縱,且能夠發展我們無法理解的武器。霍金指出,人工智慧短期的衝擊來自於控制他們的人,但長期來看,這些機器人能否被控制住才是個大問題。

科學家 Steve Omohundro 提出阻止邪惡人工智慧的方式,即第一時間就避免傷害性的人工智慧系統被製造出來,在寫程式的時候避免使用帶傷害性字眼的指令。此外,在邪惡的人工智慧還沒取得太多資源之前,提前偵測並立即關機,這一步驟只是要開發者注意這些自主性的系統,他你發現這系統不好的時候就趕快關機。若太晚發現,邪惡的人工智慧可能會給人類帶來一場噩夢。

看完科學家的擔憂有沒有讓你感到一點毛骨悚然呢?

本文轉載自 TechNews 科技新報

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則