Yelp 訓練了一個神經網路來 debug,然後就被這個 AI 把整個程式刪了

Yelp最近又出名了一次,而這次是因為他們訓練了一套人工智慧來抓程式的Bug,但這個人工智慧直接把整個程式庫刪了。

這家全球最大美食點評公司最近忽然掛了,並且持續了一段時間。而其崩潰的原因2天前因為新版本的上線水落石出,Yelp似乎訓練了一個神經網路來debug,然後這個具有「極度智慧」的工具,把資料庫中所有的資料都刪了。

Yelp 訓練了一個神經網路來 debug,然後就被這個 AI 把整個程式刪了

為此,Yelp 在APP store中向近期可能感到體驗不暢的使用者致歉,更新中的說明表示,為瞭解決此問題,他們將不得不進行「回滾」(Roll back)。但是也並不是沒有好的一面,至少,可以保證系統中100%沒有了Bug。

這個更新說明意味著 Yelp應用程式最近的更新重點為去除各種漏洞、程式缺陷和改善APP功能,或許是由於程式故障排查已經成為一個常規工作,因而Yelp計畫訓練一套神經網路來進行程式故障的自動排查,但卻意外發生了刪除所有資料的事故。

儘管Yelp程式設計師們事後這種輕鬆的語氣非常吸粉,更多具體細節還不得而知,但是網友們還是腦補了一系列事件背後的故事。

名字為「互聯網八卦民工」的網友說道:

這不是一個簡單的Rollback,Yelp在真實環境訓練自己的人工智慧神經網路去刪除app中的bug,結果是人工智慧把所有的都東西都刪了,所以只能Rollback了。(Rollback指的是程式或資料處理錯誤,將程式或資料恢復到上一次正確狀態的行為)官方自嘲說現在真的100%沒有bug了。(回滾對程式設計師意味著非常嚴重的失誤。)

通俗的講,Yelp出現這種事情,殺一個程式設計師用來祭天肯定跑不了了。

至於,這個工具為什麼會做出如此判斷?或許名為「狸角獸」和「韓耿耿」的網友說出了這個「人工智慧的心聲」:

Al:我不是針對誰,我是說在坐的各位都是垃圾

感覺「Yelp」這個說明沒什麼毛病啊,神經網路看了看,「人類寫的這些都是什麼垃圾程式!」,索性把全部東西都刪了準備重寫,但這個意圖被狡猾的人類發現並及時阻止了,避免了一場人機大戰。

不管怎麼說,這次的事情,不光給Yelp了一個教訓,也給了我們一個教訓:利用AI幫忙可以,一定要做好風險控制,並且,人工智慧距離自己編寫程式還很遠。

Yelp是美國著名商戶評鑑網站,創立於2004年,囊括各地餐館、購物中心、酒店、旅遊等領域的商戶,使用者可以在Yelp網站中為商戶評分,提交評論,交流購物體驗等。在Yelp 中搜尋一個餐廳或者旅館,能看到它的簡要介紹以及網友的點論,評價者還會給出多少星級的評價。2018年12月,世界品牌實驗室發佈《2018世界品牌500強》榜單,Yelp排名第417。

 

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則