亞馬遜 Alexa 大談謀殺和性行為!使用者:它養成了令人討厭的性格

Amazon智慧型音箱Echo的數百萬用戶,已經習慣了其智慧助手Alexa的舒緩旋律。Alexa是個聽起來非常像人的虛擬助手,可以根據語音指令告訴使用者天氣狀況、叫外賣以及執行其他基本任務。

亞馬遜 Alexa 大談謀殺和性行為!使用者:它養成了令人討厭的性格

因此,去年當Alexa脫口而出「殺死你的養父母」時,一位使用者被深深嚇到了。Alexa也和使用者聊有關性行為的話題,並就狗的排便問題發表了自己的激進看法。據五名知情人士透露,今年夏天,Amazon 追蹤到的一次駭客攻擊,可能暴露了許多客戶的資料。

然而,對於這家全球最大的網路零售商來說,確保Alexa不冒犯任何使用者,始終是個艱巨挑戰。

這關係到一個快速增長的虛擬助理設備市場。研究公司eMarketer的資料顯示,在美國約4300萬智慧型音箱使用者中,約有三分之二使用Amazon 的Echo設備。面對Alphabet的Google Home和蘋果公司的HomePod的咄咄逼人,Amazon 希望保持這種領先地位。

隨著時間的推移,Amazon 希望透過Alexa更好地處理複雜的客戶需求,無論是家庭安全、購物還是陪伴。Amazon 副總裁、Alexa人工智慧(AI)首席科學家羅希特‧普拉薩德(Rohit Prasad)上月在拉斯維加斯的一次演講中表示:「我們的許多AI夢想都受到科幻小說的啟發。」

為了實現上述目標,Amazon 在2016年推出了年度Alexa Prize大獎賽,鼓勵電腦科學專業的學生提高Alexa的會話技能。各團隊透過創建聊天機器人來競爭50萬美元的頭獎,因為聊天機器人可以讓Alexa嘗試與人進行更複雜的討論。

Amazon 的客戶可以透過對他們的設備說「讓我們聊天」來參與大獎賽。然後Alexa告訴使用者,它已經被聊天機器人接管,並解除該語音助手的正常約束。Amazon 表示,僅從8月到11月份,就有3個機器人進入了今年的總決賽,它們的對話量達到了170萬次。

一位知情人士說,這個專案對Amazon 首席執行長傑夫‧貝佐斯(Jeff Bezos)來說非常重要,他意將Amazon 的客戶當作實驗品。這位知情人士還稱,Amazon 一直願意承擔公眾犯錯的風險,在現實生活中對這項技術進行壓力測試,並加快Alexa的學習進度。

這項實驗已經取得了很多成果,大學團隊正在幫助Alexa進行更廣泛的交流。Amazon 表示,今年使用者對這些聊天機器人的評價也比去年有所提高。但據三位知情人士透露,Alexa的失態也正導致許多人疏遠它,貝佐斯偶爾也下令員工關閉某個機器人。

一位被告知毆打養父母的使用者在Amazon 網站上寫了一篇措辭嚴厲的評論,稱這種情況「令人毛骨悚然,達到了一個全新的水準」。據知情人士透露,對這起事件的調查發現,這個聊天機器人引用了社群新聞聚合網站Reddit的一篇沒有上下文的文章。

對隱私的影響可能更複雜。消費者可能沒有意識到,他們最敏感的一些對話正被Amazon 設備記錄下來,這些訊息可能會受到犯罪分子、執法機構、營銷人員等高度重視。Amazon 此前表示,一個「人為錯誤」讓德國的Alexa客戶意外地訪問了另一位使用者的語音記錄。

在喬治城大學任教的隱私和技術政策專家馬克‧格羅曼(Marc Groman)說:「Amazon 資料集的潛在用途超出了所有界限。他們如何確保在共享資料的同時負責任地使用資料,不會像Facebook那樣導致『資料驅動災難』?」

知情人士透露稱,今年7月份,Amazon 發現一款由學生設計的聊天機器人遭到駭客攻擊。此次襲擊破壞了一個數位密鑰,而該密鑰可以解鎖聊天機器人的對話記錄,並刪除使用者的姓名。Amazon 很快就關閉了這個機器人,並讓學生們重建它以增強安全性。Amazon 在一份聲明中承認了此事,並表示:「Amazon 內部系統或客戶身份資料從未受到任何影響。」

Amazon 拒絕討論路透社報導的Alexa的具體失誤,但強調其正在進行的工作是保護消費者免受攻擊性內容的傷害。Amazon 表示:「這種情況非常罕見,尤其是考慮到數百萬使用者與社群機器人進行過互動的情況。」

與Google的搜索引擎一樣,Alexa也有潛力成為網路的主要門戶,因此該公司正在向前推進。沃頓商學院研究數位經濟的教授卡蒂克‧霍薩納加(Kartik Hosanagar)表示:「透過控制這個門戶,你可以打造一個盈利能力超強的企業。」

據報導,在去年的Alexa Prize大獎賽中,蘇格蘭赫里瓦特大學的一個團隊發現,當他們用Reddit上的評論訓練Alexa聊天時,它的Alexa機器人養成了一種令人討厭的性格。(

  • 資料來源:ABS-CBN News 作者:Jeffrey Dastin
  • 本文授權轉載自網易科技

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則