在暗網世界裡,駭客可能用AI再重新創造了一個「你」

駭客們已經能夠收集、管理和維護他們所侵入的使用者的大量資料,這意味著,如果你的筆記型電腦被駭客入侵,駭客的戰利品不一定是被入侵的電腦,而是你電腦上的所有資料,有了這些訊息,透過特定瀏覽器和代理服務器來模仿真實使用者的活動。再加上盜取的網路使用者的帳戶訊息,攻擊者就可以自由地以該使用者的名義進行新的、可信的交易——包括使用信用卡消費。

在暗網世界裡,駭客可能用AI再重新創造了一個「你」

今年2月,卡巴斯基實驗室的詐欺偵查小組搗毀了一個名為「創世紀」(Genesis)的暗網市場。該市場出售「數位身份」(網際網路使用者的電子身份訊息),每條訊息起價5美元,最高可達200美元。

出價取決於所購買訊息的價值——例如,一個包含使用者銀行登錄訊息完整配置文件的數位遮罩,會比一個瀏覽器指紋的價格要高的多。

數位遮罩是指使用者設備指紋(設備ID、硬體、作業系統、IP地址、螢幕解析度、韌體版本、瀏覽器、瀏覽器外掛、時區、GPU訊息、WebRTCIPs、Tcp/IP指紋、cookie等)及其個人行為屬性(在特定網上商店花費的時間、與興趣相關的行為、滑鼠/觸控螢幕行為等)的唯一組合。

駭客們通常會用惡意軟體攻擊他人電腦,並且找到並複製這些個人資料以及其他個人身份識別訊息。

用AI在暗網再造一個「你」

「在這一點上,駭客們已經能夠收集、管理和維護他們所侵入的使用者的大量資料,」一家基於機器學習的技術公司的產品經理ImranMalek說,「這意味著,如果你的筆記型電腦被駭客入侵,駭客的戰利品不一定是被入侵的電腦,而是你電腦上的所有資料,包括所有的身份識別訊息。」

有了這些訊息,透過特定瀏覽器和代理服務器來模仿真實使用者的活動。再加上盜取的網路使用者的帳戶訊息,攻擊者就可以自由地以該使用者的名義進行新的、可信的交易——包括使用信用卡消費。

卡巴斯基實驗室(KasperskyLab)全球研究與分析團隊(Global Research&Analysis Team)高級安全研究員SergeyLozhkin表示:「我們看到了一個明顯的趨勢,全球範圍內的信用卡詐欺行為日益增多,儘管該行業在反詐欺措施方面投入了大量資金,但這種數位孿生(Digital Twins)很難被發現。」

圖片來源:Kaspersky Lab 

用AI對抗AI

在打擊「暗網」犯罪的過程中,人工智慧正成為一把利器。

MIT在今年5月13日的一篇文章指出,暗網犯罪有一些特點可以被追蹤。

消失速度極快是「暗網」犯罪的一大特徵,因為它們可能遭到其他駭客攻擊、安全部門突擊搜查,或者本身就是被設計成一個「退出騙局」——顧客為未完成的訂單付費後,該網站會故意關閉。

林肯實驗室(MIT Lincoln Laboratory)人工智慧技術與系統集團(Artificial Intelligence Technology and Systems Group)研究員CharlieDagli就表示:「暗網交易市場的『彈出式』特性使得跟蹤參與者及其活動變得極其困難。」

圖片來源:mit.edu

賣家和買家在網路的多個層面(從表面到黑暗)以及在黑暗網路論壇上進行聯繫。「這種網站之間的不斷切換現在已經成為暗網市場運作方式的既定組成部分。」Dagli說。針對這一情況,林肯實驗室正在開發新的人工智慧軟體工具來分析表面和暗網資料,他們訓練機器學習演算法來計算不同論壇上使用者之間的相似度,自動形成人物角色連結。

該演算法首先從一個論壇a的使用者那裡獲取資料,並為每個使用者創建一個著作權模型。然後,將論壇b上使用者的資料與論壇a上的所有使用者模型進行對比,該演算法尋找簡單的線索,比如在兩個論壇中一個叫「sergeygork」,另一個叫「sergeygorkin」,或者把「joenightmare」拼寫為「joeknight」等等。

演算法關注的另一個特性是內容相似性。

「因為很多內容都是複製貼上的,所以類似的話可能會來自同一個使用者,」Dagli說。然後,系統查找使用者網路中的相似點,即使用者交叉的區域,以及使用者討論的主題。然後將配置文件、內容和網路特性融合為一個輸出:兩個論壇中的兩個人物角色代表同一個現實生活中的人物的概率,這個匹配正確率高達95%。

這個項目在實際應用中取得了很好的效果,林肯實驗室參與開發了美國國防部高級研究計畫署(DARPA)的Memex,曼哈頓地區檢察官Cyrus Vance jr.在一份提交給美國眾議院的書面證詞中稱,僅在2017年,他的辦公室就使用Memex工具搜索出超過6000名人口販賣嫌疑人。

Memex

駭客利用機器學習進行對抗性訓練

安全部門及相關公司利用機器學習打擊「暗網」犯罪的同時,駭客也開始利用機器學習進行對抗和犯罪。

比如上文中提及的「創世紀」,駭客利用「數位孿生」作為數位面具模仿真實的使用者,並選擇網路安全技術來通過詐欺檢測協議。「如果一邊是機器學習,那麼另一邊也是機器學習,」Malek說,「現在,駭客和壞蛋們正在實施他們自己的方案,作為一種對抗性的機器學習訓練。」

在暗網世界裡,駭客可能用AI再重新創造了一個「你」

另外,早在2017年的DEFCON大會上,安全公司Endgame也披露了OpenAI框架可以被用來定製惡意軟體,用以創建安全引擎無法檢測到的惡意軟體。其原理是自動改變一部分被認為是惡意的二進制文件,使其在防毒軟體中看起來是值得信賴的。

同樣還有網路犯罪自動化(Cyber crime Automation),有一種叫做Hivenet的智慧殭屍網路。他們就像寄生蟲一樣潛伏在人們的設備中,自動決定誰是下一個使用受害者資源的人。

而這類似於這種惡意詐欺和攻擊的軟體,多數是在暗網中發佈的。根據英國虛擬專用網路(VPN)比較服務發佈的暗網價格指數,從用於攻擊知名品牌的即時釣魚網頁到密碼破解工具、WiFi網路駭客程式,以及各種功能的駭客工具,有一些只需要2美元就可以買到,其中就包括一些用人工智慧產生的定製惡意軟體。

結語

人工智慧作為一項技術本無善惡之分,但是正如網路除了我們日常可以接觸到的表面,還存在一個「暗網」一樣,人工智慧也可能被心懷不軌的人利用,作為一個犯罪工具。

而對於AI從業者來說,也許以後在進行開發時,不僅需要考慮技術本身,還需要評估是否存在隨之而來的負效應,以決定這項成果是否適合發佈或者開源。

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則