想要如攻殼機動隊的笑臉男在人臉辨識鏡頭前「消失」?你需要穿上這件T恤

現在很多地方都有攝影鏡頭,搭配背後的AI臉部辨識演算法,如果在結合上人口資料庫,將很輕易地辨識出你在鏡頭前的蹤影,記錄你的行蹤,中國的「天眼」系統就是這個樣子。不過,我們有沒有拒絕自己的臉孔在公共場所被辨識出來的權利呢?就像是攻殼機動隊中的「笑臉男」那個樣子?為了解決這個問題,或許你需要這件T恤。

深度神經網路通常用於對圖像、聲音或者其他輸入進行辨識和分類,要實現精確辨識,研究人員就要用上百萬的示例訓練這些演算法。反過來說,既然我們知道瞭如何訓練特定網路,那我們也就知道瞭如何反向訓練特性網路,以產生相應的對抗式辨識模型。

當迎面走來一位穿著白T恤的男性和一位穿著黑T恤的女性時,如果我們臉部辨識的AI鏡頭中觀察,會驚訝地發現AI只偵測到畫面中女性的臉孔。

別擔心,這並不是內部程式的性別歧視,問題出在衣服上。

當仔細觀察這位男性穿的白T,第一印像是怪醜怪醜的,再看看,T恤上印有千變萬化的色塊,不過和普通T恤也沒什麼大的差別。

全球首例!移動材料上實現動態對抗,這件T卹讓你在AI眼皮下隱身

這就是你輕敵的地方了。

別看這件T恤設計得不怎麼入眼,來頭卻不小,這是由IBM、MIT和東北大學的研究人員共同設計的,當你穿上這件T恤的時候,在AI的眼中看來,你就能神奇地和背景融為一體,就這麼消失在了鏡頭之中。

東北大學電氣與電腦工程助理教授Shelley Lin表示:「深層神經網路非常強大,但也十分脆弱。當穿上T恤,深層神經網路很可能無法在圖像中辨識你。」

說了這麼多,來看看這件T恤的「賣相」:

全球首例!移動材料上實現動態對抗,這件T卹讓你在AI眼皮下隱身

道理雖然都懂,但是能把T恤設計得稍微再好看一些嗎?

首個實現動態對抗攻擊的竟然是這件T恤?!

說到對抗模型的建立,很多人可能對此不屑一顧,這不很早就有了嗎?

那我們就先來看看目前的部分戰績:

2016年,美國卡內基美隆大學和北卡羅來納州教堂山分校的研究人員發明了一種眼鏡,該眼鏡能「迷惑」住臉部辨識技術,進而將佩戴者分類錯誤;2017年10月,加利福尼亞大學柏克萊分校電腦科學博士生Dan Hendrycks就「成功」地讓AI系統將「停止」路標辨識為了「限速45」路標。

全球首例!移動材料上實現動態對抗,這件T卹讓你在AI眼皮下隱身

的確,這些對抗模型效果很好,近兩年的發展似乎也還挺順利。

但要提醒的是,大家可能還混淆了一個概念,上述兩例都是在靜態材料中生成的對抗性攻擊,如果想要在影片上進行動態對抗,困難指數就得加倍。比如,在設計這件T恤的時候,研究人員就必須考慮,T恤在穿戴者移動時會起皺和摺痕,否則就會直接影響到對抗效果。

卡利亞里大學助理教授、第一個對抗性示例的創建者Battista Biggio說:「對於物理攻擊,真正的挑戰是在整個影片持續時間內保持未被發現的狀態。」Biggio開發的首個對抗性系統成功地欺騙了垃圾郵件檢測程式,「當檢測在每一格中進行時,要始終保持未被檢測到要困難得多」。

為了實現動態對抗,研究人員使用了Lin所說的「變壓器(transformer)」,這是一種測量T恤運動方式隨後將其映射到設計中的方法。

通過專門研究兩個通常用於訓練目的的對象辨識神經網路YOLOv2和Faster R-CNN,團隊發現,增加像素噪聲會使AI混淆身體區域,進而使穿上T恤的人在AI攝影鏡頭下「隱身」。

隨後,研究人員記錄了一個穿著棋盤格圖案T恤的人走路,跟蹤棋盤上每個方塊的角的變化,進而準確地繪製出了人移動時T恤的起皺規律。當整個模式建立起來之後,針對YOLOv2的對抗能力從27%提高到了63%,針對Faster R-CNN的對抗能力從11%提高到52%。

基於此,全球首個在移動材料上實現動態對抗的設計就創建成功了!

全球首例!移動材料上實現動態對抗,這件T卹讓你在AI眼皮下隱身

人們能藉此重獲隱私主權嗎?

這種對抗攻擊的原理,其實和深度神經網路的訓練是同宗同源的。

我們都知道,深度神經網路通常用於對圖像、聲音或者其他輸入進行辨識和分類,要實現精確辨識,研究人員就要用上百萬的示例訓練這些演算法,直到系統最終能辨別個人的相貌和聲音等。

同時,反過來說,既然我們知道瞭如何訓練特定網路,那我們也就知道瞭如何反向訓練特性網路,以生成相應的對抗式辨識模型,比如讓系統將熊貓辨識為長臂猿。

全球首例!移動材料上實現動態對抗,這件T卹讓你在AI眼皮下隱身

當我們深入到辨識過程中,神經網路會在需要辨識的人物或事物周圍繪製一個「邊界框」,隨後再為該對象分配標籤。也就是說,只要能找到神經網路的邊界點——在AI看來某個物體是否為該物體的閾值,就足以創建可混淆AI分類和標籤系統的設計。

之前,Lin和同事在研究一種用深層神經網路訓練的物體檢測器,利用這種檢測器能快速並準確地標記影片中的「人」、「馬」或「傘」等,但他們想藉此發現在深度神經網路中存在的漏洞,「未來,希望我們能夠解決這些問題,進而不會欺騙深度學習系統」。

這件T恤就是成果之一。

對於這件能保護人們訊息安全的T恤,讓人瘋狂想要入手了。但Lin對此表示,在現實中不太可能看到這些T恤,她解釋道:「我們仍然很難使它在現實世界中正常使用,前提條件是,我們必須知道檢測演算法的所有細節。因此這件T恤並不完美,這裡那裡可能都存在問題。」

在總結AI屢屢失利的原因時,谷歌AI工程師François Chollet表示,「深度神經網路十分脆弱,這無法從根本上解決」。

不過,克服這些缺陷的方法也還是存在的,研究人員需要額外增強模式匹配,例如,讓AI自己探索世界,編寫自己的程式碼並保留記憶。一些專家認為,這類系統將成為未來十年AI研究不可忽視的一部分。

這件T恤的開發也標誌著AI辨識面臨著越來越強的危機感,人們或許能在訊息隱私方面逐漸重新獲得主權。

資料來源:

本文轉載自大數據文摘

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則