死者照片竟被拿來訓練臉部辨識模型,PimEye網站被批:還需「本人」才能要求刪除

死者照片竟被拿來訓練臉部辨識模型,PimEye網站被批:還需「本人」才能要求刪除

PimEyes是一個臉部識別搜尋網站,透過搜尋一張照片就能暴露這個人的各種資訊,如果想要刪除照片,必須訂閱會員。不過,該平台也有許多爭議,包括未獲得知情權情況下公佈他人照片,拿死人的照片來訓練演算法。

當你在PimEyes上搜尋自己的照片時,你會看到很多自己的照片,還有跟你長得很像的人。

死者照片竟被拿來訓練臉部辨識模型,PimEye網站被批:還需「本人」才能要求刪除

然而,這個工具在進行演算法訓練的時候,使用的並不是使用者授權的照片,而是基於整個網路各個平台的照片,來進行臉部識別。

因此在你的照片被識別後,搜尋結果往往會出現很多色情網站的影片截圖。不僅如此,該網站還被爆料,他們一直在盜用死人照片來訓練演算法。 

連死人都不放過

Cher Scarlett是一名軟體工程師、作家。最近,她突然發現自己母親的照片、早已過世的曾曾曾祖母和18年前去世的妹妹的照片都出現在了PimEyes上。

所有這些照片都是她和她的家人自己上傳到Ancestry網站上的圖片,Ancestry網站是全球最大的家譜網站,可以幫助你建立家族資料庫,可以上傳包括照片等資訊。雖然這個資訊是公開的,但該網站在其條款和條件中公開禁止「從Ancestry的網站和服務中搜刮資料,包括照片,以及轉售、複製或發布在Ancestry上發現的任何內容或資訊。」

因此Scarlett感到很震驚,這不僅僅違反了Ancestry的政策,而且她已故的家人根本不可能允許PimEyes用這些照片訓練他們的演算法。

死者照片竟被拿來訓練臉部辨識模型,PimEye網站被批:還需「本人」才能要求刪除

這聽起來和Henrietta Lacks的故事有異曲同工之妙:「不死的海拉細胞」幾十年來一直被用於醫學研究和藥物開發,是幾百年來最重要的醫學成就之一。

Herietta Lacks是一位非裔美國人,1951年死於子宮頸癌;然而她的細胞卻在她本人以及家人皆不知情的狀況下被當時的科學家保存,並作為實驗之用,她和她的家人從未同意進行任何研究。

雖然這兩件事不是同一個等級。但是,你的隱私在你死後應該得到尊重,這一點是成立的。

數位權利組織 Access Now 的 Daniel Leufer 表示:「雖然 PimEyes 說不會直接透過他們的網站給你這個人的身份,但你點選一下就可以看到圖片網站,網站上面確實就會出現你的名字。」

Scarlett表示「我妹妹已經死了,她也不能起死回生,去讓這個網站撤下自己的照片。」

事實上,Scarlett 先前與這個網站還有更不好的經驗。

想要刪掉自己的裸照,每個月先繳 29.9 美元

當 Scarlett 剛聽說這個軟體的時候,她本來是想測試一下和自己長得像的名人有誰。這個網站會列出相似的人臉,如果沒有人跟你相似,那麼列出來的就只有你自己。

 

死者照片竟被拿來訓練臉部辨識模型,PimEye網站被批:還需「本人」才能要求刪除

結果翻著翻著,她突然翻到自己十幾年前被性虐待的照片。當年這段經歷曾經讓 Scarlett 一度想要輕生,突然在網站上看到這些照片,她簡直崩潰了,但是她強撐著去調查這些照片的來源。但是,她發現竟然需要支付會員費用才可以查看。

支付了以後,她發現這些照片竟然分散在各個色情網站上,更要命的是,要想清除這些照片,不僅要提交申請驗明正身,還要每個月充值 29.9 美元,訂閱他們的服務,這樣才可以管理搜尋結果,隱藏一些不想被看到的照片。

Scarlett 一直嘗試清除照片,但是根本沒辦法永久消除。甚至她還買了 PimEyes 最貴的服務,都無濟於事。網站表示,只要照片後續出現在了其它網站的連結上,還是會被顯示出來。

也就是說,每個月訂閱還不夠,還得成為尊貴的年會員,定期申請清理,而且每次審批的時間也很久。直至去年 4 月,她在社群網路上分享了自己的經歷,PimEyes 才真正批准了她的刪除請求。

可能被歹徒用來跟蹤你

PimEyes 可以從一個人的照片,找到他們在網上發表的其他照片,包括發在網站、部落格、新聞、文章上各處的圖片。

然而,透過這樣的拼湊,想要調查你的人就可以找出你的工作地點,跟蹤到你的住所。人們指責 PimEyes 非法處理數百萬英國公民的生物識別資料,認為它沒有獲得圖像被分析者的許可。

儘管該平台表示,PimEyes 不是為了監視別人而設計的,但是該平台並沒有相關的措施來進行監管,因此人們也對於該平台的資料安全部門表示很不信任。

PimEyes的行為引起了很大的爭議。有人認為,將死者照片用於訓練演算法是不道德的,而且可能會導致更多的隱私問題。此外,許多人擔心,PimEyes的演算法可能會被用於不當用途,例如監視和追蹤人們的行蹤。

PimEyes的創始人表示,該網站的目的是幫助人們找到自己失散多年的親人,並且協助執法部門解決犯罪問題。但是,他們沒有說明他們為什麼需要使用死者的照片來訓練演算法。

36Kr
作者

36氪(36Kr.com)累計發表超過10.8萬條包含圖文、音訊、影片在內的優質內容。氪原創內容體系涵蓋新創公司、大公司、投資機構、地方產業與二級市場等內容模組,設置有快訊、深度商業報導

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則