無論何時何地,亞馬遜都在「注視」著你

Facebook和Google最近幾年因為侵犯網路隱私的問題在美國被抨擊得很厲害,但其實大家都忽視了另一家可能體量同樣巨大而且潛在帶來的問題更多的公司——Amazon。大家對這家公司的印象可能還停留在電商巨頭上面,但是隨著它在智慧型家居以及AI方面的不斷滲透,Amazon已經悄然在我們周圍布下了耳目,就連大家的線下隱私也可能受到威脅。

無論何時何地,亞馬遜都在「注視」著你

當你想到Amazon時,你可能會想到坐在沙發上比較購物,買到自己正好想買的東西,而且花的錢比在實體店裡支付的還要少。你可能會想到快遞正好按時把包裹放到你門口,如果東西有問題的話你可以寄回去並拿到全額退款。你可能會想到讓Alexa放首歌或者某個電視節目,或者叫它開燈,並且對它居然都能照做(通常)感到嘖嘖稱奇。你可能會想到Prime會員到全食超市(Amazon於2017年收購)買酪梨能獲得折扣。

Amazon以用低價以及無情的效率去服務客戶著稱,這也許有助於解釋為什麼在一個接一個的調查中,這家公司總是佔據美國最有價值或者最受歡迎品牌的榜首。最近的一項研究發現,Amazon在美國最受信任的機構裡面排名第二,領先於Google、警察以及高等教育體系,僅落後於美國軍隊。在一連串沒完沒了的隱私和選舉醜聞令Facebook名聲掃地,而Google受累於YouTube的激進化與內容審核之時,Amazon正變得比以往任何時候都要強大。

但Amazon作為一個可信賴的「萬物商店」的公眾形象,掩飾了它已經變成的神秘巨獸的形象——也掩蓋了它今天建造的產品在侵蝕我們的(線上乃至線下的)隱私的行為。即便在競爭對手重新評估自身的資料實踐,反思所肩負的責任,並呼籲制定新法規時,Amazon仍在正在對監控設備加倍下注,拒絕承擔別人對其技術使用方式的責任,並無視學者、媒體、政治家以及自己員工的關切。

喬治城大學公共利益律所(Georgetown Law's Institute for Public Representation,IPR)的專職律師Lindsey Barrett 說:「我們都希望他們造的不是圓形監獄。」該律所是19家監督組織組成的團體的法律顧問。上個月,IPR向FTC(美國聯邦貿易委員會)發出呼籲,要求調查Amazon是否涉嫌違反保護兒童兒童隱私方面的聯邦法律。包括其他關切在內,他們發現即便父母試圖刪除資料,Amazon的Echo Dot兒童版智慧型音箱仍保留了兒童的錄音和個人資料。Amazon將至少該問題的一部分歸咎於一個軟體漏洞,並且說已經得到了修復。

雖然此案的結果仍有待觀察,但這個訴訟只是冰山一角。今天的Amazon在公共網路上的勢力範圍很廣;它利用了人工智慧來處理世界上許多大公司和機構(包括中央情報局)的資料;它還跟踪使用者購物習慣,為定向廣告建立詳細的使用者畫像; 並且把連接雲端的、由AI支援的音箱和螢幕買到家庭裡面。它收購的一家公司生產的Wi-Fi路由器可以組成網狀網路連結我們的私有網際網路流量。透過子公司Ring,Amazon將監控攝影鏡頭放置到數百萬家庭的門鈴上,並邀請他們跟鄰居與警方一起在一個預防犯罪的社群網路上分享鏡頭。它還向警方和私營企業出售人臉辨識系統。

Amazon基本上是在販賣恐懼

就像專利、合約標書以及營銷材料所勾勒那樣,明天的Amazon可能會更加無所不在。想像一下到處都是Ring門鈴監視器的情形,想像一下多到你沒法不驚動鄰居和警察的情況下出門會如何。設想如果這些攝像機內建了人臉辨識系統,可以作為一個網路一起工作,從而辨識被認為可疑的人會如何。再設想汽車和無人機上的Ring監控攝影鏡頭,托兒所裡面的Ring嬰兒監視器,以及從學校到酒店乃至於醫院的各種Amazon Echo設備。現在再想像一下,所有這些Alexa支持的智慧型音箱和螢幕均可辨識你的聲音並分析你的講話模式,可以知道你什麼時候生氣、生病或想買東西。《電訊報》上週報導了Amazon在2015年申請的一項專利,即所謂的「 監視即服務」 系統,用這個來概括它已經在售的許多產品似乎挺貼切的。

無論何時何地,亞馬遜都在「注視」著你

在這背後的是同一家公司,這家公司的領導曾經常將隱私問題視為誇大其詞,將內部異議視為無足輕重,把對Amazon技術可能的濫用視為別人的問題。

Amazon雲端業務的負責人Andy Jassy在本月早些時候的Code Conference上曾說:「僅僅因為技術有被濫用的可能性並不意味著我們就應該禁止並聲討它。」他認為禁止人臉辨識系統(也許是有效的監視工具,但往往會歧視有色人種)就好比禁止使用電子郵件或刀具——這兩種技術一種是新的,一種非常古老,它們既可用於行善也可用於作惡。他說:「你可以偷偷摸摸地用刀。」

應該說,Amazon在做的每一樣東西都有可能用來行善。它的門鈴監視器可以逮住順手牽羊的;它的人臉辨識軟體可以幫助當局追踪嫌疑人; Alexa在家裡可以有無數種用處。但是,當你把這些拼湊在一起時,該公司接入雲端的眼睛和耳朵就可以產生歐威爾式的影響,與之相比,在隱私方面消費者往往最為擔憂的科技公司——Facebook和谷歌,似乎也相形見拙。

客廳有耳

讓我們從該公司那些以Alexa為引擎的設備開始,比如Amazon Echo、Echo Dot以及Echo Show等,這些已經成為了智慧型家居的主要產品。他們把接入網際網路的、永遠連網的麥克風(有時候也包括攝影鏡頭)放到了你的廚房,客廳或者臥室。對於偏執狂來說,光是這一點可能就有理由要對其退避三舍:為什麼要冒險在網際網路和家人最私密的空間之間開放一個永久門戶?但超過1億的買家已經接受了他們,相信Amazon會在此過程中保護好他們的記錄。

Amazon說Echo設備只有在聽到預設的喚醒詞,比如例如「Alexa」時才會開始錄製。不幸的是,他們的系統跟萬無一失還差得遠——幾乎每一位Alexa使用者都遭遇過類似這樣的驚嚇——錯聽成喚醒詞的設備突然之間就被啟動了。Alexa因此經常會錯誤地收集到對話片段並保存起來,並且至少有一次,Amazon曾意外地將這些記錄發送給了一位陌生人。Amazon忽視了競爭對手智慧型音箱包含有的資料隱私功能,這是無濟於事的。而且從Echo上刪除錄音要比Google Home或Apple HomePod難,對於給Echo Show等設備的攝影鏡頭上配備實體快門以防止意外錄製,Amazon一直在拖沓。(就算Facebook都一個。)

作為一家引領人機關係革命的公司,Amazon對隱私關切的態度有時候似乎不屑一顧。去年在Slate的Podcasting節目《If Then》上接受採訪時,我曾向Alexa Engine Software的副總裁Al Lindsay提問,請他指出一項他認為是有效的跟Amazon相關的資料隱私問題,或者說出一項他的團隊正在進行的與隱私有關的挑戰。他說他一個都想不出來。

無論何時何地,亞馬遜都在「注視」著你

但Amazon以外的監督者已經找到了一些。今年4月,彭博社報導稱Amazon在全球各地辦事處僱用了數千合約工來聽毫無戒心的Alexa使用者的錄音。其目標不是監視,而是想改進設備軟體。這是訓練AI的常見做法– 無論個人是否知曉,像Alexa和Siri這樣的智慧數位助理的人類使用者是訓練過程的一部分——但Amazon並沒有向使用者明確披露其系統的機制。Apple的Siri和Google的助手也用人工審核員,但他們採取了措施對使用者的錄音匿名化,而Alexa的錄音則與每個使用者的帳號、設備序列號和名字相關聯。

然後還有人指控Amazon的Echo Dot Kids Edition違反了聯邦兒童網路隱私保護法案(COPPA)。在父母試圖刪除孩子的個人訊息後設備仍設法保留,除此之外,該設備還無限期地儲存了這一訊息,並使用了一種有缺陷的簽署父母同意書的方法。IPR的Barrett說,這麼大的一家公司居然敢這麼直接地在明確面向孩子的設備上侵犯隱私,這實在是令人難以相信。

針對本文Amazon發來了一份聲明,表示自己有嚴格的協議來保護客戶的隱私和安全,並指出客戶可以隨時在Alexa應用程式或存取網路Alexa Privacy Hub來查看和刪除他們的錄音。

考慮到Amazon是在把Alexa設備部署到汽車,旅館客房,教室,甚至兒童醫院,該公司卻沒有在隱私和安全方面多做公關,這就有點古怪了。這一點似乎最終開始有所改變,上個月,Amazon聲稱推出了一系列新的Alexa隱私功能,其中包括使用者可以說「Alexa,刪除我今天說的一切。」但結果證明這個功能具有濃厚的拜占庭風格:Alexa不是在你第一次提出時刪除錄音,而是引導你打開智慧手機上的Alexa app,然後經過一長串選單選項導航。在這之後,你只能刪除一天的記錄,而不是更長的一段時間。要想刪除一切需要經過8個步驟,還需要Alexa app。Amazon仍然沒有像Google那樣提供自動刪除錄音的選項。

迄今為止,Amazon還沒有在Alexa 上推出語音廣告,這可能有助於強化公司是賣東西的形象,而不是讓你成為產品。但這並不意味著你的Echo不會收集資料並從中獲利。現在它已經跟踪你的購買和音樂選擇以用於產品推薦了。雖然它沒有像Google或Facebook那樣受到同樣的審查,但Amazon的數位廣告業務正在悄然蓬勃發展:它現在已經是排在雙寡頭後面的第三大。根據最近的估計,Amazon 2019年預計將拿下美國1300億美元市場近10%的占有率。

街上有眼

然後就是Ring,Amazon在2018年初以10億美元收購的「智慧門鈴」初創企業。其他的網際網路巨頭大多將自己的窺探行為限制在使用者的網路行為上,而Ring讓Amazon以及你可以監控其他人在現實世界中的行為。其安裝在家庭和企業門外的Wi-Fi連接設備可不間斷監視30英尺半徑範圍的情況,並在檢測到運動時捕捉影片。使用者可實時查看攝影鏡頭內容,付費後還可以儲存和觀看錄製的內容。

這些監視能力並不新鮮:企業和大廈一直都部署有昂貴的安全攝影鏡頭系統。但就像Amazon之前的電子商務將其帶給大眾一樣,Ring透過將門鈴監視器嵌入到一個簡單的200美元套餐中來讓這項服務變成主流,同時還不斷地向普通家庭以及警察部門積極推銷。Amazon現在是門鈴監視器市場的主要玩家,一位分析師預測,這個家庭監控攝影鏡頭的子市場到2023年的規模將達100億美元。

Ring不滿足於讓使用者監視他們自家的前院,還通透過名為Neighbors的應用程式將其攝影鏡頭變成了半公共的搜索網。Neighbors讓Ring的所有者可以上傳、分享監控錄影並彼此發表評論,使用者還可以選擇將其提供給警方。Amazon在一份聲明中表示,「Ring的Community Alerts鼓勵社區與當地警方就活動案件進行合作,以幫助社區保持安全。」

這一功能可讓部分執法機構樂壞了。CNET的一份報告發現,從休斯頓到印第安納州哈蒙德的警察部門都在跟Amazon合作向市民提供打折的Ring,同時鼓勵他們在Neighbors上分享監控視訊。紐澤西州布盧姆菲爾德的警官告訴CNET說,感謝Ring,「現在整個鎮區已獲攝影鏡頭的全面覆蓋」。阿拉巴馬州Mountain Brook的警察局長告訴該網站,透過Neighbors存取居民的Ring視訊讓他的部門幾乎免費實現了全市安全攝影鏡頭的全面覆蓋。Amazon不要求使用者向警方共享監控影片,但它面向執法部門的網站使得官方很容易就可以對任何特定使用者提出要求——而很多人可能會覺得難以拒絕這樣的請求。在技​​術上使用者在應用程式中仍保持匿名,但他們的大概位置已經很明顯了。Ring告訴OneZero稱自己致力於保護使用者隱私,並指出要求客戶與警方分享影片以換取設備折扣的計劃自己是不支持的。

你可能會認為,在大家對網路隱私的關注增加的時候,科技巨頭對涉足線下監視的想法應該給更加謹慎才是。但在Amazon這裡,你錯了。在Ring創始人Jamie Siminoff的帶領下,公司內部顯得群情激昂。2016年,Siminoff曾向員工發放迷彩T恤衫,並向「人渣犯罪分子(declared war on dirtbag criminals)」宣戰。

但該公司自己的安全,至少在被收購Amazon之前,有時就似乎有些鬆懈: Ring曾多次被發現以純文本儲存客戶的家庭WiFi密碼,並發送20毫秒的短音訊資料包給外面的伺服器。Ring迅速採取措施解決了這兩個問題,沒有任何證據表明造成了任何傷害。根據The Information的2018年報告,從2016年開始,Ring還讓烏克蘭的研發人員可存取使用者的個人視訊記錄進行分析。Amazon後來稱攔截這種做法僅限於在Neighbors app上公開分享的影片,但拒絕透露該政策是何時生效的。Ring 在一份聲明中稱:「作為一家致力於減少社區犯罪的安全公司,安全是Ring的核心,它推動了我們所做的一切,除非使用者允許或分享出去,否則沒有人可以查看使用者的錄影影片。」

Amazon已經接受了Ring這種打擊犯罪的想法。Amazon負責設備的副總裁Dave Limp在2018年9月的一次活動中表示,「 我想不到有比這更高尚的使命了。」今年早些時候,Ring 還在Facebook上推出了定向廣告,向加州山景城的居民展示了實際的監控錄影,鏡頭裡面顯示一位女性似乎正試圖破車而入。

Macomb Community College的英語教授Chris Gilliard說,「Amazon基本上是在販賣恐懼。他們在販賣這樣一個想法,一個看得更緊的社會是更安全的社會。」但這取決於你是不是被監視的人。Gilliard認為,Ring 和Neighbors實際上會讓社會對有色人種更不安全,他們在具有鄰里監督要素的社群網路中被認定為「可疑」的佔比不成比例。在過去,如果居民看到自認為可疑的人時可能會告訴鄰居或報警, 「但他們可能不會廣而告之到整個街區。但現在是了。」

雲端的腦

儘管大多數人對Amazon的印象主要還停留網路零售商上,但其實它大部分的利潤都是來自AWS,據估計,它的雲伺服器幾乎支持著半個網際網路。對於規模小一點的網站來說,AWS主要是充當起基礎架構提供商的作用。但對於世界上一些最大型的機構和公司來說,AWS還會挖掘和分析資料,對文本和圖像進行解碼,並做出預測和推薦。

美國國土安全部、國防部和中央情報局等主要執法和情報機構就是它的客戶之一。2017年,Amazon在AWS成立了一個特別的部門,負責處理機密的政府情報。AWS的客戶還包括由Peter Thiel與人共同建立的矽谷大資料公司Palantir,後者為美國移民和海關執法部門(ICE)提供軟體。現在,AWS正在跟微軟Azure爭奪一份價值100億美元的巨額合約,讓五角大樓上它的雲端,此前Google已經在自家員工的壓力下退出了。

無論何時何地,亞馬遜都在「注視」著你

AWS最具爭議性的服務是Rekognition,這是一個使用機器學習來分析圖像和影片片段的平台。Rekognition還能夠將影片錄影中的人臉與資料庫中的人臉進行對比,還有選擇臉部特徵和表情的臉部分析技術。ACLU 2018年的報告聚焦了Amazon如何向執法機構推廣其臉部辨識功能的事情,同時還指出該公司跟佛羅里達州奧蘭多市和俄勒岡州華盛頓郡的警方也建立了合作夥伴關係。

根據NPR的消息,在韓國首爾舉行的一次開發者大會上,Amazon的Ranju Das解釋說奧蘭多的警察擁有「 遍布整個城市的攝影鏡頭」,可以為Amazon提供鏡頭進行實時分析。然後,它可以將監控視頻中的人臉與資料庫中的一組照片進行比較,以便重建「嫌疑人」的下落。三月份CNET的一份報告詳細說明了華盛頓郡警長辦公室是如何使用Rekognition來辨識和逮捕入店行竊嫌疑犯的。

人臉辨識軟體有一個問題證據充分,那就是不準確,特別是在辨識有色人種時。在2018年ACLU的一項測試中,Rekognition錯誤地將28名國會議員的匹配到犯罪嫌疑人的照片上。在錯誤匹配裡面,有色人種的國會議員佔比過高。Amazon認為這項研究存在若干方面的誤導性,因為它使用匹配置信度閾值低於AWS建議,並用了過時版本的Rekognition軟體。

一些員工和股東認為Amazon為Palantir和ICE等開發人工智慧工具和臉部辨識的想法並不合適。一位匿名的Amazon員工去年秋天在Medium上寫道,約有450名員工聯名簽署了一封致CEO貝佐斯的信,呼籲該公司放棄跟Palantir合作並停止向警方提供Rekognition。該員工寫道:「像我們這樣的公司不應該介入這樣的事」。在隨後的一次採訪中,該員工表示Amazon領導層對此的回應是「 無線電靜默」。

這並不奇怪,因為AWS副總裁Teresa Carlson在2018年7月的一次安全會議上宣稱公司對警方與軍方使用人臉辨識的「堅定承諾」。Gizmodo 在2018年11月報導說,AWS CEO Andy Jassy在內部會議上再次肯定了對執法部門推銷Rekognition的做法。他說這項技術大體上是積極的,還用一個組織利用該軟體幫助查找和營救人口販運受害者的工作來強調了這一點。Jassy補充說,如果Amazon發現客戶違反了服務條款或侵犯了大家的憲法權利,將會停止與其合作。但是,當之前Carlson被問到Amazon是否會給自己所承擔的防務工作劃任何的紅線或製訂指導方針時,她的答案很明確:「我們不划任何的紅線。」

在2019年2月的一篇部落格文章裡,Amazon表示,它將對人臉辨識進行某種形式的立法以促進透明性和尊重公民權利等目標持開放態度。此舉追隨了微軟在2018年邁出的腳步,不過後者比Amazon走得遠多了,是直接呼籲要對該技術進行監管,而Amazon則一直為其使用進行辯護。「在我們提供Amazon Rekognition兩年多的時間裡,我們尚未收到一份關於執法濫用的報告,」該公司在部落格文章中說。

監視即服務

專利申請無法說明公司是否真的會做。通常,他們盡量多地申請專利只是為了萬一自身智慧財產權有朝一日能用到商業上。但儘管如此,專利仍然可以揭示特定公司對其未來幾年競爭環境的看法。如果說Amazon的專利申請可以透露任何東西的話,那就是公司將監控能力的擴展視為其未來的重要組成部分。

其中一些跟Alexa和語音辨識有關。2017年的一項申請描述了一種「語音嗅探器」演算法,該演算法可以從朋友間的對話中選出關鍵字為可定向廣告服務。另一項申請提出根據咳嗽聲,鼻塞聲或語調來推斷大家的健康或情緒狀態——再次地,定向廣告是潛在用例。

Amazon對於Ring的未來也有一些大想法。本月早些時候,Quartz報導了Amazon拿到了可能涵括安裝在汽車或嬰兒監視器上的攝影鏡頭的設備商標,也就是所謂的「 家庭與企業監控系統」。2015年時該公司提交的另一項專利明確指出,在收購Ring之前很久Amazon就一直在考慮這些問題:專利描述了這樣一個系統,客戶僱用的快遞無人機可以透過該系統飛到特定目標上方然後拍攝偵察影片。Amazon將這一想法叫做「 監視即服務」。」

Amazon會不會推出個有名字的產品或者顯然頗為敵托邦的功能令人懷疑。但是app他們還有其他一些專利,2018年11月公開的那批專利似乎是公司正在做的東西。專利描述了一個共享資料的攝影鏡頭網路如何可以與軟體一起使用,從而自動辨識面孔出現在可疑人員資料庫裡面的人。正如CNN首次報導的那樣,這聽起來很像是將人臉辨識與Ring及Neighbors 相結合的路線圖。ACLU律師稱之為為「對未來的令人不安的願景」,大家甚至無法在不被鄰居追踪的情況下走上街。

在一份發給OneZero的聲明中,Ring重申專利申請未必意味著就會去做產品,該公司表示:「我們一直在替街坊鄰里進行創新,讓我們的社區成為更好、更安全的居住地,而這項專利是增強服務的眾多想法之一」。

智慧型音箱、AI語音助手、門鈴監視器以及在公共場所的人臉辨識都有好處。這些為我們提供了便利,讓我們安心,並有可能解決可能一些否則無法解決的犯罪問題。但是如果把這些湊到一起——由一家非常大的公司控製完所有的資料,並且還跟警方和情報機構密切合作——你可能就會擁有一個規模見所未見的監視設施。

要是沒人要阻止Amazon建立這個網路的話,問題就變成了我們是否可以信任它,相信Amazon在設計產品和保護所收集的大量資料時會負責任,能考慮周到、小心謹慎——以及我們是否可以信任所有使用Amazon技術的實體也能夠負責任。

頭上的雲

跟最近幾年為隱私過失道歉並承諾解決自身問題的Facebook(且不管有沒有用)或蘋果公司(已將隱​​私作為明確的賣點)相比,Amazon迄今為止對其龐大的監控能力所引發的倫理影響幾乎沒有顯示出任何的關注。在微軟拒絕向警方出售人臉辨識技術,而Google根本沒有這一銷售業務的情況下,Amazon卻在向全國各地的警察部門進行兜售。

如果對Amazon在開發監控技術時牽涉到的社會責任所持(或沒有)立場仍有疑問的話,今年5月CTO Werner Vogels在一場官司活動中已經給出答案了。Vogels在接受BBC採訪時解釋說,確保負責任地使用其人臉辨識系統並不是Amazon要承擔的角色。他說:「這不是我要做的決定,這項技術在很多地方都得到了很好的應用。哪一項技術在什麼情況下可以用得由社會來決定。」

這種聲音被調到了最大。在2018年10月在舊金山舉行的一次技術會議上,貝佐斯將該公司簽訂的軍事合約視為應盡的愛國義務的一部分。他把公司開發高科技監控工具與書的發明進行比較,說書曾被用於行善,也曾被用於作惡。據CNN報導,貝佐斯說:「新技術裹足不前是我們最不想做的事情。」 有人可能希望Amazon最不想做的是開發會造成傷害的新技術,但顯然它的高管更加關注的是不要妨礙創新。

創新前進的步伐不可阻擋,自己創造的新技術不該由公司來引導怎麼去用,數十年來這些一直體現在科技公司的策略中。它隱含在「快速行動,打破陳規」的思潮裡,相信創新者請求寬恕要比請求允許更好。但隨著這些創新的社會成本變得越來越沉重,像Facebook,Google和Twitter這些一度違法的平台——在自家員工的敦促下——開始接受至少在某種程度上,他們確實應該對自家產品對社會的影響負責任的看法,認為自己還是有一些能力可以去積極地塑造它的。

不過似乎Amazon對他們的看法不敢苟同。

一直在研究Ring和Neighbors如何影響少數族裔的研究員Gilliard表示,他懷疑Amazon對其產品影響這種無所謂(不管是有意還是無意)的態度可能難以為繼。他告訴我說:「Amazon只是還沒有遭遇他們的Cambridge Analytica時刻」。

如果遭遇了那一刻會是什麼樣的?Gilliard猶豫了一下,然後勾勒出一個假設的場景。他指出,Amazon的Key送貨進家門服務可以讓送貨人利用智慧鎖打開客戶車庫把包裹放進去。(一開始是想開前門。)Gilliard設想有位Amazon的快遞員是有色人種,當他進入客戶的車庫時,客戶可能會收到Amazon自己的產品(Ring或者Neighbors app)發來的可疑人士警告。這種情況可能就會很難堪了。Gilliard說說:「我非常非常希望不會發生這種事:有人可能會因此受到傷害。一名Amazon員工可能會受到傷害,被逮捕或者受到攻擊。」

在還沒有出現霸占新聞頭條的大規模慘敗,或者出現Amazon員工和管理層良心發現的突然轉折點之前,對該公司脖子伸得太長最好的防禦手段也許是監管。5月,舊金山成為美國第一個禁止人臉辨識的大城市。該技術的捍衛者發現這一行動不成熟且過於激進。但Amazon的一位匿名員工警告說,如果我們不盡快採取行動的話,「所造成的傷害將很難恢復」。警察部門一旦對Neighbors app形成依賴讓他們放棄使用同樣難以想像,除非他們被迫這麼做。雖然人們可能會希望Amazon決定不給門鈴、汽車或無人機提供人臉辨識能力,但沒有任何跡象表明它的領導人認為這裡面有問題。

Amazon之前曾克服了社會信任的障礙。1995年它就推出了網路書店,那時候距離網路歷史上首次實現網路購物僅僅一年。Amazon和eBay一起說服了公眾在網上使用信用卡並不像懷疑者所想的那樣瘋狂。

即便公司似乎已經朝著不合適的方向擴張,它仍然保持著對一度繁瑣的流程進行簡化的高度關注,無論是高效率低成本的物流,還是利用語音控制智慧電子產品都是這樣。從利用Rekognition自動執行將單個犯罪嫌疑人的面孔與資料庫中的數十萬個人臉照片進行比對的繁重任務,或者Ring如何在發生街區發生可疑事件時第一時間警告鄰居和警察當中,你可以看到同樣的衝動。但在我們將監控變得像Amazon一鍵式購買一般的便利和無處不在之前,先問問社會是否讓某些事情保持繁瑣一點會不會更好是值得的。

 

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則