亞馬遜旗下的Ring公司新推出的Search Party功能,利用人工智慧掃描社區監視器影像來尋找走失的狗,卻引發了廣泛的反彈。週日超級盃播出的30秒廣告中,Ring攝影機「監視」社區以尋找走失的狗,這在當前政治氛圍下觸動了敏感神經。
社群媒體上,許多人擔心Ring用於辨識狗的AI技術,未來可能被用來搜尋人類。加上Ring近期推出的臉部辨識功能,讓人覺得從尋找寵物的功能轉變成國家監控工具只是一步之遙。
隱私專家Chris Gilliard告訴404 Media,這支廣告是Ring笨拙地試圖為一個反烏托邦現實披上可愛的外衣:一家公司與執法單位及其他同樣具侵入性的監控公司關係密切,推動廣泛的網絡監控。
「這絕對不是關於狗,而是關於大規模監控。」
焦慮的核心在於亞馬遜擁有的Ring與監控技術公司Flock Safety的合作。Flock Safety與執法機關簽有合約,使用自動車牌辨識器、視頻監控系統等技術。
這項合作將Ring龐大的住宅攝影機網絡與Flock的全國攝影機網絡連結,而Flock據報允許移民及海關執法局(ICE)存取其數據。
麻州參議員Ed Markey在X(前Twitter)上表示:「這絕對不是關於狗,而是關於大規模監控。」Markey是Ring與執法機關關係的強烈批評者,持續要求Ring提高透明度並加強消費者隱私保護。
Ring發言人Emma Daniels向The Verge表示,Search Party設計用於匹配狗的影像,「無法處理人體生物特徵」。她強調,Familiar Faces臉部辨識功能與Search Party是分開運作的,前者在個別帳戶層級運作,沒有像Search Party那樣的共用機制。
Daniels說:「這些不是大規模監控的工具。我們建立了適當的防護措施,並且非常透明。」
儘管如此,我詢問Ring攝影機是否未來可能用於特定搜尋人類,她回答:「這些功能目前無法做到這點。我們不評論未來功能規劃,但目前沒有跡象顯示我們在開發這類功能。」
Ring用戶目前可透過名為Community Requests的功能,在警方調查期間分享攝影機錄影。與過去Ring與警方的合作不同,Community Requests透過第三方公司管理,包括電擊槍製造商Axon及即將加入的Flock。Daniels表示:「這樣做是因為第三方證據管理系統能提供更安全的證據保管鏈。」若用戶拒絕請求,則不會通知任何人。
公司堅稱政府或執法機關無法直接存取其網絡,錄影僅由用戶分享或依法要求提供。Daniels重申公司先前對The Verge的說法,表示沒有與ICE或其他聯邦機構合作,且用戶可在Neighbors應用程式查看所有機構的請求紀錄。
此外,Flock的整合尚未啟用,Daniels對於合作計畫的後續沒有新消息,僅重申:「在探索整合過程中,我們會確保此功能僅供地方公共安全機構使用,這也是該計畫的設計目的。」
歷史證明,具備大規模監控能力的工具很少只限於原始用途。
問題在於地方機構可能會將錄影資料分享給聯邦機構。雖然超級盃廣告呈現了女孩與小狗重逢的溫馨畫面,但這項技術能追蹤社區中人類的可能性仍非常接近。結合政府權力擴張,不難想像這套AI攝影機網絡如何從尋找走失狗,變成追蹤人類的工具。
Ring過去與警方有合作歷史。雖然近年來有所收斂,自創辦人Jamie Siminoff回歸後,公司重新聚焦於利用產品預防犯罪。
Siminoff表示,他回歸是因為AI帶來的可能性。他相信社區攝影機能在一年內幾乎「消除犯罪」。考量這些目標與AI新功能,為何Ring不會計畫推出類似Search Party的尋人功能?
消除犯罪是值得讚賞的目標,但歷史顯示具備大規模監控能力的工具,往往不會只侷限於原始用途。Ring有責任保護用戶,並聲稱正在這麼做,但最終還是取決於你對這家公司及其合作夥伴的信任程度,是否相信他們不會越界。如果Ring利用我們保護毛小孩的本能來掩飾其野心,這種信任將難以建立。