人臉識別技術的轉折點

發布者：九竹物聯技術有限公司發布時間：2020-5-7 10:42:59 點擊次數：673 關閉

近年來，與人臉識別技術相關的警告變得越來越緊迫。研究表明，人臉識別系統仍然會產生相對較高的誤報率，而且始終帶有種族和性別偏見。然而，這項技術在美國的泛濫卻沒有得到遏制，繼續在各級政府的執法機構、私營企業和學校中蔓延開來。在美國眾議院監督與改革委員會舉行的一次聽證會上，對人臉識別技術的監管不力引起了兩個政黨的注意。

俄亥俄州共和黨眾議員 Jim Jordan 驚訝地表示：“美國有 5000 萬部攝像機用于監控，這違反了第一修正案、第四修正案和正當程序的自由。這些錯誤對非裔美國人的影響太大了。并沒有民選的官員允許各州或聯邦政府、聯邦調查局使用這種手段，所以應該推出一些限制措施。在我看來，是時候做出一些限制了”。

聽證會專家小組由各種各樣的法律學者、隱私倡導者、算法偏見研究人員和職業執法人員組成，他們在很大程度上支持這一說法。他們直接呼吁暫停政府使用面部識別系統，直到國會能夠通過立法手段充分限制和規范這項技術，并建立透明度標準。但在一年前，這樣激進的建議在國會可能顯得荒謬可笑。不過，舊金山已經通過了一項使用人臉識別的禁令，馬薩諸塞州薩默維爾和加利福尼亞州奧克蘭等城市似乎也準備效仿。
哥倫比亞特區大學 David Clarke 法律學院教授 Andrew Ferguson 說：“第四修正案并不會把我們從人臉識別帶來的隱私威脅中拯救出來，只有立法才能幫助我們應對這些技術的威脅。立法必須考慮到這些監視系統的作用范圍、規模和復雜性會不斷擴大，以確�？梢员Ｗo隱私”。
最近的一系列事件表明，這項技術已經被廣泛采用，如果不加以監督和提高系統和系統使用者的透明度，這個問題將會變得多么嚴重。例如，喬治敦大學法律研究人員上周發布的一份報告顯示，芝加哥和底特律都購買了實時面部識別監控系統——盡管他們都表示沒有在使用這些平臺。喬治敦大學的另一份報告提供了紐約警察局濫用和操縱面部識別技術的證據。報告稱，警官們將素描圖像或者將他們認為跟嫌疑犯長得相像的人（例如 Woody Harrelson）的照片輸入到面部識別系統，并試圖從這些不相干的圖像中識別出目標人臉。
另外，今年 4 月份，一個面部識別系統錯誤地將布朗大學的學生 Amara Majeed 列為斯里蘭卡復活節教堂爆炸案的嫌疑人。周三，《科羅拉多斯普林斯獨立報》報道稱，在 2012 年 2 月至 2013 年 9 月期間，科羅拉多大學科羅拉多斯普林斯分校的研究人員在未經學生和其他路人同意的情況下為他們的一個面部識別訓練數據庫拍攝照片，該數據庫是政府資助的一個項目的一部分。同樣，美國全國廣播公司在 5 月初報道稱，該照片數據庫和分享應用程序曾在未經用戶主動同意的情況下悄悄使用數百萬用戶的照片訓練面部識別系統。
“一直以來，我們和該領域的其他一些人一直預測會出現錯誤的識別和濫用。我們預測將會出現國家層面的監控，而不僅僅是在法醫鑒定方面。所有這些都將成為現實。任何說這項技術還處在起步階段的人都沒有做足功課”。
在周三的眾議院聽證會上，目擊者同樣強調，面部識別技術不僅是一個靜態的數據庫，它越來越多地被用于實時、非特定的網絡——也就是所謂的“臉部監控”。目擊者表示，鑒于面部識別的一些主要缺點（尤其是在準確識別有色人種、女性和性別方面），目前執法部門不應該使用這項技術。麻省理工學院研究員、算法正義聯盟（Algorithmic Justice League）創始人 Joy Buolamwini 表示，她將用于訓練大多數面部識別系統的數據集稱為“pale male”數據集，因為所使用的大部分照片都是白人男性。
Buolamwini 在周三的時候告訴監督與改革委員會：“就在本周，一名男子起訴了 Uber，原因是他的司機賬戶因面部識別失敗而被停用。布魯克林的租戶針對安裝不必要的人臉識別系統這一舉措發起了抗議。新的研究表明，用于醫療保健方面的面部分析技術也存在偏見，而且面部識別技術正在走向校園。我們的臉很可能是隱私的最后一道防線”。
周三，來自不同政治派別的代表表示，該委員會準備制定兩黨立法，對執法機構和其他美國實體使用面部識別技術加以監督。但多年來，在聯邦一級取得的實質性成果寥寥無幾，在私有領域的宣傳也面臨著重大障礙。例如，周三，亞馬遜股東否決了兩項與限制使用該公司面部識別軟件進行隱私和民權保障措施研究的建議。盡管如此，隨著面部識別技術的普及，隱私倡導者將 2019 年視為一個潛在的轉折點。
來自耶魯大學法學院信息社會項目的律師 Tiffany Li 表示：“我認為，阻止人臉識別技術的擴散已經太晚了，政府和企業每天都在以新的方式使用它。我們希望能達到一個臨界點，開始認真解決這些問題，也許最好的時機就是現在”。

上一個新聞：人臉識別通道閘機

下一個新聞：人臉識別系統的技術應用