賣家之家獲悉,亞馬遜于近期提出了關于面部識別技術立法的消息,旨在結束歧視和侵犯公民權利,此前一項研究稱,亞馬遜的面部識別工具帶有種族和性別偏見。亞馬遜表示,他們已經制定了負責任地使用面部識別技術的指導政策,以鼓勵決策者考慮將其作為潛在立法的基礎。
今年2月,麻省理工學院(Massachusetts Institute of Technology)發表的一項研究稱,亞馬遜的Rekognition工具在識別非白人女性的圖像時出錯率為31%。
亞馬遜AWS的人工智能總經理馬特·伍德(Matt Wood)博士回應了這些批評,稱這項研究“具有誤導性,得出了錯誤的結論”。他說,亞馬遜Rekognition的設計目的是“匹配看起來相似的面孔” ,以驗證個人身份。因此,使用面部識別來判斷面部識別的準確性是“不明智的,因為它不是用于該目的的預期算法。”
亞馬遜近日表示,在過去的幾個月里,他們已經與客戶、研究人員、學者、政策制定者和其他人進行了交流,以了解如何平衡面部識別的好處和潛在的風險。這些討論促使他們擬訂了負責任使用這項技術的準則。
以下是亞馬遜關于面部識別立法的幾點指導原則:
1. 面部識別應始終依法使用,包括保護公民權利的法律
亞馬遜表示,他們的客戶有責任遵守使用這項技術的法律。AWS可接受使用政策(AUP)禁止客戶使用任何AWS服務,包括亞馬遜Rekognition,違反法律,違反我們的AUP的客戶將不能使用我們的服務。在現有法律應如何適用于面部識別技術的問題上可能存在模糊或不確定性的情況下,亞馬遜聲稱已經并將繼續向政策制定者和立法者提供支持,幫助他們確定需要制定指導或立法的領域,以澄清這些法律的正確應用。
2.在執法中使用面部識別技術時,人工審查是確保使用預測做出決定不侵犯公民權利的必要組成部分
亞馬遜表示,面部識別通常用于將數十萬個潛在比賽的“縮小范圍”縮小到少數; 正是這種能力使人類能夠更容易、更有效地完成需要花費更多時間的任務,從而在許多方面造福社會。然而,亞馬遜表示,面部識別不應該被用于做出可能會侵犯公民權利的完全自動化的最終決定。在這些情況下,應該使用對人臉識別結果的人工審查來確保權利不受侵犯。
3.當執法部門使用面部識別技術進行身份識別或以可能威脅公民自由的方式時,建議使用99%的置信度評分閾值
亞馬遜稱,面部識別系統可以將信心分數視為對信任程度的衡量標準。置信度得分越高,結果就越可信。亞馬遜表示,當使用面部識別識別調查中感興趣的人時,執法部門應使用建議的99%置信度閾值,并僅將這些預測用作調查的一個要素(不是唯一的決定因素)。
4.執法機構在使用面部識別技術時應該透明
為了讓公眾對負責任的執法部門使用面部識別技術產生最大的信心,亞馬遜鼓勵執法機構在使用該技術時做到透明,并在定期的透明報告中描述這種使用。亞馬遜表示,這些報告應說明面部識別技術是否以及如何使用,并詳細說明為保護公民隱私和公民權利而實施的保護措施。
5.視頻監控和面部識別技術在公共或商業環境中一起使用時應該有通知
亞馬遜表示,人們一直擔心面部識別技術及其在公共或商業環境中與視頻監控相關的潛在用途。在許多情況下,已經有法律規定在公共或商業場所(例如購物中心和餐館)使用攝像機的法律已經解決了這個問題。AWS支持在使用視頻監控(包括面部識別)的場所使用書面的可見通知。
以上就是亞馬遜目前鼓勵政策制定者考慮的指導方針,作為美國和其他國家的潛在立法和規則。
AWS全球公共政策副總裁邁克爾龐克(Michael Punk)表示:
“新技術不應因其潛在的濫用而被禁止或譴責。相反,所有相關各方之間應該進行公開,誠實和認真的對話,以確保技術得到適當應用并不斷加強。AWS投入大量資源確保我們的技術高度準確并減少偏見,包括使用反映性別,種族,民族,文化和宗教多樣性的培訓數據集。我們還致力于向客戶介紹最佳實踐,并確保我們的技術開發團隊擁有不同的觀點。我們將繼續與行業、政府、學術界和社區團體的合作伙伴就此主題開展合作,因為我們堅信面部識別是商業、政府和執法部門使用的重要甚至關鍵的工具?!?/p>
(賣家之家/編譯:危偉)