美國當(dāng)?shù)貢r(shí)間上周二，舊金山監(jiān)管局以8比1的比例投票決定禁止市政部門（包括警方）使用面部識(shí)別軟件。該禁令的支持者列舉了亞馬遜和微軟等公司面部識(shí)別軟件中涉及的種族不平等，以及目前在中國發(fā)生的反烏托邦式的監(jiān)視。

圍繞面部識(shí)別軟件監(jiān)管爭論的核心問題是，在警察和政府尋求新的共識(shí)之前，禁令暫時(shí)的，還是永久的？

有些人認(rèn)為面部識(shí)別軟件可用于為無辜者伸冤，并且我們只是需要更多時(shí)間來收集信息。而其他人，如舊金山監(jiān)督員Aaron Peskin，相信即使人工智能系統(tǒng)實(shí)現(xiàn)種族平等，面部識(shí)別也是一種“獨(dú)特的危險(xiǎn)和壓迫性技術(shù)”。

在舊金山海灣大橋的另一邊，奧克蘭和伯克利正在考慮舊金山法令中關(guān)于使用的相同語言的禁令，而馬薩諸塞州和華盛頓州（但其中亞馬遜和微軟反對(duì)）的州政府正討論著要不要在AI能完全識(shí)別美國公民之前臨時(shí)地禁止使用面部識(shí)別。

喬治城大學(xué)隱私與技術(shù)中心高級(jí)助理Clare Garvie將于下周三在眾議院監(jiān)督委員會(huì)作證。上周四，該中心發(fā)布了新的報(bào)告，詳細(xì)介紹了紐約警察局拿著PS過的、跟嫌疑犯很像的一些名人的照片去抓人，以及在底特律和芝加哥使用的實(shí)時(shí)面部識(shí)別系統(tǒng)，并在美國其他主要城市進(jìn)行了測(cè)試。

Clare Garvie

為了有機(jī)會(huì)檢查警察在美國使用面部識(shí)別軟件，Garvie的團(tuán)隊(duì)多年來一直在尋求調(diào)查和訴訟的機(jī)會(huì)，而現(xiàn)在他認(rèn)為是時(shí)候在全國范圍內(nèi)暫停執(zhí)法部門使用這種技術(shù)了。

Garvie和“Perpetual Lineup”報(bào)告的共同作者于2016年開始監(jiān)控面部識(shí)別軟件，最初得出的結(jié)論是，如果制定法規(guī)，面部識(shí)別可以用于使人們受益。但Garvie的觀點(diǎn)發(fā)生了變化。

“我們今天看到的是，在沒有監(jiān)管的情況下，[面部識(shí)別]仍然繼續(xù)被使用，現(xiàn)在我們更加了解了我們?cè)诔袚?dān)多大的風(fēng)險(xiǎn)，而我們并沒有完全做好準(zhǔn)備”，”Garvie說。“根據(jù)這些信息，我們認(rèn)為這項(xiàng)技術(shù)需要暫停，直到全社會(huì)能達(dá)成共識(shí)去規(guī)制具體的監(jiān)管法則。 ”

在取消此類暫停令之前，Garvie希望看到的是系統(tǒng)的準(zhǔn)確性能有顯著的變化，積極的法院和法律監(jiān)督能夠有效到位，照片質(zhì)量需要一個(gè)最低標(biāo)準(zhǔn)以及公共監(jiān)控技術(shù)需要出具使用報(bào)告，就像舊金山已經(jīng)要求的年度監(jiān)控技術(shù)使用審核。

此外，法醫(yī)草圖，PS圖像和名人照片不應(yīng)放進(jìn)面部識(shí)別軟件，發(fā)布公共報(bào)告應(yīng)該是常態(tài)。但想要求公開面部識(shí)別軟件使用的細(xì)節(jié)一直都很困難。

例如，喬治敦大學(xué)的研究人員在2016年首次要求紐約警察局提供面部識(shí)別記錄，但他們被告知沒有這樣的記錄存在 - 即使該技術(shù)自2011年以來一直在使用。兩年里紐約警察局足足翻了3,700頁與面部識(shí)別軟件有關(guān)的使用說明書。

Garvie認(rèn)為，美國警方使用的面部識(shí)別軟件是不可避免的，但應(yīng)該禁止使用面部識(shí)別軟件掃描駕駛執(zhí)照數(shù)據(jù)庫的做法?！拔覀円郧皬奈从羞^由大多數(shù)美國人組成的生物識(shí)別數(shù)據(jù)庫，但現(xiàn)在我們已經(jīng)做到了 - 多虧了人臉識(shí)別技術(shù) - 并且執(zhí)法部門可以訪問至少32個(gè)州的駕駛執(zhí)照數(shù)據(jù)庫，”她說。

Garvie認(rèn)為，警方也應(yīng)該禁止實(shí)時(shí)進(jìn)行面部識(shí)別，因?yàn)榫炷軌蛟诳棺h時(shí)掃描人員的臉并追蹤他們的位置，這樣做風(fēng)險(xiǎn)太大?！?技術(shù)的落地從根本上為執(zhí)法提供了新的方法，但我認(rèn)為，其風(fēng)險(xiǎn)大于益處?！凹泳S說。

檢察官和警察也有義務(wù)告訴嫌疑人及其律師，面部識(shí)別有助于逮捕行動(dòng)。該建議是2016年報(bào)告的一部分，但Garvie表示，她沒有以此立法或立規(guī)的司法管轄區(qū)。

“我們看到的是，關(guān)于人臉識(shí)別搜索的信息通常不會(huì)轉(zhuǎn)交給辯護(hù)方，不是因?yàn)檫@樣不符合規(guī)定，而是辯護(hù)律師并不知道他們的客戶正被進(jìn)行面部識(shí)別搜索，“她說。“人們被逮捕和指控，結(jié)果發(fā)現(xiàn)他們被捕和指控的原因竟然是人工智能“認(rèn)為”他是個(gè)壞人。對(duì)我而言，這似乎是十分違背正常程序的?！?/p>

Mutale Nkonde是數(shù)據(jù)與社會(huì)研究所的政策分析師和研究員，是幫助編寫“算法問責(zé)法”的團(tuán)體的一員。該法案于上個(gè)月在美國參議院提出，要求進(jìn)行隱私，安全和偏見風(fēng)險(xiǎn)評(píng)估，并由聯(lián)邦貿(mào)易委員會(huì)負(fù)責(zé)監(jiān)管。

與Garvie一樣，Nkonde認(rèn)為舊金山禁令為其他相關(guān)方提供了一個(gè)典型例子，例如布魯克林居民目前正想把他們的房東暴打一頓，因?yàn)榉繓|想用面部識(shí)別軟件開他們的門鎖。她也贊成暫停使用這種技術(shù)。

“即使禁令聽起來真有吸引力，如果我們可以暫停并進(jìn)行更多測(cè)試，并且審查算法，更深入地認(rèn)識(shí)到他們不會(huì)涉及膚色和性別問題這一事實(shí)，那至少能達(dá)成一點(diǎn)共識(shí)，或是關(guān)于禁令的法律論據(jù)，并與行業(yè)進(jìn)行充分地交談，“她說?！叭绻a(chǎn)品沒有市場(chǎng)，資源是不會(huì)被投入進(jìn)來的。”

Nkonde去年向眾議院介紹了“算法偏見”，但該議案可能不會(huì)很快簽署成為法律，不過Nkonde仍然認(rèn)為在總統(tǒng)選舉年之前關(guān)注這個(gè)問題很重要。

算法偏見：從事程序設(shè)計(jì)的工程師，即便本身沒有種族、性別、年齡歧視等傾向，也有可能造成偏見，因?yàn)槲覀兊乃季S方式中多少滲透著偏見，最終影響算法的公正性

“對(duì)于立法機(jī)關(guān)中的人來說，不斷加強(qiáng)這些想法非常重要，因?yàn)檫@是我們能夠解決問題的唯一方式，”她說。“如果你繼續(xù)看到一項(xiàng)法案一直是[國會(huì)]辦公室里的話題，那么這個(gè)想法將會(huì)被制定成法律?！?/p>

在業(yè)務(wù)方面，Nkonde認(rèn)為需要制定法規(guī)和罰款，以確保未能實(shí)現(xiàn)種族和性別平等的科技公司具有法律約束力。不過，她警告說，有關(guān)人工智能的公司可能會(huì)參與那種高舉多樣性和包容性氣質(zhì)的“道德洗滌”，一邊談?wù)撝惹行枰淖?，但沒有絲毫的進(jìn)步。

“公司道德是一回事，但從我的角度來看，如果沒有法律給我們的支持，那么就沒有辦法讓公司承擔(dān)責(zé)任，“她說。

一種不可挽回的技術(shù)

Nkonde和Garvie提倡暫停使用政府和警方的面部識(shí)別，而律師Brian Hofer希望看到更多政府實(shí)施永久性禁令。

Hofer在舊金山幫助創(chuàng)作了面部識(shí)別軟件禁令，這是他在第四個(gè)海灣區(qū)市政當(dāng)局幫助制定使用ACLU CCOP模型的監(jiān)控技術(shù)政策。

Hofer一直在與伯克利和奧克蘭的立法者交談，在那里他擔(dān)任該市隱私咨詢委員會(huì)的主席。他之前因“車牌讀者”事件而出名，他贊成在家鄉(xiāng)奧克蘭永久禁止面部識(shí)別軟件，因?yàn)樗ε抡`用和訴訟。

“l(fā)icense plate reader（車牌讀者）”事件：2001年Hofer租了一輛車，而恰好之前租車的人用這輛車做了違法的事，導(dǎo)致Hofer被警方誤抓

“這是[奧克蘭警察局]在聯(lián)邦監(jiān)測(cè)我們種族貌相的第16年。我們總是因某些警察里的丑聞而被起訴。我不想為這種強(qiáng)大的技術(shù)想象承擔(dān)責(zé)任，它會(huì)破壞我們，我認(rèn)為這將在很多城市發(fā)生，“霍費(fèi)爾說。

更廣泛地說，霍費(fèi)爾希望伯克利和奧克蘭能夠?yàn)槊娌孔R(shí)別軟件禁令提供動(dòng)力，因?yàn)樗J(rèn)為“還有時(shí)間來控制它”。

“我堅(jiān)信，這項(xiàng)技術(shù)會(huì)更準(zhǔn)確，這是我更關(guān)心的問題，它將是完美的監(jiān)控，”他說?！斑@將是一種侵入性，我們從未同意過政府。他們的權(quán)力擴(kuò)張過于激進(jìn)，我不認(rèn)為在日常生活中走來走去，就讓自己接受如此的大規(guī)模監(jiān)視?！?/p>

如果禁令不能成為常態(tài)，霍費(fèi)爾認(rèn)為立法應(yīng)該允許對(duì)軟件進(jìn)行獨(dú)立審查并限制特定情況的使用 - 但他認(rèn)為使用的泛濫是不可避免的，而大規(guī)模監(jiān)視總是被濫用。

“識(shí)別綁架嫌疑人，兇殺案嫌疑人，強(qiáng)奸犯，真正的暴力掠奪者 - 那里可能會(huì)有一些成功案例，我很確定。但是一旦你打開門，它就會(huì)傳播開來。它將全面蔓延，“他警告說。

面部識(shí)別能讓世界變得更美好嗎？

不是每個(gè)人都希望全面禁止或暫停實(shí)施。信息技術(shù)與創(chuàng)新基金會(huì)（ITIF）副總裁兼數(shù)據(jù)創(chuàng)新中心主任丹尼爾·卡斯特羅堅(jiān)決反對(duì)面部識(shí)別軟件禁令，稱他們?cè)陔[私方面落后一步，更有可能將舊金山變?yōu)楣虐汀?/p>

“古巴人經(jīng)常開的車都是20世紀(jì)50年代的汽車或摩托車，因?yàn)樗鼈円呀?jīng)與世界其他地方隔絕了。像這樣的禁令，而不是一種監(jiān)督或緩慢的方法，逼著警察一定要使用舊技術(shù)，我認(rèn)為這不解決問題，因?yàn)槲艺J(rèn)為人們更希望看到警察部隊(duì)是有效的，“卡斯特羅說。

人們希望警察能夠更加“有效”

ITIF是一家位于華盛頓特區(qū)的智庫，專注于技術(shù)政策，生命科學(xué)和清潔能源等問題。本周，ITIF的數(shù)據(jù)創(chuàng)新中心加入了人工智能合作伙伴關(guān)系，這是一個(gè)由80多個(gè)組織組成的聯(lián)盟，關(guān)于人工智能的使用道德，包括微軟，F(xiàn)acebook，亞馬遜和谷歌等。微軟和亞馬遜等公司的員工都參與其中。

卡斯特羅認(rèn)為警察部門需要對(duì)自己的系統(tǒng)進(jìn)行更多的性能準(zhǔn)確性審查，并制定最低的性能標(biāo)準(zhǔn)。與Garvie一樣，他同意需要最低照片質(zhì)量標(biāo)準(zhǔn)，但他同樣認(rèn)為不應(yīng)過度使用使用面部識(shí)別。

他還認(rèn)為警察制度的改革也可以利用好面部識(shí)別軟件?！拔艺J(rèn)為警察部門有機(jī)會(huì)積極努力，用軟件代替人工，也就用中立代替了（可能存在的）的偏見，改善他們與邊緣社區(qū)的關(guān)系， - 使用面部識(shí)別來幫助解決其中的一些問題。我認(rèn)為這個(gè)工具是中立的。它當(dāng)然也可能加劇這些問題，但我認(rèn)為不一定總會(huì)這樣，“卡斯特羅說。

Veritone是一家向美國和歐洲的執(zhí)法部門銷售面部識(shí)別軟件的人工智能公司，該公司也認(rèn)為該技術(shù)可以實(shí)現(xiàn)更好的社區(qū)關(guān)系，并且它將用于為無辜的嫌疑人脫罪，而不是導(dǎo)致錯(cuò)誤的定罪。

“這個(gè)星球上最有偏見的系統(tǒng)是人類，”Veritone首席執(zhí)行官Chad Steelberg在電話采訪中告訴VentureBeat。

與Hofer和Garvie一樣，Steelberg認(rèn)為，警方在公共場(chǎng)所使用自動(dòng)化實(shí)時(shí)面部識(shí)別功能，如目前在底特律使用的系統(tǒng)，不應(yīng)該被允許監(jiān)控未犯罪的人的日常生活，也就是說，該工具可用于侵犯公民權(quán)利和集會(huì)和***。

但他也認(rèn)為可以負(fù)責(zé)任地使用面部識(shí)別來幫助解決一些人類最棘手的問題。“人工智能的好處與你所讀到的大部分內(nèi)容相悖。這是一個(gè)提供真實(shí)事實(shí)，沒有偏見和人文背景以及社會(huì)影響的系統(tǒng)，“他說?！岸椅艺J(rèn)為這對(duì)于執(zhí)法部門和社會(huì)其他許多破碎部分都是必要的。從完全的角度來看，禁止這項(xiàng)技術(shù)似乎是一種絕對(duì)愚蠢的做法，而且我認(rèn)為更為周到的立法是必要的。“

隨著越來越多的城市和立法機(jī)構(gòu)對(duì)面部識(shí)別軟件都發(fā)布了禁令或臨時(shí)禁令，舊金山的裁決顯然只是個(gè)開始。然而，社區(qū)和立法者既然選擇撰寫法律來解決問題，那么這些辯論必須保持深思熟慮并符合主流價(jià)值觀，因?yàn)楸M管***中有民權(quán)保障，但沒有人會(huì)天真地認(rèn)為，在美國，沒有人在暗地里用面部識(shí)別進(jìn)行大規(guī)模監(jiān)視。