人臉識(shí)別再遇“緊箍咒”。當(dāng)?shù)貢r(shí)間10月6日，歐洲議會(huì)以377票贊成、248票反對(duì)、62票棄權(quán)的結(jié)果通過(guò)決議，要求執(zhí)法機(jī)構(gòu)在使用人工智能工具時(shí)，要采取強(qiáng)有力的保障措施，比如禁止警方在公共場(chǎng)所或邊境檢查中實(shí)行大規(guī)模人臉識(shí)別，禁止使用私域人臉識(shí)別數(shù)據(jù)庫(kù)以及根據(jù)行為特征進(jìn)行預(yù)測(cè)性監(jiān)管等。

實(shí)際上，包括人臉識(shí)別在內(nèi)的人工智能工具在警務(wù)活動(dòng)中已經(jīng)被應(yīng)用了很長(zhǎng)的時(shí)間。不過(guò)，直到近年來(lái)，其風(fēng)險(xiǎn)才被廣泛重視，比如AI存在對(duì)少數(shù)民族、LGBT人群、老年人和女性的歧視等。歐洲議會(huì)許多議員認(rèn)為，將存在算法偏見(jiàn)的AI技術(shù)大規(guī)模應(yīng)用于執(zhí)法領(lǐng)域，所帶來(lái)的損害公民基本權(quán)利的風(fēng)險(xiǎn)，遠(yuǎn)遠(yuǎn)超過(guò)AI給破案帶來(lái)的便利。因此，需要對(duì)其進(jìn)行嚴(yán)格限制。

歐洲議會(huì)通過(guò)決議。

1 禁止用AI大規(guī)模監(jiān)測(cè)人群，“不能假設(shè)所有人都危險(xiǎn)”

這份決議主要是針對(duì)的是警察和司法機(jī)關(guān)在犯罪問(wèn)題上對(duì)AI的使用。據(jù)歐洲議會(huì)官網(wǎng)消息，該決議主要內(nèi)容可以總結(jié)為三項(xiàng)：第一，人工智能系統(tǒng)應(yīng)該處在人類(lèi)監(jiān)督之下，算法應(yīng)該是開(kāi)放的;第二，禁止使用私域人臉識(shí)別數(shù)據(jù)庫(kù)，基于行為數(shù)據(jù)進(jìn)行預(yù)測(cè)性監(jiān)管和公民評(píng)分;第三，生物識(shí)別不能被用于邊境控制和公共空間。

歐洲議會(huì)表示，該決議的出發(fā)點(diǎn)是為打擊歧視以及確保隱私權(quán)。“人工智能在執(zhí)法領(lǐng)域的應(yīng)用提供了巨大機(jī)遇，特別是能夠有效打擊金融犯罪如洗錢(qián)、恐怖主義融資，以及網(wǎng)絡(luò)犯罪如虐待兒童等，有助于歐盟公民的安全保障。但同時(shí)，數(shù)據(jù)顯示AI識(shí)別對(duì)少數(shù)民族、LGBT人群、老年人和女性的誤識(shí)率更高，這可能對(duì)人們的基本權(quán)利構(gòu)成重大風(fēng)險(xiǎn)。”該決議認(rèn)為，鑒于AI在可靠性和準(zhǔn)確性方面仍然存疑，任何以大規(guī)模監(jiān)測(cè)為目的的AI全面應(yīng)用，其風(fēng)險(xiǎn)和效果是不成比例的，也因此，在執(zhí)法領(lǐng)域，對(duì)AI的使用必須始終保持人的責(zé)任，并首先以避免造成任何有害影響為目標(biāo)。

該決議強(qiáng)調(diào)，當(dāng)個(gè)人過(guò)度相信人工智能工具表面上客觀和科學(xué)的性質(zhì)，而沒(méi)有考慮其結(jié)果不正確、不完整、無(wú)關(guān)或歧視性的可能性時(shí)，可能會(huì)產(chǎn)生嚴(yán)重的負(fù)面后果。因此，算法應(yīng)該是透明的、可追溯的，并有充分的文件記錄。而執(zhí)法和司法機(jī)關(guān)應(yīng)避免過(guò)度依賴(lài)人工智能系統(tǒng)提供的結(jié)果，并建立信心和知識(shí)，以質(zhì)疑或推翻算法建議。

此外，該決議還反對(duì)執(zhí)法機(jī)構(gòu)利用人工智能，根據(jù)歷史數(shù)據(jù)和過(guò)去的行為、群體成員、位置或任何其他此類(lèi)特征，對(duì)個(gè)人或群體進(jìn)行行為預(yù)測(cè)，從而試圖識(shí)別可能犯罪的人，并呼吁永久禁止在公共場(chǎng)所進(jìn)行生物識(shí)別，如步態(tài)、指紋、DNA、聲音等特征和信號(hào)。

也就是說(shuō)，該決議認(rèn)為警察可以在確定嫌疑人目標(biāo)的情況下，利用AI工具對(duì)嫌疑人進(jìn)行追蹤;但不能在嫌疑人未知時(shí)，用生物識(shí)別等AI手段對(duì)人群進(jìn)行大規(guī)模監(jiān)測(cè)，去尋找誰(shuí)是嫌疑人，或者基于行為數(shù)據(jù)，預(yù)測(cè)“誰(shuí)接下來(lái)可能會(huì)犯罪”。“當(dāng)局在犯罪發(fā)生后做出反應(yīng)，而不是假設(shè)所有人都是危險(xiǎn)的。”

這一決議的影響還可能延伸至非歐盟國(guó)家。決議中強(qiáng)調(diào)，歐盟司法合作執(zhí)行機(jī)構(gòu)在處理其他國(guó)家的引渡請(qǐng)求時(shí)，有必要評(píng)估請(qǐng)求國(guó)使用人工智能工具“是否可能明顯損害嫌疑人獲得公平審判的基本權(quán)利”。

值得一提的是，決議條文中多使用的是呼吁、鼓勵(lì)、強(qiáng)調(diào)等詞匯，其實(shí)際效力如何仍有待觀察。

2 AI在警務(wù)活動(dòng)中已被長(zhǎng)期應(yīng)用，存在算法歧視現(xiàn)象

實(shí)際上，包括人臉識(shí)別在內(nèi)的人工智能工具在警務(wù)活動(dòng)中已經(jīng)被應(yīng)用了很長(zhǎng)的時(shí)間，不過(guò)，直到近年來(lái)，其風(fēng)險(xiǎn)才被廣泛重視。

據(jù)報(bào)道，早在本世紀(jì)初，美國(guó)佛羅里達(dá)州皮尼拉斯縣警察局就開(kāi)始使用人臉識(shí)別來(lái)破案，現(xiàn)在，該系統(tǒng)已經(jīng)能夠訪問(wèn)3000多萬(wàn)張圖像。

2017年，英國(guó)南威爾士警方啟動(dòng)了一項(xiàng)人臉識(shí)別試驗(yàn)計(jì)劃，在當(dāng)年6月舉行的歐冠決賽上，警方將觀眾與已有的50萬(wàn)張人臉圖的數(shù)據(jù)庫(kù)進(jìn)行比對(duì)標(biāo)識(shí)，結(jié)果系統(tǒng)共發(fā)出2470次警報(bào)，其中有2297次錯(cuò)誤，173次正確，錯(cuò)誤率高達(dá)92%。經(jīng)過(guò)改進(jìn)，南威爾士警方又在兩次大型體育比賽中進(jìn)行試驗(yàn)，最終將錯(cuò)誤率降至87.5%。

盡管如此，在接下來(lái)的三年內(nèi)，南威爾士警方仍在轄區(qū)內(nèi)多地部署了人臉識(shí)別設(shè)備。該設(shè)備掃描路人的人臉并提取生物特征數(shù)據(jù)，再通過(guò)后臺(tái)數(shù)據(jù)庫(kù)比對(duì)來(lái)發(fā)現(xiàn)通緝犯等可疑人員。

近兩年來(lái)，美國(guó)也已有至少三起訴訟，起因于警方使用人臉識(shí)別技術(shù)卻抓錯(cuò)了人。第一起案例的當(dāng)事人是來(lái)自底特律的羅伯特·威廉姆斯，底特律警方曾指控他犯有盜竊罪，將他拘留了30個(gè)小時(shí)。第二起案例當(dāng)事人叫邁克爾·奧利弗，他同樣來(lái)自底特律，因被人臉識(shí)別判定涉嫌盜竊罪被關(guān)了十天半。第三起案例當(dāng)事人名為尼爾·帕克斯，他被40公里之外的伍德布里奇市警方認(rèn)定為一起盜竊案的嫌疑人，拘留十天。然而，帕克斯表示自己有不在場(chǎng)證明，且他的指紋、DNA等信息與犯罪現(xiàn)場(chǎng)的信息并不匹配。

上述三起案例的當(dāng)事人，均為黑人。算法出現(xiàn)的歧視問(wèn)題，已經(jīng)引起人們的注意。

麻省理工學(xué)院和美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)的研究顯示，因?yàn)槿狈Χ嘣幕A(chǔ)數(shù)據(jù)庫(kù)，美國(guó)的許多人臉識(shí)別技術(shù)對(duì)有色人種的識(shí)別準(zhǔn)確度較差。實(shí)際生活中，也發(fā)生了多起黑人遭遇算法歧視事件。此前，南都就曾報(bào)道Twitter的圖像剪裁算法，會(huì)傾向于裁掉更多的黑人或女性;Facebook的自動(dòng)推薦算法，也出現(xiàn)把黑人識(shí)別為“靈長(zhǎng)類(lèi)動(dòng)物”的情況。

此次歐洲議會(huì)通過(guò)限制執(zhí)法機(jī)構(gòu)使用人工智能的決議，核心基礎(chǔ)之一就是AI存在對(duì)少數(shù)民族、LGBT人群、老年人和女性的歧視。許多議員們認(rèn)為，將存在算法偏見(jiàn)的AI技術(shù)大規(guī)模應(yīng)用于執(zhí)法領(lǐng)域，所帶來(lái)的損害公民基本權(quán)利的風(fēng)險(xiǎn)，遠(yuǎn)遠(yuǎn)超過(guò)AI給破案帶來(lái)的便利。因此，需要對(duì)其進(jìn)行嚴(yán)格限制。

已有多地出臺(tái)法規(guī)，對(duì)生物識(shí)別技術(shù)等進(jìn)行監(jiān)管。在美國(guó)，波特蘭、奧克蘭、舊金山、波士頓等城市都已禁止政府使用人臉識(shí)別技術(shù)。今年7月，紐約也出臺(tái)法規(guī)，要求收集生物識(shí)別信息(如面部和指紋)的企業(yè)必須在門(mén)口張貼顯眼的標(biāo)識(shí)，向顧客說(shuō)明企業(yè)正在收集顧客的生物識(shí)別信息，并禁止企業(yè)出售或交易生物識(shí)別信息。不過(guò)，該法規(guī)對(duì)包括警方在內(nèi)的政府機(jī)構(gòu)不適用。

歐盟對(duì)生物識(shí)別的監(jiān)管更為嚴(yán)厲。今年4 月，歐盟提出一項(xiàng)旨在加強(qiáng)人工智能行業(yè)監(jiān)管的草案，將人臉識(shí)別等遠(yuǎn)距離生物識(shí)別系統(tǒng)認(rèn)定為“高風(fēng)險(xiǎn)”，并“原則上禁止”執(zhí)法部門(mén)在公共場(chǎng)合使用這一技術(shù)，除非發(fā)生兒童失蹤、恐怖襲擊、甄別犯罪分子等情況。

在我國(guó)，對(duì)于人臉識(shí)別等人工智能技術(shù)的監(jiān)管也日趨嚴(yán)格。8月20日立法通過(guò)的《個(gè)人信息保護(hù)法》就明確規(guī)定：在公共場(chǎng)所安裝圖像采集、個(gè)人身份識(shí)別設(shè)備，應(yīng)當(dāng)為維護(hù)公共安全所必需，遵守國(guó)家有關(guān)規(guī)定，并設(shè)置顯著的提示標(biāo)識(shí)。所收集的個(gè)人圖像、身份識(shí)別信息只能用于維護(hù)公共安全的目的，不得用于其他目的;取得個(gè)人單獨(dú)同意的除外。

關(guān)鍵詞： 人臉識(shí)別 歐洲議會(huì) 技術(shù)弊端 AI大規(guī)模監(jiān)測(cè)人群