近年來(lái)，美國(guó)發(fā)生了多起校園槍擊事件，陰影之下，越來(lái)越多學(xué)校啟用了生物識(shí)別技術(shù)，試圖防范風(fēng)險(xiǎn)。但這些匆忙上線的技術(shù)并沒(méi)有匹配相應(yīng)的使用規(guī)范，從數(shù)據(jù)存儲(chǔ)、使用目的到訪問(wèn)權(quán)限，一切細(xì)節(jié)似乎處于“黑箱”之中。

2020年7月，紐約州立法機(jī)關(guān)通過(guò)了一項(xiàng)法令，在2022年前，禁止學(xué)校使用人臉識(shí)別和其他生物特征識(shí)別技術(shù)，成為全美首個(gè)對(duì)學(xué)校劃定“禁區(qū)”的法案。而最早，該法案源于洛克波特市（Lockport）家長(zhǎng)們的一場(chǎng)社區(qū)行動(dòng)。

洛克波特位于紐約州西部，2016年，當(dāng)?shù)貙W(xué)區(qū)向州申請(qǐng)了一筆“智慧校園資金”，用于布設(shè)人臉識(shí)別系統(tǒng)，第二年獲批。技術(shù)從申請(qǐng)、獲批到采購(gòu)、啟用，一切都在悄然進(jìn)行中，直到2018年，一位家長(zhǎng)致信地方媒體，質(zhì)疑該技術(shù)缺少使用規(guī)范。

對(duì)于洛克波特市的家長(zhǎng)、教師工會(huì)、居民團(tuán)體等行動(dòng)者而言，“黑箱”有著多重含義，一方面，他們需要跨越技術(shù)壁壘，弄清楚生物識(shí)別技術(shù)的原理和風(fēng)險(xiǎn)，另一面，他們需要通過(guò)各種渠道表達(dá)自己的質(zhì)疑聲。它像是一場(chǎng)“拉鋸戰(zhàn)”。

本文節(jié)選自紐約大學(xué)AI Now研究中心報(bào)告“Regulating Biometrics：Global Approaches and Urgent Questions”（生物識(shí)別技術(shù)監(jiān)管：全球舉措及關(guān)鍵問(wèn)題）的第四章。為便于理解，我們對(duì)原文進(jìn)行了必要的補(bǔ)充和修改。

人臉識(shí)別技術(shù)正在進(jìn)入越來(lái)越多的校園。圖片來(lái)源：Getty

校園內(nèi)的人臉識(shí)別監(jiān)控

越來(lái)越多監(jiān)控技術(shù)正在走進(jìn)公立學(xué)校。借助一些“免費(fèi)”或（由公共財(cái)政）補(bǔ)貼的技術(shù)，校園管理者可以監(jiān)控學(xué)生電子郵件中的敏感詞、廁所停留時(shí)間、監(jiān)考，或?qū)撛谖C(jī)提供實(shí)時(shí)警報(bào)。但通常，它們?cè)趩⒂们皼](méi)有經(jīng)過(guò)充分考量或社區(qū)咨詢(xún)。

學(xué)校管理者對(duì)生物識(shí)別技術(shù)和其他電子門(mén)禁系統(tǒng)表現(xiàn)出了極大興趣，希望改善校園安全，而現(xiàn)有的法規(guī)卻很難阻止這些技術(shù)的應(yīng)用。

這些技術(shù)可以作為“附加”功能啟用，很容易與現(xiàn)有的安全監(jiān)控系統(tǒng)（例如閉路電視）結(jié)合，校方經(jīng)常在沒(méi)有充分考慮其風(fēng)險(xiǎn)的情況下采用或測(cè)試這些技術(shù)。例如，生物識(shí)別數(shù)據(jù)的存儲(chǔ)和使用有可能違法，校方可能未設(shè)置相關(guān)的使用規(guī)范，難以處理數(shù)據(jù)泄露問(wèn)題，也未留足預(yù)算用于系統(tǒng)維護(hù)。（編者注：除了一次性的技術(shù)采購(gòu)經(jīng)費(fèi)，校方還需要留足預(yù)算，用于之后的日常維護(hù)費(fèi)用。）

表面上，生物識(shí)別技術(shù)有一定控制風(fēng)險(xiǎn)的作用，但它為學(xué)生群體帶來(lái)了一系列社會(huì)和法律層面的問(wèn)題，尤其是在K-12教育體系中（編者注：即美國(guó)基礎(chǔ)教育的統(tǒng)稱(chēng)，從幼兒園到12年級(jí)的教育）。盡管近年來(lái)，美國(guó)更關(guān)注學(xué)生的數(shù)據(jù)隱私問(wèn)題，政府的監(jiān)督和執(zhí)法有所增強(qiáng)，但學(xué)生群體仍易受傷害，隱私和其他違法行為的后果可能不會(huì)立即顯現(xiàn)。

幾十年來(lái)，研究者和教育工作者一直在批評(píng)這種保守主義的教育政策，認(rèn)為它們不是長(zhǎng)久之計(jì)。保守政策有可能延續(xù)美國(guó)教育體系中既有的結(jié)構(gòu)性不平等，將其合理化，這妨礙了政策制定者帶來(lái)真正的結(jié)構(gòu)性改革。

國(guó)際上，一些國(guó)家已經(jīng)禁止校園啟用人臉識(shí)別和其他生物識(shí)別技術(shù)。美國(guó)的一些州和地方也已經(jīng)通過(guò)法案，或正考慮制定法律，禁止政府使用面部識(shí)別技術(shù)，一些法案也適用于公立學(xué)校。

美國(guó)民間社會(huì)組織“為未來(lái)而戰(zhàn)”（Fight for the Future）及“敏感藥物政策學(xué)生組織”（Students for Sensible Drug Policy ）發(fā)起了一場(chǎng)運(yùn)動(dòng)，禁止在大學(xué)校園使用面部識(shí)別技術(shù)。這場(chǎng)運(yùn)動(dòng)成功迫使加州大學(xué)洛杉磯分校撤銷(xiāo)了在校園內(nèi)使用人臉識(shí)別的計(jì)劃，并獲得了教師工會(huì)的支持。這些組織正將這項(xiàng)運(yùn)動(dòng)擴(kuò)向更多的K-12學(xué)校。

2019年，紐約州成為第一個(gè)通過(guò)立法明確禁止學(xué)區(qū)采購(gòu)生物識(shí)別監(jiān)控技術(shù)的州，并要求州教育專(zhuān)員對(duì)學(xué)校使用生物識(shí)別監(jiān)控技術(shù)開(kāi)展研究，并在全州范圍內(nèi)發(fā)布建議。這項(xiàng)立法始于紐約洛克波特市（Lockport，位于紐約州西部）的一場(chǎng)社區(qū)行動(dòng)。

2018年，美國(guó)得州圣菲市，一名女子在槍擊事件后哭泣。圖片來(lái)源；新華社

洛克波特：一場(chǎng)社區(qū)行動(dòng)

2014年，紐約州通過(guò)了《智慧校園債券法案》（Smart Schools Bond Act，SSBA），為學(xué)區(qū)撥出20億美元，用于“改善整個(gè)紐約州學(xué)生的學(xué)習(xí)和機(jī)會(huì)”。SSBA法案中的一個(gè)條款很容易被忽略，它允許學(xué)區(qū)將資金用于“高科技安全”項(xiàng)目，卻并未提供任何使用規(guī)范。

SSBA要求學(xué)區(qū)向智慧校園審查委員會(huì)（Smart Schools Review Board）提交社區(qū)參與的提案和記錄，以供審查和批準(zhǔn)。自2014年以來(lái)，許多學(xué)區(qū)通過(guò)SSBA獲得了資助，用以采購(gòu)教學(xué)設(shè)備，如筆記本電腦、智能板和3D打印機(jī)，以及升級(jí)老化的互聯(lián)網(wǎng)和Wi-Fi系統(tǒng)。

申請(qǐng)程序要求，學(xué)區(qū)必須保證各個(gè)利益相關(guān)方的參與，特別強(qiáng)調(diào)需讓家長(zhǎng)、學(xué)生、教師和社區(qū)了解項(xiàng)目。學(xué)區(qū)必須舉行公開(kāi)聽(tīng)證會(huì)，并在學(xué)區(qū)網(wǎng)站上張貼提案文件，時(shí)間至少30天。這些要求希望聽(tīng)到來(lái)自社區(qū)的意見(jiàn)，促進(jìn)公共資金的合理使用。

2016年，洛克波特市學(xué)區(qū)申請(qǐng)使用381萬(wàn)美元的SSBA資金，用于“新攝像機(jī)和布線……以提供人臉識(shí)別及目標(biāo)識(shí)別，進(jìn)行實(shí)時(shí)監(jiān)控和視頻錄制”，以及增設(shè)“監(jiān)控服務(wù)器……用以增強(qiáng)數(shù)據(jù)的存儲(chǔ)和處理功能”。

洛克波特市學(xué)區(qū)表示，采購(gòu)該系統(tǒng)是為了預(yù)防校園槍擊事件，并在暑假期間舉行了公眾意見(jiàn)征詢(xún)會(huì)——不出意料，（形式化的意見(jiàn)征詢(xún)）沒(méi)能收到任何來(lái)自社區(qū)的評(píng)論或質(zhì)疑。洛克波特聲稱(chēng)，已與所有利益相關(guān)者接觸，其申請(qǐng)于2017年11月獲得了智能學(xué)校審查委員會(huì)批準(zhǔn)。

對(duì)該項(xiàng)目的首次公開(kāi)批評(píng)發(fā)生在2018年2月，洛克波特市學(xué)區(qū)的校董事會(huì)通過(guò)了兩項(xiàng)決議，允許學(xué)校使用“一種新的面部和形狀識(shí)別軟件”。本地報(bào)紙《洛克波特聯(lián)合報(bào)》（Lockport Union Sun & Journal）發(fā)表了一篇評(píng)論文章，作者是當(dāng)?shù)鼐用馢im Shultz，他也是一位學(xué)生家長(zhǎng)。Shultz質(zhì)疑啟用人臉識(shí)別技術(shù)的必要性，強(qiáng)調(diào)這筆資金有其他更好的用途，并警示學(xué)生和教師，應(yīng)注意隱私風(fēng)險(xiǎn)。

Shultz發(fā)起請(qǐng)?jiān)?，要求學(xué)區(qū)暫停該項(xiàng)目，并重新舉辦一場(chǎng)公開(kāi)聽(tīng)證會(huì)，聽(tīng)取社區(qū)的意見(jiàn)。 100多名當(dāng)?shù)鼐用衤?lián)名，提出了各種問(wèn)題，比如，如何保證利益相關(guān)者的“有效”參與，學(xué)區(qū)與推銷(xiāo)技術(shù)的供應(yīng)商之間的利益沖突，以及系統(tǒng)的有效性等。

請(qǐng)?jiān)笗?shū)遞交后，《洛克波特雜志》（Lockport Journal ）編輯委員會(huì)呼吁學(xué)區(qū)推遲安裝系統(tǒng)的決定，但抗議未果。隨后，Shultz呼吁居民投票，否決校方的預(yù)算，但仍未成功。《洛克波特日?qǐng)?bào)》繼續(xù)刊登文章，討論人臉識(shí)別技術(shù)的危險(xiǎn)性，質(zhì)疑技術(shù)的準(zhǔn)確性，尤其是系統(tǒng)識(shí)別有色人種的偏誤。Shultz仍在撰寫(xiě)專(zhuān)欄，并通過(guò)Facebook小組獲得了社區(qū)支持。他還向另一個(gè)組織紐約公民自由聯(lián)盟（New York Civil Liberties Union）求助，后者根據(jù)紐約州信息自由法案向州教育部發(fā)出請(qǐng)求。

這些行動(dòng)引起了Monica Wallace的注意，她是紐約第143選區(qū)的民主黨議員。該選區(qū)與洛克波特接壤，下轄迪普鎮(zhèn)（Depew）。鎮(zhèn)上的迪普聯(lián)合自由學(xué)區(qū)（Depew Union Free School District）也有意啟用同樣的系統(tǒng)。

Wallace聯(lián)系了洛克波特市的行動(dòng)者，試圖弄清他們?cè)趽?dān)憂什么。作為一名律師和家長(zhǎng)，她理解安全與隱私之間可能存在的沖突，也擔(dān)心這項(xiàng)技術(shù)的應(yīng)用可能弊大于利。

2019年3月，Wallance在紐約州議會(huì)上提出了一項(xiàng)法案（A6787），試圖叫停紐約州內(nèi)所有公立學(xué)校，暫時(shí)停止采購(gòu)或啟用任何“生物識(shí)別技術(shù)”——除人臉識(shí)別，還包括指紋、手印、虹膜、視網(wǎng)膜，或DNA測(cè)序、聲音、步態(tài)或面部幾何學(xué)等識(shí)別技術(shù)。Wallance就法案草案征求了社區(qū)意見(jiàn)，確保它回應(yīng)了人們的擔(dān)憂。

該法案還要求紐約州教育部（NYSED）就以下問(wèn)題展開(kāi)專(zhuān)門(mén)研究：敏感生物特征信息對(duì)隱私的影響；某些少數(shù)群體的識(shí)別偏誤及風(fēng)險(xiǎn)；收集到的信息有無(wú)可能與外部的個(gè)人或機(jī)構(gòu)共享，包括執(zhí)法部門(mén)；系統(tǒng)存儲(chǔ)信息的時(shí)間（編者注：即是否需要定期刪除或銷(xiāo)毀數(shù)據(jù)）；未經(jīng)授權(quán)的挪用風(fēng)險(xiǎn)；維護(hù)成本；對(duì)供應(yīng)商的審查；以及該如何向公眾公開(kāi)這項(xiàng)技術(shù)。

該法案要求，紐約州教育部需與州內(nèi)的多個(gè)利益相關(guān)方溝通，教育專(zhuān)員需要舉行公開(kāi)聽(tīng)證會(huì)，征求各方意見(jiàn)，包括教師、學(xué)校管理者、家長(zhǎng)，以及學(xué)校安全專(zhuān)家、數(shù)據(jù)隱私專(zhuān)家、公民權(quán)利和公民自由團(tuán)體等。

2019年4月，該法案以128票對(duì)19票的結(jié)果在參議院通過(guò)。但它沒(méi)能進(jìn)入2019年的立法程序，2020年行動(dòng)仍在繼續(xù)。

《洛克波特雜志》的記者Connor Hoffman參加了洛克波特學(xué)區(qū)每一次的學(xué)校董事會(huì)會(huì)議，并多次申請(qǐng)相關(guān)信息和數(shù)據(jù)公開(kāi)，比如，一份未公開(kāi)信息顯示了技術(shù)的準(zhǔn)確率問(wèn)題，黑人女性被系統(tǒng)誤識(shí)別的可能性是白人男性的16倍。

持續(xù)不斷的報(bào)道引發(fā)了全國(guó)性媒體的關(guān)注，比如《紐約時(shí)報(bào)》，以及一部MTV新聞紀(jì)錄片。

如果沒(méi)有社區(qū)居民的持續(xù)行動(dòng)，沒(méi)有本地新聞和全國(guó)性新聞機(jī)構(gòu)的持續(xù)關(guān)注，一個(gè)學(xué)校采用人臉識(shí)別技術(shù)、教育部門(mén)未能進(jìn)行有效監(jiān)管等問(wèn)題都會(huì)被忽視。

然而，爭(zhēng)議聲中，洛克波特還是于2020年1月2日悄然啟用了人臉識(shí)別系統(tǒng)，家長(zhǎng)和學(xué)生未得到事先通知，也沒(méi)有機(jī)會(huì)表達(dá)反對(duì)意見(jiàn)。該區(qū)為何不顧反對(duì)匆忙上線該系統(tǒng)，目前仍不清楚。

盡管遭遇挫折，但社區(qū)行動(dòng)仍有所收獲。

2020年，立法會(huì)因新冠疫情而中斷，但兩院都對(duì)該法案進(jìn)行了修訂，將“暫停令”延長(zhǎng)至2022年7月，或直到教育專(zhuān)員在調(diào)查論證后對(duì)某些機(jī)構(gòu)進(jìn)行明確授權(quán)（以?xún)烧咧休^晚的時(shí)間為準(zhǔn)），在此之前，禁止任何公立學(xué)校使用生物特征識(shí)別技術(shù)。

該法案得到了全州乃至全美的廣泛支持，包括美國(guó)教師聯(lián)合會(huì)（United Federation of Teachers）、美國(guó)教師聯(lián)盟（American Federation of Teachers）紐約市分會(huì)等。7月20日那一周，該法案在議會(huì)和參議院獲得通過(guò)，正等待州長(zhǎng)簽署成為正式法律。

2020年2月，紐約公民自由聯(lián)盟在洛克波特市學(xué)區(qū)主持了一場(chǎng)會(huì)議，近50名家長(zhǎng)和社區(qū)居民出席了會(huì)議。對(duì)許多人而言，這是兩年多以來(lái)，他們第一次和校方坐在同一個(gè)房間里面對(duì)面討論。

社區(qū)行動(dòng)的價(jià)值

洛克波特的社區(qū)行動(dòng)表明，持續(xù)的公眾監(jiān)督可以彌足官僚主義的失效，帶來(lái)必要的改革。

最初，校方采購(gòu)并使用人臉識(shí)別系統(tǒng)，通過(guò)常規(guī)形式獲得正當(dāng)性（編者注：如“走過(guò)場(chǎng)式”的公眾意見(jiàn)征詢(xún)會(huì)），但它存在明顯缺陷。雖然校方對(duì)校園安全的考慮是合理的，但需要對(duì)技術(shù)的具體使用方式進(jìn)行監(jiān)督。

家長(zhǎng)們把話題從抽象地爭(zhēng)論“生物識(shí)別監(jiān)控系統(tǒng)是否有必要”，轉(zhuǎn)移到更具體的問(wèn)題，它會(huì)對(duì)學(xué)生造成哪些具體傷害。

今年，在洛克波特的學(xué)校董事會(huì)換屆選舉中，許多家長(zhǎng)受到了鼓舞，參與競(jìng)選董事會(huì)的多個(gè)空缺席位。今年的選民投票率是該地區(qū)近五年平均投票率的四倍。

眼下，洛克波特和紐約州的爭(zhēng)論和行動(dòng)仍在繼續(xù)，但這場(chǎng)社區(qū)行動(dòng)讓人們看到了那些受到負(fù)面影響的群體？對(duì)其賦權(quán)，帶來(lái)真正的變革，這很重要。

（作者Stefanie Coyle來(lái)自“紐約公民自由聯(lián)盟”， Rashida Richardson為紐約大學(xué)AI Now研究中心研究員。本系列經(jīng)紐約大學(xué)AI Now研究中心授權(quán)翻譯發(fā)布，更多內(nèi)容可閱讀官網(wǎng)的報(bào)告全文。）

制圖：白浪