大數(shù)據(jù)文摘出品

來源：techcrunch

編譯：周熙

歐洲法院今天審理了一項(xiàng)法律訴訟，涉及歐盟資助的一個有爭議的研究項(xiàng)目，該項(xiàng)目使用人工智能進(jìn)行面部 "測謊"，目的是加快移民檢查。

2019年3月，海盜黨（Pirate Party）德國成員、公民自由活動家 Patrick Breyer對監(jiān)督該集團(tuán)資助項(xiàng)目的歐盟研究執(zhí)行機(jī)構(gòu) （REA）提起透明度訴訟——他之前曾因后者拒絕披露文件成功起訴委員會。

他正在尋求公布項(xiàng)目的倫理評估、法律受理、市場推廣和結(jié)果相關(guān)的文件。并希望制定一個原則，即公共資助的研究必須符合歐盟的基本權(quán)利——并幫助避免在這個過程中把公共資金浪費(fèi)在人工智能的 "萬金油"（snake oil）上。

Breyer在今天的聽證會后發(fā)表聲明說：“總有危險(xiǎn)的監(jiān)視和控制技術(shù)被歐盟開發(fā)出來，未來甚至?xí)Y助武器研究，我希望能有一個里程碑式的裁決，讓公眾對為私人利益服務(wù)且不道德的公費(fèi)研究進(jìn)行監(jiān)督和論證。通過我的透明度訴訟，我希望法院一勞永逸地裁定，納稅人、科學(xué)家、媒體和國會議員有權(quán)了解公費(fèi)研究的信息——特別是'iBorderCtrl視頻測謊儀'這類偽科學(xué)和奧威爾（Orwellian）技術(shù)?！?/p>

法院尚未確定此案的裁決日期，但Breyer表示，法官們對該機(jī)構(gòu)進(jìn)行了 "一個多小時的密集且嚴(yán)格的質(zhì)詢"，并透露，與涉案人工智能技術(shù)相關(guān)的文件尚未公開披露，但法官們已經(jīng)審查過，其中包含了 "種族特征 "等信息，引發(fā)了大量質(zhì)疑。

主審法官繼續(xù)質(zhì)疑，按照Breyer的說法，通過公布更多關(guān)于有爭議的iBorderCtrl項(xiàng)目的信息，來證明自己沒有什么可隱瞞的，這是否符合歐盟研究機(jī)構(gòu)的利益。

人工智能 “測謊儀”

有關(guān)研究之所以有爭議，是因?yàn)榫_測謊儀的概念仍只存在于科幻小說里，而且有充分的理由相信目前沒有證據(jù)顯示欺騙有 "普適性的心理信號"。

然而，這個由人工智能驅(qū)動的商業(yè)研發(fā) "實(shí)驗(yàn) "是為了建立一個視頻測謊器，測試者被要求回答一個虛擬邊檢人員向他們提出的問題，同時一個網(wǎng)絡(luò)攝像頭掃描他們的面部表情，該系統(tǒng)試圖檢測出歐盟在該項(xiàng)目官方摘要中所描述的 "欺騙的生物標(biāo)記"，借此為測試者的面部表情的真實(shí)性打分。在該集團(tuán)的地平線2020計(jì)劃下獲得了超過450萬歐元（約合540萬美元）的歐盟研究資金。

iBorderCtrl項(xiàng)目在2016年9月至2019年8月期間進(jìn)行，資金由多個成員國（包括英國、波蘭、希臘和匈牙利）的13個私營或盈利實(shí)體分?jǐn)偂?/p>

iBorderCtrl項(xiàng)目組表示將在去年公布公開研究報(bào)告，以書面形式回復(fù)Breyer對其缺乏透明度的質(zhì)疑，但報(bào)告至今未曾與公眾見面。

早在2019年，The Intercept媒體就發(fā)表了就測試了iBorderCtrl系統(tǒng)的報(bào)告。視頻測謊儀誣陷其記者說謊，并給出她在16個答案中給出了4個假答案的判斷，并給她打出了48分的總分。一名評估結(jié)果的警察報(bào)告說，這觸發(fā)了系統(tǒng)對她的建議，她應(yīng)該接受進(jìn)一步的檢查。（盡管這樣的事情沒有真正發(fā)生過，因?yàn)樵撓到y(tǒng)從未在邊境測試期間真正運(yùn)行）。

The Intercept說，它必須提出數(shù)據(jù)訪問請求——這是歐盟法律規(guī)定的權(quán)利——才能獲得記者結(jié)果的副本。其報(bào)道援引德比大學(xué)（University of Derby）刑事調(diào)查教授Ray Bull的話說，iBorderCtrl項(xiàng)目 "不可信"，鑒于目前缺乏證據(jù)來證明監(jiān)測人們臉上的微表情是衡量撒謊的準(zhǔn)確方法。

此外Bull還說："他們自欺欺人，以為這樣做會有實(shí)質(zhì)性的效果，他們浪費(fèi)了很多錢。這項(xiàng)技術(shù)是基于對人類在真實(shí)和欺騙時的基本誤解"。

只要注入足夠多的數(shù)據(jù)，人工智能就能自動預(yù)測人類特征的說法令人痛心——看看最近應(yīng)用機(jī)器學(xué)習(xí)從臉型中搜集 "性格特征 "來重振人機(jī)學(xué)的嘗試就知道了。所以，一個人臉掃描的人工智能 "測謊儀 "就這樣就端坐于一個漫長而不光彩的反科學(xué) "傳統(tǒng)"王座之上。

在21世紀(jì)，在你還沒有考慮到歐盟資助違背歐盟憲章規(guī)定的關(guān)于基本權(quán)利的研究所固有的道德和法律盲點(diǎn)之前，數(shù)百萬歐元的公共資金被投入到可怕的舊想法的翻版中，這實(shí)在是令人難以置信。當(dāng)你考慮到所有的錯誤決定都涉及到讓這種情況發(fā)生時，它看起來就像是絞刑般可恥。

為這種可疑的人工智能應(yīng)用提供資金，似乎也忽視了所有已經(jīng)完成的（好的）研究，這些研究顯示了數(shù)據(jù)驅(qū)動技術(shù)是如何風(fēng)險(xiǎn)度量偏見和歧視的。

但我們無法確定，因?yàn)殛P(guān)于iBorderCtrl背后的財(cái)團(tuán)如何評估其實(shí)驗(yàn)性應(yīng)用中的道德考慮因素的信息非常有限，這是法律投訴的核心部分。

位于盧森堡的歐洲法院面臨的挑戰(zhàn)給委員會提出了一些非常尷尬的問題。歐盟是否應(yīng)該將納稅人的現(xiàn)金投入到偽科學(xué) "研究 "中？它是不是應(yīng)該努力資助真正的科學(xué)？為什么它的旗艦研究項(xiàng)目——?dú)W盟皇冠上的明珠——很少受到公眾監(jiān)督？

同時，一個視頻測謊儀能通過歐盟的 "道德自評 "程序，說明所謂的 "道德檢查 "并不值得一看。

"是否接受（研發(fā)）申請的決定是在成員國代表作出決定后由區(qū)域環(huán)境署作出的。因此，沒有公眾監(jiān)督，沒有議會或非政府組織的參與。沒有（獨(dú)立的）道德機(jī)構(gòu)來篩選所有這些項(xiàng)目。整個系統(tǒng)的設(shè)置非常糟糕"，Breyer說。

"他們的論點(diǎn)基本上是，這種研發(fā)的目的不是為了促進(jìn)科學(xué)或?yàn)楣怖孀鲆恍┦虑椋膊皇菫榱舜龠M(jìn)歐盟的政策，這些計(jì)劃的目的實(shí)際上是為了支持工業(yè)——開發(fā)東西來銷售。因此，它應(yīng)該是一個經(jīng)濟(jì)的項(xiàng)目，它的設(shè)計(jì)方式。我認(rèn)為我們真的需要討論一下，這樣做是否正確，是否應(yīng)該如此。歐盟即將對人工智能進(jìn)行監(jiān)管，而在這里，它實(shí)際上是在資助不道德、不合法的技術(shù)"。

沒有來自外部的道德監(jiān)督

歐盟資助敵視權(quán)利的研究不僅顯得虛偽，而且——批評者認(rèn)為這是在浪費(fèi)公共資金，而這些資金本可以用于真正有用的研究（無論是為了安全目的，還是更廣泛的公共利益；以及促進(jìn)歐盟立法者喜歡提及的 "歐洲價(jià)值觀"）。

Breyer認(rèn)為，"我們需要知道，并且明白這些研究永遠(yuǎn)不該被使用，因?yàn)樗黄鹱饔茫蛘呤遣坏赖?，或者是非法，這實(shí)際上是在浪費(fèi)錢，那些錢本該用于其他真正重要和有用的項(xiàng)目"。

"例如在安全方案中，你或許可以在警察防護(hù)裝備方面做一些好事。或者也許在向民眾宣傳預(yù)防犯罪方面。因此，如果這些手段使用得當(dāng)，而不是使用這種希望永遠(yuǎn)不會被使用的可疑技術(shù)，就可以做很多好事"。

接替Horizon 2020的歐盟旗艦研究和創(chuàng)新計(jì)劃的最新化身，在2021-2027年期間的預(yù)算約為955億歐元。而推動數(shù)字化轉(zhuǎn)型和人工智能的發(fā)展也是歐盟聲明的研究經(jīng)費(fèi)重點(diǎn)之一。所以，可用于 "實(shí)驗(yàn)性 "人工智能的錢袋看起來很巨大。

但是，誰來確保錢不會浪費(fèi)在算法萬金油上，而且還是危險(xiǎn)的算法萬金油，因?yàn)檠邪l(fā)工作明顯違背了歐盟自己的基本人權(quán)憲章？

歐盟委員會多次拒絕了要求發(fā)言人談?wù)撨@些問題的請求，但它確實(shí)發(fā)送了一些記錄要點(diǎn)(如下)，以及關(guān)于獲取文件的一些背景資料，這是法律申訴的一個關(guān)鍵部分。

在委員會關(guān)于 "研究中的倫理 "的記錄聲明中，它首先聲稱 "在歐盟資助的研究中，倫理是最優(yōu)先的"。

"在地平線2020下開展的所有研究和創(chuàng)新活動都必須遵守道德原則和相關(guān)的國家、歐盟和國際的法律，包括《基本權(quán)利憲章》和《歐洲人權(quán)公約》"，它還告訴我們 "所有提案都要經(jīng)過專門的道德評估，以核實(shí)研究項(xiàng)目是否符合道德規(guī)則和標(biāo)準(zhǔn)，并在合同中規(guī)定其義務(wù)"。

它沒有詳細(xì)說明 "視頻測謊儀 "究竟如何能符合歐盟的基本權(quán)利————如尊嚴(yán)、隱私、平等和不歧視的權(quán)利。

而值得一提的是，歐洲數(shù)據(jù)保護(hù)監(jiān)督員（EDPS）在去年的一份初步意見中寫道，對歐盟資助的科學(xué)研究與數(shù)據(jù)保護(hù)法之間的錯位提出了擔(dān)憂。"我們建議加強(qiáng)數(shù)據(jù)保護(hù)主管部門和倫理審查委員會之間的對話，以便就哪些活動有資格成為真正的研究達(dá)成共識，歐盟科學(xué)研究行為準(zhǔn)則，歐盟研究框架方案和數(shù)據(jù)保護(hù)標(biāo)準(zhǔn)之間更緊密地結(jié)合起來，并開始就研究人員在哪些情況下可以基于公共利益獲取私營公司持有的數(shù)據(jù)進(jìn)行辯論"。

具體到iBorderCtrl項(xiàng)目，委員會告訴我們，該項(xiàng)目任命了一名道德顧問，"按照最初的道德要求 "監(jiān)督研究道德方面的執(zhí)行情況。委員會聲稱，"顧問的工作方式是確保自主性和獨(dú)立于聯(lián)合體"，但沒有透露該項(xiàng)目(內(nèi)部任命)道德顧問是誰。

"在項(xiàng)目執(zhí)行期間，委員會/REA通過修訂相關(guān)的可交付成果不斷監(jiān)測道德方面的問題，并在與報(bào)告期結(jié)束相關(guān)的技術(shù)審查會議期間與外部獨(dú)立專家合作，對道德方面的問題進(jìn)行了認(rèn)真分析"，它繼續(xù)補(bǔ)充說："2019年3月進(jìn)行了一次令人滿意的道德檢查"。

它沒有提供關(guān)于這次自律性 "道德操守檢查 "的任何進(jìn)一步細(xì)節(jié)。

"到目前為止，它的運(yùn)作方式基本上是委員會成立的一些專家組與提議/招標(biāo)"，Breyer在討論歐盟的研究項(xiàng)目是如何構(gòu)建時說。"它由行業(yè)專家主導(dǎo)，里面沒有任何國會議員，我認(rèn)為它只有一個民間社會的代表在里面，所以從一開始就有虛假的組成。然后，它被提交給研究執(zhí)行機(jī)構(gòu)，實(shí)際的決定是由成員國的代表作出的。

征集研究提案本身聽起來并不那么糟糕，如果你查一查的話，它很籠統(tǒng)，所以問題其實(shí)是他們針對它提出的具體提案。而據(jù)我所知，這些都不是由獨(dú)立專家篩選的。道德問題是通過自我評估來處理的。因此，基本上，申請者應(yīng)該表明項(xiàng)目是否涉及高道德風(fēng)險(xiǎn)。只有在申請者表明了這一點(diǎn)的情況下，才會有專家，由區(qū)域評估機(jī)構(gòu)挑選，進(jìn)行道德評估。

"我們不知道誰被選中了，我們不知道他們的意見，這也是保密的，如果后來發(fā)現(xiàn)某個項(xiàng)目不道德，是不可能撤銷撥款的"。

虛偽的指控在這里變得更為尖銳，因?yàn)槲瘑T會正在為人工智能的應(yīng)用塑造基于風(fēng)險(xiǎn)的規(guī)則。而歐盟立法者多年來一直表示，人工智能技術(shù)需要 "護(hù)欄"，以確保它們的應(yīng)用符合地區(qū)價(jià)值觀和權(quán)利。

委員會執(zhí)行副總裁Margrethe Vestager曾談到，需要制定規(guī)則來確保人工智能 "合乎道德地被使用"，并能 "支持人類的決策，而不是破壞人類的決策"。

然而，歐盟的機(jī)構(gòu)們卻同時將公共資金投入在人工智能研究上，如果在該地區(qū)實(shí)施人工智能研究，顯然是不合法的，鑒于 "測謊 "缺乏科學(xué)依據(jù)，民間批評人士譴責(zé)這種研究顯然是不道德的。

在iBorderCtrl網(wǎng)站的常見問題解答中，項(xiàng)目背后的商業(yè)財(cái)團(tuán)承認(rèn)，現(xiàn)有的歐盟法律框架并沒有涵蓋其中一些技術(shù)的實(shí)際應(yīng)用，并補(bǔ)充說，這意味著 "如果沒有建立法律基礎(chǔ)的民主政治決定，這些技術(shù)就無法實(shí)施"。

或者，換句話說，如果不修改法律，這種系統(tǒng)在歐洲實(shí)際用于邊境檢查是非法的。然而，歐洲納稅人的資金還是被投入了。

EDPS的發(fā)言人拒絕對Breyer的案件進(jìn)行具體評論，但他確認(rèn)，其關(guān)于科學(xué)研究和數(shù)據(jù)保護(hù)的初步意見仍然是相關(guān)的。

他還指出了未來的相關(guān)工作，該工作涉及委員會最近推動并鼓勵為研究目的而共享泛歐盟健康數(shù)據(jù)的工作——EDPS建議 "從一開始 "就確定數(shù)據(jù)保護(hù)保障措施，并建議在進(jìn)行研究之前建立 "深思熟慮 "的法律基礎(chǔ)。

"EDPS建議特別關(guān)注（健康數(shù)據(jù)共享）框架內(nèi)數(shù)據(jù)的道德使用，為此，他建議考慮現(xiàn)有的道德委員會及其在國家立法背景下的作用"，歐盟首席數(shù)據(jù)監(jiān)督員寫道，他堅(jiān)信健康數(shù)據(jù)共享計(jì)劃的成功將取決于建立一個強(qiáng)有力的數(shù)據(jù)治理機(jī)制，為立足于歐盟價(jià)值觀的合法、負(fù)責(zé)任、道德管理提供充分保證，包括尊重基本權(quán)利"。

數(shù)據(jù)的合法和道德使用必須成為研究工作的DNA————而不是事后表單上的一個選項(xiàng)。

無法驗(yàn)證的技術(shù)

除了對獲得歐盟資助的研究項(xiàng)目缺乏獨(dú)立的倫理監(jiān)督外，對于所謂具有商業(yè)頭腦的研究來說，目前令人擔(dān)憂的是，外界無法獨(dú)立驗(yàn)證（或者說，證偽）相關(guān)技術(shù)。

就iBorderCtrl技術(shù)而言，沒有公布關(guān)于項(xiàng)目成果的任何有意義的數(shù)據(jù)，根據(jù)信息自由法要求提供數(shù)據(jù)的請求也以商業(yè)利益為由被拒絕。

自2019年項(xiàng)目結(jié)束以來，Breyer一直試圖獲得有關(guān)項(xiàng)目成果的信息，但沒有成功?！缎l(wèi)報(bào)》早在12月就詳細(xì)報(bào)道了他的斗爭。

他說，裹挾在歐盟研究的法律框架下，只有非常有限的要求公布項(xiàng)目成果信息——而且是在事后很久才公布。因此，他希望法院能同意 "商業(yè)利益 "不能被用來過分寬泛地拒絕披露公共利益信息。

他告訴TechCrunch，"他們基本上認(rèn)為沒有義務(wù)審查一個項(xiàng)目是否真的有效，所以他們有權(quán)資助那些不起作用的研究"。"他們還認(rèn)為，如果任何信息的公布都會損害銷售技術(shù)的能力，基本上只要拒絕訪問就可以了——這是對商業(yè)敏感信息的一種極其廣泛的解釋。

"我會接受的是排除真正包含商業(yè)機(jī)密的信息，比如軟件程序的源代碼或者內(nèi)部計(jì)算之類的。但這肯定不應(yīng)該涵蓋，例如，如果一個項(xiàng)目被貼上了不道德的標(biāo)簽。這不是商業(yè)秘密，但顯然會損害他們銷售的能力——但顯然這種解釋太寬泛了"。

"我希望這次法律訴訟能成為一個先例，澄清這種不道德的（如果真的使用或部署了這種技術(shù)也是非法的）技術(shù)的信息，公眾的知情權(quán)優(yōu)先于出售技術(shù)的商業(yè)利益"，他補(bǔ)充道。"他們是說我們不會發(fā)布信息，因?yàn)檫@樣做會減少出售技術(shù)的機(jī)會。因此，當(dāng)我看到這一點(diǎn)時，我說，好吧，這絕對值得上法庭，因?yàn)樗麄儗λ姓埱笠灰曂?。

民間社會組織在試圖獲取iBorderCtrl項(xiàng)目的詳細(xì)信息時也遭到了挫折。例如，The Intercept在2019年報(bào)道稱，總部位于米蘭的Hermes透明和數(shù)字人權(quán)中心的研究人員利用信息自由法獲得了有關(guān)iBorderCtrl系統(tǒng)的內(nèi)部文件，但他們拿回的數(shù)百頁文件被嚴(yán)重刪改——許多文件被完全涂黑。

"我從那些試圖了解其他可疑研究項(xiàng)目的記者那里聽說，他們大規(guī)模地隱瞞了信息，但這是徒勞的。甚至像道德報(bào)告或法律評估這樣的東西——那都是不包含任何商業(yè)機(jī)密的東西，就像這樣"，Breyer繼續(xù)說道。"它不包含任何源代碼，也不包含任何敏感信息——他們甚至還沒有公布這些內(nèi)容哪怕是一小部分。

"我發(fā)現(xiàn)，一個歐盟機(jī)構(gòu)[REA]居然會說，我們不關(guān)心這方面的利益，因?yàn)橐坏┧赡軙p少銷售，那么我們就會扣留信息，這讓人感到憤怒。我不認(rèn)為這是可以接受的，無論是其關(guān)乎納稅人的利益方面，了解他們的錢是用來做什么，但也出于科學(xué)的利益，能夠測試/驗(yàn)證這些所謂的 "欺騙檢測 "的實(shí)驗(yàn) - 這是非常有爭議的，如果它真的有效。而為了驗(yàn)證或證偽，科學(xué)家們當(dāng)然需要獲得關(guān)于這些試驗(yàn)的具體內(nèi)容。

"另外從民主的角度來說，如果有一天立法者想要決定引入這樣的系統(tǒng)，甚至決定這些研究項(xiàng)目的框架，我們基本上需要知道細(xì)節(jié)——比如假陽性的數(shù)量是多少？它的實(shí)際效果如何？它是否會因?yàn)閷δ承┤巳盒Ч患讯a(chǎn)生歧視作用，就像面部識別技術(shù)那樣。這都是我們真正迫切需要知道的東西"。

關(guān)于獲取與歐盟資助的研究有關(guān)的文件，委員會請我們參考第1049/2001號條例，它說該條例 "規(guī)定了一般原則和限制"，但它補(bǔ)充說，"對每個案例都進(jìn)行了認(rèn)真和單獨(dú)的分析"。

然而，委員會對地平線計(jì)劃條例的解釋似乎完全排除了信息自由的適用——至少在iBorderCtrl項(xiàng)目中是這樣。

根據(jù)Breyer的說法，他們將公開披露的內(nèi)容限制在研究結(jié)果的摘要上——可以在項(xiàng)目完成后大約三到四年后發(fā)表。

"你會在一些科學(xué)雜志上看到一篇五六頁的關(guān)于這個項(xiàng)目的文章，當(dāng)然你不能用它來驗(yàn)證或證偽這個技術(shù)"，他說。"你無法看到他們到底在做什么——他們在和誰交談。所以這種總結(jié)在科學(xué)上、對公眾和民主上都是非常無用的，而且要花很多時間。所以我希望將來我們能得到更多的洞察力，希望能進(jìn)行公開辯論"。

歐盟研究計(jì)劃的法律框架是二級立法。所以布雷耶的論點(diǎn)是，一個關(guān)于保護(hù) "商業(yè)利益 "的空白條款不應(yīng)該能夠凌駕于歐盟基本的透明度權(quán)利之上。但當(dāng)然這將由法院來決定。

"我認(rèn)為我有一些很好的機(jī)會，特別是因?yàn)橥该鞫群瞳@取信息實(shí)際上是歐盟的一項(xiàng)基本權(quán)利——它在歐盟基本權(quán)利憲章中。而這個地平線立法只是二級立法——他們不能偏離主要法律。而且它們需要按照它來解釋"，他補(bǔ)充道。"所以我認(rèn)為，我希望法院會說這是適用的，他們會在信息自由的背景下做一些平衡，信息自由也保護(hù)商業(yè)信息，但受制于普遍的公共利益。所以我認(rèn)為他們會找到一個很好的折衷方案，希望能有更好的洞察力和更大的透明度。

"也許他們會把文件的某些部分涂黑，刪改一些，但我當(dāng)然希望原則上我們能獲得這些資料。從而也確保將來委員會和REA必須交出大部分關(guān)于這項(xiàng)研究的要求的東西。因?yàn)槟抢镉泻芏嗫梢傻捻?xiàng)目"。

Breyer認(rèn)為，一個更好的研究項(xiàng)目監(jiān)督體系可以從讓決定資助申請的委員會不至于主要由工業(yè)界和歐盟成員國的代表組成（當(dāng)然，他們總是希望歐盟的現(xiàn)金來到他們的地區(qū)）——還應(yīng)當(dāng)包括議會代表、更多的民間社會代表和科學(xué)家。

"它應(yīng)該有獨(dú)立的參與者，而且這些參與者應(yīng)該是大多數(shù)"，他說。"這將是有意義的，引導(dǎo)研究活動向著公益、遵守我們的價(jià)值觀、有用的研究方向發(fā)展——因?yàn)槲覀冃枰篮土私獾氖悄切┯肋h(yuǎn)不會被使用的研究，因?yàn)樗黄鹱饔?，或者它不道德，或者它是非法的，它浪費(fèi)的資金，用于其他真正重要和有用的項(xiàng)目"。

他還指出，歐盟正在制定一項(xiàng)新的研究計(jì)劃，該計(jì)劃的重點(diǎn)是國防——在同樣的結(jié)構(gòu)下，缺乏對資金決定或信息披露的適當(dāng)公眾監(jiān)督。他指出："他們也想為國防做這件事，所以這甚至是涉及致命性的技術(shù)。"。

到目前為止，圍繞iBorderCtrl的披露只有其系統(tǒng)的技術(shù)規(guī)格的一些部分和一些通信報(bào)告，按照Breyer的說法，他指出，這兩者都被 "大量刪改"。

"比如說他們沒有說把這個系統(tǒng)介紹給哪些邊境機(jī)構(gòu)，也沒有說和哪些政客談過。其實(shí)有趣的是，這筆資金的一部分也是在向歐盟的邊境當(dāng)局和政治家們介紹這項(xiàng)技術(shù)。這是非常有趣的，因?yàn)槲瘑T會一直在說，你看這只是研究，這并不重要。但實(shí)際上他們已經(jīng)在利用這個項(xiàng)目來推廣這項(xiàng)技術(shù)和銷售。即使它從未在歐盟邊境使用過，資助開發(fā)也意味著它可以被其他政府使用——它可以賣給中國和沙特阿拉伯等。

"還有欺騙檢測技術(shù)——營銷它的公司，一家位于曼徹斯特的公司，名為Silent Talker Ltd——也在向保險(xiǎn)公司提供它，或者在工作面試時使用，或者也許如果你在銀行申請貸款。因此，這種認(rèn)為人工智能系統(tǒng)將能夠檢測謊言的想法有可能被非常廣泛地用于私營部門，而且由于我說它根本不起作用，它基本上是一個彩票很多人有可能從這種可疑的技術(shù)中獲得不利因素"。

他補(bǔ)充說："沒有人阻止歐盟資助這種'巫毒'技術(shù)，這是相當(dāng)令人憤怒的"。

委員會告訴我們，"智能便攜式邊境管制系統(tǒng)"(又名iBorderCtrl) "探索了提高陸地邊境口岸效率、便利性和安全性的新思路"，與所有安全研究項(xiàng)目一樣，它 "旨在測試應(yīng)對安全挑戰(zhàn)的新思路和新技術(shù)"。

"不期望iBorderCtrl能提供現(xiàn)成的技術(shù)或產(chǎn)品。并非所有研究項(xiàng)目都會導(dǎo)致開發(fā)出具有實(shí)際應(yīng)用的技術(shù)。一旦研究項(xiàng)目結(jié)束，就由會員國決定是否要進(jìn)一步研究和/或開發(fā)項(xiàng)目所研究的解決方案"。

它還指出，任何未來技術(shù)的具體應(yīng)用 "都必須尊重歐盟和國家的法律和保障措施，包括關(guān)于基本權(quán)利和歐盟保護(hù)個人數(shù)據(jù)的規(guī)則"。

不過，Breyer也對委員會試圖通過聲稱'這只是研發(fā)'或它沒有決定使用任何特定技術(shù)來轉(zhuǎn)移公眾注意力的做法叫好。他認(rèn)為，"當(dāng)然從事實(shí)上看，這給立法者造成了壓力，如果事實(shí)證明它有用或行之有效，就會同意已經(jīng)研發(fā)的東西"。"而且也即使歐盟本身不使用它，它也會被賣到其他地方——所以我認(rèn)為對這項(xiàng)研究缺乏審查和道德評估真的是丑聞。尤其是他們已經(jīng)多次開發(fā)和研究監(jiān)控技術(shù)——包括對公共空間的大規(guī)模監(jiān)控"。

"他們在互聯(lián)網(wǎng)上有大量收集數(shù)據(jù)和處理互聯(lián)網(wǎng)數(shù)據(jù)的項(xiàng)目。安全項(xiàng)目是非常有問題的，因?yàn)樗麄儗Ω缮婊緳?quán)利——隱私權(quán)——進(jìn)行研究"，他接著說。"項(xiàng)目中確實(shí)沒有任何限制或排除大規(guī)模監(jiān)控等不道德的方法。而且不僅沒有任何物質(zhì)上的限制，也沒有任何制度上的設(shè)置，能夠從一開始就將這類項(xiàng)目排除在外。然后就算是項(xiàng)目設(shè)計(jì)好了，啟動了，他們甚至?xí)芙^公開這些項(xiàng)目的權(quán)限。這實(shí)在是太離譜了，正如我所說，我希望法院能夠進(jìn)行一些適當(dāng)?shù)钠胶?，并提供更多的見解，然后我們基本上可以引發(fā)一場關(guān)于這些研究計(jì)劃設(shè)計(jì)的公開辯論"。

他再次指出，委員會計(jì)劃在同樣以工業(yè)為中心的決策結(jié)構(gòu)下設(shè)立國防研發(fā)基金——"同樣存在道德評估機(jī)制的缺陷"——他指出，雖然歐盟的研究能夠?yàn)樽灾魑淦魈峁┵Y金有一定的限制，但其他領(lǐng)域也可以為納稅人的現(xiàn)金進(jìn)行競標(biāo)——比如大規(guī)模殺傷性武器和核武器。

他補(bǔ)充說："所以，這將是一個巨大的問題，并且會有同樣的透明度問題，當(dāng)然更多的是關(guān)于一般的透明度，委員會告訴我們，它 "始終鼓勵項(xiàng)目盡可能多地公布其結(jié)果"。而具體到iBorderCtrl，它說，關(guān)于該項(xiàng)目的更多信息可在CORDIS網(wǎng)站和專門的項(xiàng)目網(wǎng)站上查閱。"

如果你花時間瀏覽iBorderCtrl網(wǎng)站的 "出版物 "頁面，你會發(fā)現(xiàn)一些 "可交付成果"——包括 "道德顧問"；"道德顧問的第一份報(bào)告"；"以貌取人的道德、個人被污名化的風(fēng)險(xiǎn)和緩解計(jì)劃"；以及 "歐盟范圍的法律和道德審查報(bào)告"——所有這些都被列為 "機(jī)密"。

相關(guān)報(bào)道：

https://techcrunch.com/2021/02/05/orwellian-ai-lie-detector-project-challenged-in-eu-court/

志愿者介紹

原標(biāo)題：《"奧威爾 "人工智能測謊項(xiàng)目在歐盟法院受到挑戰(zhàn)》

閱讀原文