歐洲議會(huì)近日以壓倒性票數(shù)通過《人工智能法案》，這標(biāo)志著歐盟掃清了立法監(jiān)管人工智能（AI）的最后障礙，法案中的相關(guān)條款將分階段實(shí)施。

在歐盟率先為AI監(jiān)管立法后，上海國際問題研究院研究員、網(wǎng)絡(luò)空間國際治理研究中心秘書長魯傳穎向澎湃新聞（www.nxos.com.cn）表示，歐盟是否能夠在該領(lǐng)域起到帶領(lǐng)作用，還有待驗(yàn)證。在法案尚未生效、本身面臨創(chuàng)新和不足并存的情況下，這個(gè)舉措能否緩解“AI威脅論”、推動(dòng)各方在AI監(jiān)管領(lǐng)域合作等尚無定論。

當(dāng)?shù)貢r(shí)間2024年3月13日，法國斯特拉斯堡，歐洲議會(huì)議員就人工智能法案進(jìn)行投票。視覺中國 圖

布魯塞爾效應(yīng)，還是陷阱？

2021年4月，歐盟委員會(huì)提出《人工智能法案》提案的談判授權(quán)草案，將嚴(yán)格禁止“對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的AI系統(tǒng)”，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為、社會(huì)地位和個(gè)人特征等進(jìn)行評(píng)價(jià)的系統(tǒng)等。當(dāng)ChatGPT發(fā)布后引起投資熱潮、公眾出現(xiàn)對(duì)AI的狂熱情緒時(shí)，該立法草案讓歐盟立法者在AI領(lǐng)域占了先機(jī)。2023年12月，歐洲議會(huì)、歐盟成員國和歐盟委員會(huì)三方就《人工智能法案》達(dá)成協(xié)議。

有分析稱，歐洲議會(huì)通過《人工智能法案》，或許會(huì)為西方國家在AI治理方面奠定基調(diào)。但有相關(guān)企業(yè)擔(dān)憂法案“走得太遠(yuǎn)”，而數(shù)字監(jiān)管機(jī)構(gòu)認(rèn)為法案“做得還不夠”。在法案通過前，歐盟立法者曾于3月12日進(jìn)行辯論，當(dāng)時(shí)有聲音指出，歐盟在這個(gè)問題上還有許多重要的工作要做。

《華爾街日?qǐng)?bào)》稱，歐洲議會(huì)通過《人工智能法案》，表明歐盟是一個(gè)“有影響力的全球規(guī)則制定者”。美國有線電視新聞網(wǎng)（CNN）刊文指出，歐洲議會(huì)通過該法案，與美國形成鮮明對(duì)比。2023年，參議院多數(shù)黨領(lǐng)袖舒默曾罕見地把該問題放到議程首位，但美國尚未在AI聯(lián)邦立法方面取得任何有意義的進(jìn)展。

對(duì)于歐盟是否能在AI監(jiān)管領(lǐng)域起到帶領(lǐng)作用，魯傳穎對(duì)澎湃新聞表示，由歐盟單方面制定的規(guī)則對(duì)國際規(guī)則和各國國內(nèi)政策產(chǎn)生重要影響的現(xiàn)象被稱為“布魯塞爾效應(yīng)”。一方面，法案的監(jiān)管思路和創(chuàng)新舉措對(duì)各國都具有一定的參考價(jià)值，另一方面，法案在處理對(duì)技術(shù)進(jìn)步、產(chǎn)業(yè)發(fā)展的制約也受到了廣泛質(zhì)疑。因此，法案最終是“布魯塞爾效應(yīng)”還是“布魯塞爾陷阱”還有待時(shí)間檢驗(yàn)。

歐盟目前計(jì)劃在歐洲委員會(huì)下屬建立一個(gè)AI辦公室。從實(shí)際的角度來看，這個(gè)辦公室將是歐盟在AI監(jiān)管領(lǐng)域的關(guān)鍵執(zhí)法者，該機(jī)構(gòu)有權(quán)要求發(fā)展生成式AI的公司提供有關(guān)信息，甚至有權(quán)能夠阻止相關(guān)系統(tǒng)在歐盟運(yùn)作。

在魯傳穎看來，法案既有創(chuàng)新之處，也面臨著挑戰(zhàn)和不足?！胺ò赣腥齻€(gè)比較重要的創(chuàng)新之處。第一是開啟了AI監(jiān)管進(jìn)程。在這之前，AI監(jiān)管一般都是縱向監(jiān)管。橫向監(jiān)管是適用于所有部門和應(yīng)用的法律規(guī)則，覆蓋所有領(lǐng)域和人群，因此對(duì)法律的要求也更高，更難以達(dá)成共識(shí)。這也是為什么法案在強(qiáng)調(diào)嚴(yán)格監(jiān)管的同時(shí)，也注重監(jiān)管創(chuàng)新，例如鼓勵(lì)各國開展‘沙盒測(cè)試’，給中小企業(yè)提供更多的便利和支持等。第二是建立了基于風(fēng)險(xiǎn)等級(jí)的監(jiān)管體系。歐盟以人權(quán)和安全為基準(zhǔn)把AI風(fēng)險(xiǎn)分為四個(gè)等級(jí)：禁止的行為、高風(fēng)險(xiǎn)系統(tǒng)、有限風(fēng)險(xiǎn)系統(tǒng)和最低風(fēng)險(xiǎn)系統(tǒng)。不同類別的AI系統(tǒng)需要遵守不同的監(jiān)管要求。第三是為配合法案落地建立了一整套的執(zhí)法體系和多層次的監(jiān)督和執(zhí)行機(jī)制，包括歐盟成員國的國家監(jiān)管機(jī)構(gòu)等。”

魯傳穎稱，僅從文本角度來看，各方對(duì)于法案的質(zhì)疑主要包括三個(gè)方面。一是法案沒有完全反映AI技術(shù)的復(fù)雜性。法案追求的確定性，與AI技術(shù)存在的不確定性之間存在一定矛盾。對(duì)于一個(gè)快速發(fā)展的戰(zhàn)略性技術(shù)，盡管安全至關(guān)重要，但過多的資源投入到安全中會(huì)影響技術(shù)的進(jìn)步。

二是法案監(jiān)管思路和范疇跟不上快速迭代的AI技術(shù)。盡管法案以風(fēng)險(xiǎn)等級(jí)劃分來實(shí)施監(jiān)管，但技術(shù)的進(jìn)步會(huì)讓不同風(fēng)險(xiǎn)等級(jí)之間的界限不斷打破。AI技術(shù)的快速進(jìn)步有可能導(dǎo)致投入大量人力、物力的法案尚未生效就已經(jīng)落后。

三是監(jiān)管和創(chuàng)新之間的平衡問題。法案主要針對(duì)高風(fēng)險(xiǎn)的AI系統(tǒng)，這些要求給AI的開發(fā)和創(chuàng)新帶來一定的負(fù)擔(dān)和障礙。對(duì)于大企業(yè)而言，面臨著消極和積極兩個(gè)方面的影響。消極面是大量合規(guī)要求會(huì)阻礙技術(shù)的進(jìn)一步發(fā)展和市場(chǎng)拓展，積極面則是合規(guī)門檻高企會(huì)阻止更多企業(yè)進(jìn)入AI領(lǐng)域，有助于形成壟斷。這導(dǎo)致了一些中小型的AI企業(yè)或研究機(jī)構(gòu)的不公平，它們難以承擔(dān)相應(yīng)的合規(guī)成本和風(fēng)險(xiǎn)。

歐盟法案遇上“AI威脅論”

CNN日前報(bào)道稱，美國國務(wù)院委托Gladstone AI公司撰寫的一份報(bào)告表明，AI可能對(duì)人類構(gòu)成“滅絕級(jí)”威脅，美國必須進(jìn)行干預(yù)。根據(jù)這份報(bào)告，最先進(jìn)的AI系統(tǒng)可能被用作武器、AI實(shí)驗(yàn)室擔(dān)憂對(duì)開發(fā)系統(tǒng)“失去控制”，且在AI方面存在“軍備競(jìng)賽”，為此報(bào)告呼吁采取措施應(yīng)對(duì)這個(gè)威脅，包括實(shí)施緊急監(jiān)管保障措施等。

對(duì)于AI“威脅論”，復(fù)旦大學(xué)新聞傳播學(xué)院教授鄧建國表示，根據(jù)這份報(bào)告中的“AI威脅”，目前看到的原因有幾個(gè)：一是AI日益強(qiáng)大，但其運(yùn)行原理如黑箱，連專家都很難解釋清楚，更難預(yù)測(cè)其結(jié)果，而人類對(duì)“不可知之物”容易產(chǎn)生恐懼。二是AI的底層邏輯偏理性，人類一旦啟動(dòng)它，它很可能按照絕對(duì)理性的邏輯或者自說自話地執(zhí)行下去，哪怕以犧牲人類為代價(jià)。

比如所謂的“回形針效應(yīng)”，指的是如果一個(gè)AI系統(tǒng)的目標(biāo)被設(shè)定為最大化某個(gè)特定目標(biāo)，那么它很可能會(huì)忽略了其他因素，瘋狂、徹底、不惜一切代價(jià)地去實(shí)現(xiàn)這個(gè)目標(biāo)，比如調(diào)動(dòng)世界一切資源（包括電力和算力）以生產(chǎn)盡量多的“回形針”。三是擔(dān)心AI不加區(qū)別地?cái)U(kuò)散，會(huì)被一些國家或組織利用威脅到歐美的社會(huì)輿論和國家安全。比如2016年，（美國前總統(tǒng)）特朗普的團(tuán)隊(duì)曾在劍橋數(shù)據(jù)分析公司的幫助下，非法獲得了8000萬臉書用戶的信息，并向他們精準(zhǔn)投放了特朗普的正面競(jìng)選信息，被認(rèn)為干擾了選舉。今天的AI比社交機(jī)器人更為強(qiáng)大，干擾選民認(rèn)知和造成國家安全危機(jī)的能力更強(qiáng)。四是AI容易造成個(gè)人數(shù)據(jù)不當(dāng)利用和版權(quán)侵犯等。

《人工智能法案》能否暫緩?fù)饨鐚?duì)于“AI威脅論”的擔(dān)憂？鄧建國認(rèn)為，從整體來看，不同的人群對(duì)AI風(fēng)險(xiǎn)有不同的立場(chǎng)，其背后有不同的原因。在一定程度上，歐洲議會(huì)通過《人工智能法案》回應(yīng)了這些原因，因此一定程度上能夠緩解外界對(duì)于AI會(huì)帶來威脅的擔(dān)心。但普通人對(duì)AI風(fēng)險(xiǎn)的恐懼和樂觀，在于他們接觸了哪些媒介內(nèi)容，所以不必太較真。

法案能否緩解沖擊、推動(dòng)合作？

美聯(lián)社分析稱，今年是“超級(jí)大選年”，但近幾個(gè)月來，AI中的“深度偽造”技術(shù)已經(jīng)在社交媒體上對(duì)歐洲和亞洲多地的選舉產(chǎn)生了影響，這種情況被認(rèn)為“是一個(gè)警鐘”。 科技巨頭谷歌日前表示，將限制旗下AI聊天機(jī)器人Gemini回答有關(guān)今年全球各地大選的問題，以避免出現(xiàn)失誤的可能。此外，歐盟也向臉書、X（原推特）等社交平臺(tái)正式發(fā)出通知，要求這些平臺(tái)認(rèn)識(shí)到AI對(duì)選舉會(huì)構(gòu)成的風(fēng)險(xiǎn)，以及說明平臺(tái)如何應(yīng)對(duì)、防范這些風(fēng)險(xiǎn)。

歐盟率先為AI治理立法，是否能從監(jiān)管的角度緩解新技術(shù)帶來的沖擊，以及推動(dòng)各方就這個(gè)問題的合作？魯傳穎認(rèn)為，從監(jiān)管對(duì)象來看，法案主要針對(duì)AI系統(tǒng)的開發(fā)者，與《通用數(shù)據(jù)條例》涉及到的廣泛數(shù)據(jù)收集者、存儲(chǔ)者和處理者相比，門檻要高得多。因此，法案的監(jiān)管對(duì)象更像是歐盟《數(shù)字服務(wù)法》中所指出的“守門人”。

從監(jiān)管效果角度來看，法案僅僅是一個(gè)開始，其落地舉措還需要大量的技術(shù)標(biāo)準(zhǔn)和最佳實(shí)踐的支持。也就是說，法案最終落地還要依靠國際標(biāo)準(zhǔn)組織的成果，這也影響了“布魯塞爾效應(yīng)”的發(fā)揮。

在推動(dòng)各方合作的層面，鄧建國分析稱，“在世界范圍內(nèi)存在著一個(gè)‘AI發(fā)展水平鴻溝’，導(dǎo)致’AI風(fēng)險(xiǎn)感知鴻溝’的出現(xiàn)。即使在同一國家內(nèi)部，不同行業(yè)對(duì)AI風(fēng)險(xiǎn)的曝光度不同，所以感知也不同。”

“我們可以用‘漣漪’來比喻。在AI 發(fā)展和風(fēng)險(xiǎn)感知上，西方發(fā)達(dá)國家處于漣漪的中心，其他國家和地區(qū)位于AI的影響或威脅的中間或者外圍。在漣漪不同的位置，AI風(fēng)險(xiǎn)感是分布不均。如霍金、庫茲韋爾、辛頓、馬斯克等人都擔(dān)心AI風(fēng)險(xiǎn)，是因?yàn)樗麄兲幱跐i漪的中心。”

鄧建國認(rèn)為，合作需要基礎(chǔ)，比如共識(shí)、信任和對(duì)價(jià)資源等。沒有這些前提條件，很難談合作。如前所述，AI在不同地區(qū)發(fā)展的水平、帶來的影響和風(fēng)險(xiǎn)認(rèn)知不同。目前各方在AI發(fā)展上存在著越來越大的差距，加上一些國家治理AI是出于國家安全考慮，甚至有偏冷戰(zhàn)和敵我思維，因此各方在AI治理上實(shí)現(xiàn)有誠意的合作的可能性很小。