2021年4月歐盟委員會(huì)出臺(tái)《人工智能法案》（以下簡稱《法 案》），2022年10 月美國白宮發(fā)布《人工智能權(quán)利法案藍(lán)圖》（以下簡稱《藍(lán)圖》），兩者均把人工智能安全建設(shè)作為法案的核心內(nèi)容。賽迪研究院未來產(chǎn)業(yè)研究中心通過對(duì)比研究認(rèn)為，中國要進(jìn)一步完善人工智能治理體系，制定有關(guān)規(guī)制措施和細(xì)則，可借鑒 美歐人工智能法案方面的新舉措，比如算法源頭的公平性管理、分類分級(jí)風(fēng)險(xiǎn)管控措施及完善的治理規(guī)則。 

一、美歐法案各有側(cè)重，前者更重公平隱私，后者更重風(fēng)險(xiǎn)管控

美國《人工智能權(quán)利法案藍(lán)圖》核心內(nèi)容為五項(xiàng)基本原則，將公平和隱私保護(hù)放在首要位置。《藍(lán)圖》提出的五項(xiàng)基本原則包括：建立安全和有效的系統(tǒng)；避免算法歧視，以公平方式使用和設(shè)計(jì)系統(tǒng)；保護(hù)數(shù)據(jù)隱私；系統(tǒng)通知和解釋要清晰、及時(shí)和可訪問；設(shè)計(jì)自動(dòng)系統(tǒng)失敗時(shí)使用的替代方案、考慮因素和退出機(jī)制。這五項(xiàng)基本原則旨在避免人工智能系統(tǒng)濫用帶來的危害，并著重強(qiáng)調(diào)了公平性和隱私性。在公平性方面，《藍(lán)圖》要求自動(dòng)化系統(tǒng)的設(shè)計(jì)者、開發(fā)者和部署者應(yīng)采取積極措施，保護(hù)個(gè)人和社區(qū)免受算法歧視， 并以公平的方式使用和設(shè)計(jì)系統(tǒng)。在隱私保護(hù)方面，《藍(lán)圖》提出，數(shù)據(jù)隱私是實(shí)現(xiàn)該框架中其他原則所需的基礎(chǔ)性和交叉性原則。同時(shí)，《藍(lán)圖》要求自動(dòng)化系統(tǒng)的設(shè)計(jì)和構(gòu)建應(yīng)默認(rèn)保護(hù)隱私，數(shù)據(jù)收集和使用范圍應(yīng)有確定目標(biāo)。

歐盟《人工智能法案》是首個(gè)針對(duì)人工智能風(fēng)險(xiǎn)管控的法案。《法案》基于風(fēng)險(xiǎn)預(yù)防理念，為人工智能系統(tǒng)制定了覆蓋全過程的風(fēng)險(xiǎn)規(guī)制體系，是全球首個(gè)針對(duì)人工智能風(fēng)險(xiǎn)規(guī)制的法案。在風(fēng)險(xiǎn)流程監(jiān)控方面，《法案》鼓勵(lì)建立國家或歐盟層面的監(jiān)管沙盒，進(jìn)一步規(guī)范處理合法收集的個(gè)人數(shù)據(jù)，并制定了相關(guān)規(guī)則。就風(fēng)險(xiǎn)防范措施而言，《法案》將人工智能系統(tǒng)劃分為不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、低風(fēng)險(xiǎn)和最小風(fēng)險(xiǎn)四類，著重立法規(guī)制前兩類風(fēng)險(xiǎn)，對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的全生命周期監(jiān)管作了詳細(xì)規(guī)定。在適用范圍方面，《法案》將高風(fēng)險(xiǎn)覆蓋的領(lǐng)域歸納為關(guān)鍵基礎(chǔ)設(shè)施、公民教育、產(chǎn)品的安全組件、公民就業(yè)、公共服務(wù)、涉權(quán)型執(zhí)法、出入境問題、司法和民主進(jìn)程八類，重點(diǎn)提出，遠(yuǎn)程生物識(shí)別系統(tǒng)原則上禁止在公眾可進(jìn)入的空間和場所內(nèi)使用。

表1 美歐人工智能法案主要內(nèi)容對(duì)比 

綜合來看，美國的《藍(lán)圖》雖未提出明確規(guī)則舉措，但已將公平和隱私保護(hù)視為法案的核心宗旨，后續(xù)細(xì)則也將圍繞強(qiáng)化公平和隱私保護(hù)展開。歐盟《法案》則首次在人工智能風(fēng)險(xiǎn)管控方面制定了實(shí)施細(xì)則，分場景、分級(jí)別的監(jiān)管措施給完善治理體系提供了操作路徑。 

二、幾個(gè)啟示

規(guī)制措施應(yīng)進(jìn)一步明確細(xì)化。美國《藍(lán)圖》提出了五項(xiàng)基本原則，但只限于“行動(dòng)呼吁”，并未給出實(shí)際規(guī)制措施。目前，中國人工智能治理體系也未明確和細(xì)化實(shí)施措施。具體而言，中國人工智能治理體系主要涉及《網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》等法律條例，分別對(duì)網(wǎng)絡(luò)運(yùn)營商和個(gè)人敏感信息以及數(shù)據(jù)處理的安全監(jiān)管保護(hù)做了詳細(xì)規(guī)定，但在法律層面，對(duì)人工智能系統(tǒng)和算法的公平性尚未有明確規(guī)定，治理方案缺失。出于填補(bǔ)上述空白、進(jìn)一步規(guī)范和細(xì)化人工智能治理體系的考慮， 中國應(yīng)及時(shí)出臺(tái)人工智能相關(guān)規(guī)則，強(qiáng)化管控風(fēng)險(xiǎn)，推動(dòng)人工智能產(chǎn)業(yè)健康發(fā)展。 

風(fēng)險(xiǎn)管控措施應(yīng)注重事前-事中-事后全流程管理。歐盟《法案》 在立法方面的“事前-事中-事后”全鏈條監(jiān)管機(jī)制值得中國借鑒。在事前階段，法案劃分為四種風(fēng)險(xiǎn)等級(jí)，根據(jù)應(yīng)用場景及風(fēng)險(xiǎn)等級(jí)的不同，制定相應(yīng)規(guī)制措施。在事中階段，《法案》引入監(jiān)管沙盒機(jī)制，一旦發(fā)現(xiàn)給人的健康、安全和基本權(quán)利帶來風(fēng)險(xiǎn)時(shí)，會(huì)立即采取措施降低風(fēng)險(xiǎn)。在事后階段，《法案》規(guī)定高風(fēng)險(xiǎn)人工智能系統(tǒng)供應(yīng)商應(yīng)制定售后監(jiān)測計(jì)劃和售后監(jiān)控系統(tǒng)，有義務(wù)及時(shí)將違規(guī)事件或嚴(yán)重故障系統(tǒng)上報(bào)國家監(jiān)管機(jī)構(gòu)。目前中國在人工智能風(fēng)險(xiǎn)管控措施方面還存在空白，可考慮借鑒《法案》框架及實(shí)施經(jīng)驗(yàn)，制定適用于中國的人工智能風(fēng)險(xiǎn)管控措施。 

提防過度重視公平性與風(fēng)險(xiǎn)管控束縛產(chǎn)業(yè)創(chuàng)新活力。值得注意的是，美歐人工智能法案將公平性和風(fēng)險(xiǎn)管控置于高優(yōu)先級(jí)，對(duì)產(chǎn)業(yè)創(chuàng)新發(fā)展欠缺應(yīng)有的重視。當(dāng)前，中國人工智能產(chǎn)業(yè)已進(jìn)入規(guī)?；瘧?yīng)用落地爆發(fā)期，算法爭議和系統(tǒng)安全事件偶有發(fā)生，人工智能治理體系的健全完善已進(jìn)入有關(guān)主管部門的工作日程。有關(guān)主管部門在制定人工智能相關(guān)規(guī)制措施時(shí)，應(yīng)合理把握規(guī)制措施的管控力度，做到完善人工智能治理體系和提升產(chǎn)業(yè)創(chuàng)新活力并舉。 

三、對(duì)策建議

加快完善算法公平性管理相關(guān)條例。一是立足算法監(jiān)管，明確從源頭抓起的基本出發(fā)點(diǎn)，引入公平性約束、算法可解釋性等原則要求，規(guī)范算法監(jiān)管的手段和范圍。二是確立可追溯性原則，將算法行為決策置于監(jiān)管范疇，確保案例調(diào)查中可還原追溯算法執(zhí)行過程，對(duì)算法不當(dāng)之處強(qiáng)制要求修正。三是重點(diǎn)關(guān)注算法在人工智能系統(tǒng)中的設(shè)計(jì)、開發(fā)與部署，要求系統(tǒng)開發(fā)設(shè)計(jì)人員明晰算法在人工智能系統(tǒng)中的運(yùn)用。 

加快制定分類分級(jí)風(fēng)險(xiǎn)防范措施。一是建立健全人工智能系統(tǒng)風(fēng)險(xiǎn)管控的“事前-事中-事后”全鏈條監(jiān)管新機(jī)制。事前階段，在人工智能產(chǎn)品流入市場前進(jìn)行風(fēng)險(xiǎn)評(píng)估，實(shí)現(xiàn)風(fēng)險(xiǎn)管控；事中階段，持續(xù)性進(jìn)行市場監(jiān)督，實(shí)施產(chǎn)品召回制度；事后階段，進(jìn)行總結(jié)分析，實(shí)現(xiàn)人工智能風(fēng)險(xiǎn)事故的數(shù)據(jù)共享和風(fēng)險(xiǎn)監(jiān)測。二是根據(jù)風(fēng)險(xiǎn)場景制定有層次、有梯度的風(fēng)險(xiǎn)等級(jí)管控機(jī)制。對(duì)歸屬于同一風(fēng)險(xiǎn)場景中的人工智能系統(tǒng)進(jìn)行統(tǒng)一風(fēng)險(xiǎn)管控，建立起場景明確、等級(jí)清晰，自下而上限制逐步加深的“風(fēng)險(xiǎn)金字塔”模型的監(jiān)管細(xì)則。三是加大違規(guī)處罰力度。明確人工智能系統(tǒng)開發(fā)企業(yè)或獨(dú)立開發(fā)者運(yùn)用算法的風(fēng)險(xiǎn)防范紅線，對(duì)風(fēng)險(xiǎn)防范違規(guī)行為給予嚴(yán)格懲治，增強(qiáng)監(jiān)管措施的強(qiáng)制約束性。

推動(dòng)技術(shù)創(chuàng)新和安全監(jiān)管并重并行。一是采取包容審慎的原則，針對(duì)人工智能創(chuàng)新應(yīng)用場景和技術(shù)采取“沙盒監(jiān)管”等創(chuàng)新監(jiān)管手段，創(chuàng)新與監(jiān)管同時(shí)推進(jìn)，在“試驗(yàn)田”內(nèi)摸索監(jiān)管尺度、范圍和手段，迭代試點(diǎn)經(jīng)驗(yàn)，形成較為成熟的制度化措施。二是推動(dòng)安全監(jiān)管技術(shù)創(chuàng)新。設(shè)立人工智能安全技術(shù)創(chuàng)新平臺(tái)，推進(jìn)人工智能安全核心技術(shù)攻關(guān)，建設(shè)人工智能安全創(chuàng)新中心，加快安全監(jiān)管與技術(shù)創(chuàng)新融合發(fā)展。三是引導(dǎo)人工智能權(quán)威第三方行業(yè)機(jī)構(gòu)和龍頭企業(yè)，健全人工智能算法和系統(tǒng)行業(yè)自律規(guī)范，建立健全執(zhí)業(yè)誠信體系，更好地發(fā)揮社會(huì)監(jiān)督作用。

（作者鐘新龍、彭璐均來自賽迪研究院未來產(chǎn)業(yè)研究中心）