AlphaGo戰(zhàn)勝李世石，人工智能之“聰明”讓世人刮目相看。聊天機(jī)器人“微軟小冰”除了能陪人聊天外，其創(chuàng)作的27首小詩刷新了人們的想象……不過，人工智能有“硬核技術(shù)”之外，也潛藏著風(fēng)險和問題，比如另一款聊天機(jī)器人Tay，則是一個“不良少女”，上線24小時內(nèi)，即出現(xiàn)一些偏激言論。

2月24日，北京大成（南京）律師事務(wù)所20周年法律服務(wù)創(chuàng)新論壇在南京舉行。澎湃新聞（www.nxos.com.cn）注意到，在論壇上，知名法學(xué)家、中南財經(jīng)政法大學(xué)教授吳漢東發(fā)表《人工智能時代的社會風(fēng)險與法律問題》專題演講時，表達(dá)了對未來人工智能發(fā)展引發(fā)的一系列風(fēng)險和問題的憂思。

“‘這是一個最好的時代’，正是由于人工智能技術(shù)的出現(xiàn)，并且廣泛運(yùn)用于社會領(lǐng)域，人類可以說在萬物皆互聯(lián)的環(huán)境中，精準(zhǔn)、精細(xì)地生產(chǎn)、生活和交往?！眳菨h東引用了英國作家狄更斯小說《雙城記》的開頭說。

吳漢東還表示，必須說“這也是一個最壞的時代”，這是因?yàn)槿斯ぶ悄芗夹g(shù)既是人類社會的高技術(shù)，也毫無避免為這個社會帶來潛在的現(xiàn)實(shí)風(fēng)險。未來的人工智能社會將會充滿著風(fēng)險，人類的生命和健康、尊嚴(yán)和隱私，安全和自由都會遭遇到前所未有的挑戰(zhàn)。

他建議，人工智能所引發(fā)的法律、倫理和社會問題，必須要引入一個監(jiān)督的機(jī)制，對問題進(jìn)行社會規(guī)范的調(diào)整，要進(jìn)一步加強(qiáng)監(jiān)管。

人工智能時代“三大法律問題”

中國人工智能的發(fā)展，目前主要在機(jī)器學(xué)習(xí)、自然語言處理、圖像識別、人機(jī)交互等方面展開，可以說人工智能滲透到了社會的各個領(lǐng)域。吳漢東將人工智能存在風(fēng)險的特點(diǎn)概括為“共生性、時代性、全球性”，他在演講中連拋了人工智能的“三大法律問題”。

第一，主體資格問題，智能機(jī)器人是人還是機(jī)器？2017年，沙特阿拉伯授予美國漢森機(jī)器人公司研發(fā)的女性機(jī)器人索菲亞公民資格，這雖是一個個別的法律事實(shí)，卻是已開啟的法律現(xiàn)象，還沒有成為一個法律共識和法律立法的趨向，但這是一個非?，F(xiàn)實(shí)的問題。

第二，隱私保護(hù)問題。人工智能時代是一個隱私保護(hù)問題最為嚴(yán)峻的時代，這是由于移動互聯(lián)網(wǎng)加上大數(shù)據(jù)，再加上機(jī)器計(jì)算，使得自然人的個人隱私無處逃遁。今天這個時代恐怕是一種個人隱私的“集體裸露”，在這種情況下，我們?nèi)绾蝸肀Ｗo(hù)個人的隱私？

第三，法律責(zé)任承擔(dān)問題。人工智能直接造成的損害誰來承擔(dān)？如果涉及到人工智能產(chǎn)品的缺陷，可以適用產(chǎn)品責(zé)任法，聯(lián)合國的建議是按照技術(shù)產(chǎn)品缺陷來追究其設(shè)計(jì)人、生產(chǎn)人、使用人的法律責(zé)任。但還有另外一種情況就是根據(jù)技術(shù)中立的原則，一項(xiàng)技術(shù)沒有上述缺陷，同時又不能歸于技術(shù)本身的情況下，如何來分配責(zé)任，這都是未來存在的一個法律難題。

“未來不排除機(jī)器人擁有人的主體地位”

沙特阿拉伯授予索菲亞身份證一事，引發(fā)法律界普遍熱議。討論集中于“機(jī)器人是不是人？應(yīng)不應(yīng)該具備人的屬性？”……圍繞人工智能的一系列法律問題，多名專家學(xué)者進(jìn)行了圓桌主題研討。

南京大學(xué)法學(xué)院教授、中國法學(xué)會經(jīng)濟(jì)法學(xué)研究會副會長李友根表示，現(xiàn)在大部分學(xué)者認(rèn)為，人工智能不能具備法律主體的資格和地位，是根據(jù)現(xiàn)在對法律主體標(biāo)準(zhǔn)的要求而認(rèn)定的。但是，現(xiàn)在的法律主體認(rèn)定的標(biāo)準(zhǔn)是基于我們已經(jīng)有的自然人、法人這種主體確定的。

根據(jù)李友根的敘述，當(dāng)年確定法人是否具備法律主體資格的時候，有一種觀點(diǎn)認(rèn)為不可以，這是因?yàn)橹黧w是有血有肉的自然人，才是具備法律主體，但是后來將法人確定為法律擬制的主體。

因此，李友根認(rèn)為，從歷史的角度總結(jié)人類法律歷史上法律主體的變遷，從中可以獲得一些借鑒。到人工智能真正普及發(fā)展以后，人們對法律主體的認(rèn)定標(biāo)準(zhǔn)或許會發(fā)生變化，從而自動地把人工智能納為法律主體的一個部分。即使人工智能不是完全的法律主體，回顧歷史上可以發(fā)現(xiàn)，法律在處理不同的事物時，會有各種處理技術(shù)。

“當(dāng)下我認(rèn)為還是一個弱人工智能時代，智能機(jī)器人還不足以在自然人和法人之外，取得第三個私法主體的地位，提出這種結(jié)論為時尚早。”吳漢東如是表示。

不過，吳漢東說，未來應(yīng)該留有相對的制度空間，我們比較多地談到私法問題，比如人工智能獨(dú)立生成發(fā)明的專利法之問，這主要表現(xiàn)為，遺傳、基因編輯、人工神經(jīng)網(wǎng)絡(luò)、機(jī)器人科學(xué)家，很多發(fā)明是機(jī)器獨(dú)立完成的，那么能不能叫發(fā)明呢？現(xiàn)在的《專利法》是以人類發(fā)明者中心主義指導(dǎo)專利立法的，如果賦予它們獨(dú)立法人的地位，跟現(xiàn)行法的宗旨相沖突。

因此，吳漢東認(rèn)為，法學(xué)工作者對人工智能的主體資格問題，應(yīng)該未雨綢繆開展探索，并不排除未來機(jī)器人真的有可能取得相應(yīng)的主體地位，“這是未來，而不是現(xiàn)在”。

無人駕駛交通事故，可用保險來解決法律問題

按照現(xiàn)有的法律框架，并沒有明晰機(jī)器人或者人工智能造成損害后，如何承擔(dān)侵權(quán)責(zé)任；那么，在人工智能的主體資格未被承認(rèn)的前提下，一輛無人駕駛汽車發(fā)生交通事故，如何來劃分法律責(zé)任呢？

騰訊研究院法律研究中心、未來科技中心高級研究員曹建峰認(rèn)為，目前，我國還沒有達(dá)到完全的自動駕駛，主要是駕駛員的輔助技術(shù)，車由人和系統(tǒng)一起控制。在這種情況下，就需要判斷交通事故的節(jié)點(diǎn)，如果人類駕駛員控制的，看其有無過錯，如果是系統(tǒng)控制的，系統(tǒng)其實(shí)作為一個汽車的產(chǎn)品，可以通過產(chǎn)品責(zé)任法要求銷售者和制造商承擔(dān)產(chǎn)品責(zé)任。

值得一提的是，由消費(fèi)者證明產(chǎn)品的瑕疵非常困難，而自動駕駛用的人工智能算法，工程師也無法計(jì)算，出現(xiàn)事故之后，車輛制造商有可能推卸責(zé)任，維權(quán)陷入困境。針對這個問題，曹建峰說，英國使用了新的保險制度，去緩解自動駕駛對交通事故帶來的沖擊。

李友根則認(rèn)為，可以比照現(xiàn)代法律體系加以借鑒。比如飼養(yǎng)的動物傷人了，跟完全人工智能的汽車撞人，是否可適用相應(yīng)的法律，其中相關(guān)管理人員包括車主和設(shè)計(jì)者、生產(chǎn)公司等等。

李友根也贊同曹建峰所提引入保險制度加以解決的意見。李友根稱，侵權(quán)責(zé)任法如果主要是基于救濟(jì)受害者的話，合理的保險制度完全可以分擔(dān)這個問題?！艾F(xiàn)有的法律文明、制度設(shè)計(jì)有很多的經(jīng)驗(yàn)。面對未來人工智能可能出現(xiàn)的挑戰(zhàn)，如果現(xiàn)在仍然解決不了，在真正人工智能的時代，仍然會有很多的制度設(shè)計(jì)解決這些問題，所以總體上我是比較樂觀的?！崩钣迅f。