人工智能，從上世紀(jì)50年代到現(xiàn)在起起伏伏。我最早不喜歡神經(jīng)網(wǎng)絡(luò)的原因是在于它的不確定性，即最后輸出的結(jié)果是不確定的，今天深度學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò)的不確定性依然存在。當(dāng)時(shí)從哲學(xué)意義上來(lái)講它是一種革新，所以大家很喜歡，到2005年又開(kāi)始興起，起因是說(shuō)它好像又非常好，把結(jié)果推廣到一些人類(lèi)的競(jìng)賽上。其實(shí)在美國(guó)機(jī)器學(xué)習(xí)學(xué)術(shù)界依然是兩派，一部分還是看不起深度學(xué)習(xí)，今天宣傳深度學(xué)習(xí)更多是工業(yè)背景。很多領(lǐng)域都開(kāi)始嘗試深度學(xué)習(xí)，包括我們實(shí)驗(yàn)室也做了3-4年，因?yàn)樗杏^點(diǎn)和意見(jiàn)都要和深度學(xué)習(xí)方法對(duì)比，調(diào)網(wǎng)絡(luò)調(diào)一個(gè)月，很多時(shí)候是要靠調(diào)試員的經(jīng)驗(yàn)，因?yàn)橛胁淮_定性。

說(shuō)人工智能是洪水猛獸，我更多的是從安全性角度來(lái)講。首先它的推動(dòng)主體是企業(yè)，既然它具有不確定性，而且又是企業(yè)和資本來(lái)推動(dòng)，我認(rèn)為這對(duì)公眾安全存在問(wèn)題，不透明，存在黑箱操作的空間。第二，它的技術(shù)本身，包括學(xué)界對(duì)深度學(xué)習(xí)排斥的一點(diǎn)在于不可解釋性，由于它本身來(lái)自于神經(jīng)網(wǎng)絡(luò)，很多時(shí)候是靠窮盡局部的采樣特性和不明確的非線性，喪失了理論的簡(jiǎn)潔和優(yōu)美，如果科學(xué)的本意是告訴我們這個(gè)世界可以認(rèn)知。相對(duì)我們?cè)瓉?lái)竭盡心力，基于數(shù)學(xué)或者是幾何的原理解釋?zhuān)斫饷鞔_的原因，最近我們兩三年一直在做的動(dòng)機(jī)，現(xiàn)在從事的一些課題，就是希望確實(shí)能確認(rèn)深度學(xué)習(xí)的可解釋性，同時(shí)嘗試從傳統(tǒng)的技術(shù)來(lái)演化深度機(jī)制，二者尋求共同性，單純從神經(jīng)計(jì)算來(lái)似是而非的解釋?zhuān)鋵?shí)是不負(fù)責(zé)任的，知識(shí)應(yīng)該是可追朔的，否則這種經(jīng)驗(yàn)是不可靠的，工具和方法必須要有原理來(lái)支撐！以前我們了解的傳統(tǒng)技術(shù)，在控制上都是有因果性來(lái)推動(dòng)，我們希望能發(fā)展非常非常簡(jiǎn)潔的算法。今天深度學(xué)習(xí)的算法不具有廣泛的一致性，從應(yīng)用上，一個(gè)具有個(gè)性的深度學(xué)習(xí)算法，需要從小數(shù)據(jù)移植到大數(shù)據(jù)上去，也需要一套調(diào)試規(guī)則來(lái)闡述。

今天人工智能的深度學(xué)習(xí)，最大的推動(dòng)力不在于算法，而是在于數(shù)據(jù)。其實(shí)現(xiàn)在這些大公司開(kāi)源算法架構(gòu)，只是為了占領(lǐng)人工智能的生態(tài)，這是商業(yè)策略。也就是說(shuō)數(shù)據(jù)才是最后關(guān)鍵的因素。一個(gè)最后的結(jié)果，它的不確定性和不可操作性來(lái)源于數(shù)據(jù)，即使同一個(gè)數(shù)據(jù)不同的人操作也不一樣，這就帶來(lái)很大的問(wèn)題：公共安全性，把這運(yùn)用到生命醫(yī)療，現(xiàn)在都認(rèn)為是最重要的應(yīng)用，但這方面在美國(guó)就很謹(jǐn)慎。我們國(guó)家也在推動(dòng)這方面，也引起關(guān)注，各種各樣的數(shù)據(jù)被共享、被采納。首先，它是把雙刃劍，這東西帶來(lái)的危害我覺(jué)得會(huì)更大。想想看，迄今我們?nèi)祟?lèi)一切技術(shù)的發(fā)展，都是以超越我們?nèi)俗陨淼南拗谱鳛橥苿?dòng)的。那這個(gè)大數(shù)據(jù)共享深度學(xué)習(xí)會(huì)走到哪里去，所有的機(jī)器都會(huì)聯(lián)網(wǎng)，成為單方面龐大的力量，這個(gè)力量會(huì)決策我們每個(gè)人的命運(yùn)。從倫理講，我不知道這將來(lái)會(huì)是什么樣一種方式來(lái)決定我們個(gè)人的命運(yùn)，因?yàn)槲覀冊(cè)瓉?lái)所形成的知識(shí)是個(gè)人可認(rèn)知和可掌握的，是科學(xué)性的，是自由且公平的，這是做研究的最大動(dòng)力。

今天說(shuō)人臉識(shí)別在什么數(shù)據(jù)集下到了99%，不停刷性能，學(xué)術(shù)思想變成了各種排列組合的途徑，這其實(shí)沒(méi)有任何意義，學(xué)術(shù)的意義在哪里？首先，我們要認(rèn)識(shí)這個(gè)世界，我們想讓自身更自由一些，如果只是為了得到最后的某個(gè)結(jié)果，其實(shí)長(zhǎng)遠(yuǎn)看沒(méi)有什么太大價(jià)值。其次，要真實(shí)認(rèn)識(shí)人工智能背后的基理所在，如果這個(gè)方式不解決，一旦壟斷在一些大公司手里，現(xiàn)在跨國(guó)資本聯(lián)合，實(shí)際上來(lái)講是對(duì)我們個(gè)人的命運(yùn)可能會(huì)很難。真實(shí)原因不在于機(jī)器，而是人性其實(shí)是不可靠的！

機(jī)器智能掌握在大資本手里對(duì)個(gè)人的運(yùn)營(yíng)是很難的，如果機(jī)器背后產(chǎn)生自覺(jué)的智能，如果它的智能（今天，只能說(shuō)是計(jì)算和記憶的能力）確實(shí)超越了人類(lèi)，按照自然法則來(lái)講高級(jí)智能是可以去除掉低級(jí)智能，就像我們?nèi)祟?lèi)對(duì)地球其他生物正在實(shí)施的，沒(méi)有什么對(duì)等的倫理。機(jī)器會(huì)不會(huì)有自我發(fā)掘智能，什么叫靈魂，值得反思！現(xiàn)在各行各業(yè)都在做計(jì)算機(jī)視覺(jué)和識(shí)別，單純從性能角度講提升都明顯，完全可以融合，決策的性能在穩(wěn)步提升，這么講吧，人工智能深度學(xué)習(xí)的感知能力越來(lái)越強(qiáng)。更值得注意的是，機(jī)器人的動(dòng)力系統(tǒng)發(fā)展也非?？欤Y(jié)合起來(lái)就是一種新的“生物”。這種生物不智能的話（類(lèi)似某種動(dòng)物一樣），對(duì)我們有不確定的威脅；這種生物有智能的話，那就更具有危險(xiǎn)性。也就是說(shuō)，最后我們所面對(duì)的不是倫理上像我們這樣的人。我其實(shí)很怕動(dòng)物，總覺(jué)得它們不是我的同類(lèi)，所以覺(jué)得“認(rèn)為人工智能是洪水猛獸”還是很有道理的，因?yàn)閷?duì)數(shù)據(jù)的操控性和選擇性，所有的人類(lèi)能力都在機(jī)器人的載體上形成發(fā)展，不管是它操控在我的同類(lèi)人手里，還是即使它有良知，但它具有不確定性和不可解釋性，我都不認(rèn)為是可以淡定的。因?yàn)檫@種能力的控制性，完全不可靠，而且它會(huì)不斷演化和發(fā)展。這會(huì)給我們這個(gè)人類(lèi)世界帶來(lái)極大的不確定性。也許將來(lái)，人類(lèi)的定義需要改寫(xiě)。

我們現(xiàn)在也開(kāi)始做一些大數(shù)據(jù)的信息加密，現(xiàn)在相關(guān)國(guó)際數(shù)據(jù)大企業(yè)都開(kāi)始從事這種技術(shù)，信息被加密，在加密的基礎(chǔ)上進(jìn)行大數(shù)據(jù)的分析和處理，產(chǎn)生的效果要和明文原始信息的分析的效果趨于一致，便于各個(gè)機(jī)構(gòu)間的數(shù)據(jù)共享。由于深度學(xué)習(xí)依賴(lài)于數(shù)據(jù)，一方面是數(shù)據(jù)驅(qū)動(dòng)，一方面也要依賴(lài)知識(shí)的引導(dǎo)來(lái)加速計(jì)算。

現(xiàn)在的深度學(xué)習(xí)是數(shù)據(jù)的大規(guī)模計(jì)算，但這個(gè)計(jì)算本身并不帶來(lái)知識(shí)，因?yàn)樗魂P(guān)心輸入和最后輸出的結(jié)果。阿爾法GO在人類(lèi)圍棋領(lǐng)域取得了巨大的成功，它以人類(lèi)自古而有的棋譜作為標(biāo)注的數(shù)據(jù)，以勝負(fù)作為最后的得失，所以每一步棋會(huì)計(jì)算最后勝算的概率。我們?nèi)祟?lèi)下圍棋盡管理論上有這么多選擇余地，但其實(shí)傳承積累下來(lái)的候選空間并不大，阿爾法GO計(jì)算得失，還有計(jì)算每步棋最后獲勝的概率，這是人類(lèi)所沒(méi)有的。

（本文首發(fā)于《探索與爭(zhēng)鳴》雜志微信公眾號(hào)：tansuoyuzhengming，熊紅凱在2017年8月28日由上海市社聯(lián)《探索與爭(zhēng)鳴》雜志社和華東政法大學(xué)政治學(xué)研究院共同主辦的“人工智能與未來(lái)社會(huì)：趨勢(shì)、風(fēng)險(xiǎn)與挑戰(zhàn)”學(xué)術(shù)研討會(huì)上的主題發(fā)言，發(fā)言題目為《人工智能的范式轉(zhuǎn)換及其發(fā)展前景》，澎湃新聞得到授權(quán)使用）