5月28日，上海論壇2018閉幕式在復(fù)旦大學(xué)舉行，出席該會議并做主旨演講的英國皇家學(xué)會院士Peter Dayan和倫敦大學(xué)學(xué)院計(jì)算神經(jīng)科學(xué)教授李兆平夫婦二人接受了澎湃新聞記者的專訪。訪談中，二位腦科學(xué)家對人工智能的研究方向，腦機(jī)結(jié)合的實(shí)現(xiàn)方式，人工智能面臨的風(fēng)險(xiǎn)等問題做出了專業(yè)解答。

Peter Dayan 為英國皇家學(xué)會院士，2017年格雷特·倫德貝克歐洲大腦研究獎（簡稱大腦獎）的獲獎?wù)咧弧?018年，當(dāng)選為英國皇家學(xué)會院士。

李兆平系倫敦大學(xué)學(xué)院計(jì)算機(jī)系計(jì)算神經(jīng)科學(xué)教授，北京師范大學(xué)認(rèn)知神經(jīng)科學(xué)與學(xué)習(xí)國家重點(diǎn)實(shí)驗(yàn)室訪問教授。

澎湃新聞：人是生物體，有情感，有創(chuàng)造能力，那么人工智能是不是更應(yīng)該和基因技術(shù)、神經(jīng)元、腦科學(xué)這些與人類相關(guān)的技術(shù)相結(jié)合?

李兆平：我對基因技術(shù)不熟悉，我是做腦科學(xué)的，我回答這個問題可能會有點(diǎn)主觀，腦科學(xué)是科學(xué)，人工智能是工程技術(shù)。解決AI最好是用科學(xué)的方法去做，當(dāng)然在不懂科學(xué)的情況下，用工程技術(shù)也是可以做出有用的AI，就像做一輛馬車，在根本不懂力學(xué)原理的情況下，可以做出來一輛很好用的馬車。另外，有用的AI即使沒有情感也關(guān)系不大，你看陌生人之間也沒有情感，但也不影響他們之間的交流，只要這個人直來直去表達(dá)無誤就好了。

Peter Dayan：用基因方法解決人工智能，有一個正面的因素和一個負(fù)面的因素，負(fù)面的因素是基因太復(fù)雜了，比如跟身高相關(guān)的基因就有70個，和一個神經(jīng)質(zhì)疾病相關(guān)的基因有1000個，雖然你知道這個病的基因根源，但是多達(dá)1000個基因關(guān)聯(lián)，人就沒有辦法去調(diào)整基因去治病。正面的因素是，有些東西通過基因遺傳讓人天生就學(xué)會了，譬如獅子來了應(yīng)該要逃跑這些知識，人出生后不用學(xué)習(xí)就知道。通過這個認(rèn)識去理解，人做出的很多很重要決策可以從基因?qū)用嫒ダ斫猓@是一個正面的影響。另外，人的情感其實(shí)是和基因有很緊密的聯(lián)系。

澎湃新聞：正在播出的美劇《west world》是部關(guān)于人工智能的科幻片，劇中描述了意念通過機(jī)器輸入大腦的場景，被操控者的人生就是輸入者寫好的劇本，現(xiàn)實(shí)中這樣的情況會不會發(fā)生？

Peter Dayan：首先，這已經(jīng)部分發(fā)生了，通過臉書之類的社交工具，人們已經(jīng)被別人操縱，這還沒有用到基因技術(shù)。此外，有很多人對一些東西上癮，上癮其實(shí)是人的大腦的獎懲系統(tǒng)被控制了，被控制的人就老想去做賭博這些事情。有一個實(shí)驗(yàn)，把一個電極插到小鼠腦子里，通過電擊讓這只小鼠經(jīng)常去做同樣的事情，它就一直喜歡做這個事情，其實(shí)是它被人為控制了。通過這個例子我們可以學(xué)習(xí)大腦是怎么控制我們的行為。所以從技術(shù)上講，控制人的意念是可能做到的。雖然使用這個技術(shù)還可以治病，我們通過電擊可以讓有些帕金森患者不那么抖。這是倫理范疇的問題，但是，技術(shù)上的意念控制是可以實(shí)現(xiàn)的。

澎湃新聞：我們現(xiàn)在對大腦的認(rèn)識達(dá)到什么程度？通過現(xiàn)在的研究能不能確定人工智能的研究方向？

李兆平：就像我前面講的，AI人工智能其實(shí)是工程問題，腦科學(xué)是科學(xué)問題，如果要用工程技術(shù)去實(shí)現(xiàn)人工智能，不一定完全要造成人的樣子，完全可以想造什么就造什么。再更高一層，我們要有一個智能的科目，就像生物科目，打個比方，人的智能是一個例子，人工智能是另外一個例子。在我們理解智能科學(xué)以后，就可以做出工程上的智能?？茖W(xué)上對智能的理解可以用人作為一個例子去研究，也可以用自己造出來的東西，但是這個是智能科學(xué)，有了智能科學(xué)就可以去造一個工程上的東西。

澎湃新聞：那能不能說現(xiàn)在我們使用的，工程學(xué)意義上的智能還是淺層次的技術(shù)。

李兆平：不能說它淺，工程和科學(xué)不能比誰高誰低。也就是說機(jī)械系和物理系，誰高誰低呢？工程系能造東西，物理系知道運(yùn)動原理，我覺得這不能比，不能說誰高誰低。但如果知道了原理，可以把東西造得更好，但是不見得一定要知道原理才可以造飛機(jī)。

澎湃新聞：直覺是什么，有時候直覺很有效，怎么解釋這種很快的思考方式，人工智能可不可以也有直覺？

Peter Dayan：很多決策非常難做，之所以難是因?yàn)樾畔⑻珡?fù)雜、太多，最后無法確定哪個方案是好的。所以會出現(xiàn)走近路的思考方式，人會抄近路，機(jī)器也會抄近路。但是人抄近路和機(jī)器抄近路不一定是同樣的近路。人抄近路有限制，人只吃這么點(diǎn)飯，能量就這么點(diǎn)，腦容量就這么大，而機(jī)器可以做很大，也可以有很足的電力支撐它運(yùn)轉(zhuǎn)，所以它抄近路和我們不一樣。如果有智能科學(xué)，知道原理是什么，就可以知道人要抄近路該怎么抄，也可以幫我們決斷該不該買房子這些麻煩問題。同時也可以決定機(jī)器抄近路怎么抄。

澎湃新聞：我的理解人本身是一個生物體，他做決策的過程應(yīng)該是一個化學(xué)或生物的反應(yīng)，而機(jī)器的思考，是物理上一個可重復(fù)、可控制過程，這兩套思考方式將來能打通嗎？

Peter Dayan：哲學(xué)上有一個功能主義，只要功能能夠?qū)崿F(xiàn)，靠什么硬件實(shí)現(xiàn)的沒有關(guān)系，就像半導(dǎo)體，剛開始是真空管，后來變成三極管，二者硬件是不一樣，但原理是一樣的，所以不能說因?yàn)橛布灰粯佣呔痛虿煌āｏw行如何實(shí)現(xiàn)？不管你是用飛機(jī)的機(jī)翼來飛，還是用羽毛來飛，只要能夠飛，跟他們的硬件不一樣沒有關(guān)系。

澎湃新聞：我猜想生物體肯定有情感，有情感的創(chuàng)造和電腦的思考應(yīng)該是不一樣的，但是電腦不管怎么進(jìn)化，怎么演變都不會有情感吧？

Peter Dayan：要問你一個問題，情感是什么？

澎湃新聞：情感應(yīng)該在人思考或者做決策中會發(fā)揮立場作用，比如愛、恨。

李兆平：情感歸根到底是有多興奮，還有是對某個事物的價(jià)值大小的判斷，將二者放在一起就是情感。這樣組合出來的東西可以放到機(jī)器上，機(jī)器是否用省電模式，可以是認(rèn)為有多興奮的問題。如果想讓機(jī)器有價(jià)值觀，就是選擇的問題，譬如是應(yīng)該把微信打開還是把照相機(jī)打開，誰先誰后，這是價(jià)值觀的問題。情感可以是一個選擇，情感可以是一種理解。體現(xiàn)在人身上就是我更愛你不愛他，我更愛微信不愛照相機(jī)，說到底其實(shí)是一種選擇。

澎湃新聞：情感能被機(jī)器模擬，我有點(diǎn)意外。兩臺同樣的電腦運(yùn)行同樣的程序，會得到同樣的結(jié)果，但雙胞胎他們從生物構(gòu)成上是一樣的，成長經(jīng)歷也高度相似，但是一般說來，雙胞胎外貌相似，而性格、才能方面的差別很大。同樣的人和同樣機(jī)器為什么會有這么大的差異？

Peter Dayan：你說的雙胞胎的經(jīng)歷相同是你的定義，其實(shí)他們是有不同的經(jīng)歷，會做不同的事情。兩臺機(jī)器一模一樣，但如果它們有不同的境遇，它們學(xué)習(xí)的東西不一樣，最后這兩個機(jī)器是不一樣的。其實(shí)這和雙胞胎的原理是一樣的，剛開始一樣的雙胞胎最后有了明顯的差別，因?yàn)檫@個過程中肯定會有不同經(jīng)歷發(fā)生，這個雙胞胎給爸爸抱得多一點(diǎn)，那個雙胞胎媽媽抱得多一點(diǎn)，所以他們不能有絕對一樣的成長過程，如果真的能讓雙胞胎的經(jīng)歷絕對一樣的話，我覺得到最后他們是一樣的。

澎湃新聞：人腦神經(jīng)電信號這套機(jī)制可以用電腦模擬？

李兆平：原理上是可以的，實(shí)際操作上要看模擬得多細(xì)致，如果要模擬很細(xì)致是不太可能的，因?yàn)樵谠?、質(zhì)子層面是不可能模擬得很仔細(xì)。比如你可以造出完全一模一樣的房子，但是里面每一個細(xì)節(jié)，每一個原子都一樣嗎？那是不可能的，所以就要看做到多細(xì)微的程度。

澎湃新聞：馬斯克、陳天橋正在做的腦機(jī)結(jié)合，這種大腦和物理電信號連接能實(shí)現(xiàn)嗎？

Peter Dayan：當(dāng)然能，技術(shù)已經(jīng)有了，但這還是很粗糙的東西，而且這個技術(shù)出現(xiàn)了，并不是說肯定可行，問題在于這種腦機(jī)結(jié)合的交流是不是人們想要的東西，很糟糕的交流就不是有效的交流?；蛘呖梢詥柫硗庖粋€問題，怎么樣的腦機(jī)接口才是人類想要的？因?yàn)榻涌谑侨撕蜋C(jī)器的交流，怎么樣交流才是你想要的。比方說人工耳蝸，電極插在耳蝸里刺激耳蝸神經(jīng)元，就可以讓人聽到聲音，這需要人腦學(xué)習(xí)新信號，要學(xué)會適應(yīng)這些信號就能聽見。這是一個腦機(jī)結(jié)合非常好的例子，但問題在于這樣的例子能不能推廣到別的地方。

澎湃新聞：發(fā)展人工智能過程中的風(fēng)險(xiǎn)是什么？

Peter Dayan：人工智能以后可能會給我們引起的麻煩，分成兩種，一個麻煩是人工智能比我們更聰明，把人類都控制了；另外一種麻煩，我們什么活都靠人工智能幫我們做，假如我們靠人工智能來運(yùn)營核電站，但是人工智能做得很笨，它們把核電站弄爆炸。我認(rèn)為第二種麻煩的可能性更大，我們太依靠很笨的人工智能來做很重要的事情。有些決定人類自己來做也很難，因?yàn)樾畔⒘刻?，不可能做出一個完全深思熟慮、科學(xué)的決定，在這個時候就要必須走近路，但如果幻想讓機(jī)器人幫我們做重要決定，機(jī)器人也要走近路，但是機(jī)器走近路的情況和人走近路是一樣的，所以我們做不好的決定，機(jī)器做決定可能也做不好 。

澎湃新聞：很多人說人工智能不能創(chuàng)造、創(chuàng)新，那么將來人工智能與神經(jīng)元、腦科學(xué)這些生物相關(guān)的技術(shù)相結(jié)合，會不會做出創(chuàng)新創(chuàng)造？

Peter Dayan：當(dāng)然，毫無懷疑這個事會發(fā)生，就像下圍棋，李世石下的棋就證明機(jī)器有創(chuàng)新能力，比人厲害，這個創(chuàng)造力很厲害，所以它已經(jīng)是能夠做的。

澎湃新聞：下棋是機(jī)器人在人的編寫的程序上運(yùn)行的結(jié)果，這個結(jié)果是人可以想到但未找到的結(jié)果？

李兆平：不是，它做的東西如果人能想象得到，李世石也可以想得到，你說人沒有想到的東西叫創(chuàng)造。它們下的棋就是人沒有想到的，才能把李世石打敗了。阿爾法GO下的棋就是人沒有想到的。你不能說是人輸入進(jìn)去的程序做的，這是它自己學(xué)的，它是用人輸進(jìn)去的學(xué)習(xí)方法自己學(xué)到了知識，創(chuàng)新出來的東西。

澎湃新聞：阿爾法GO做的那些東西，還是人的方法當(dāng)中的一種，機(jī)器人只是把這些方法找到而已。機(jī)器人會自己去做實(shí)驗(yàn)，譬如像一個生物學(xué)家一樣去找到一個新的DNA結(jié)構(gòu)？

Peter Dayan：阿爾法GO下的棋，如果是一個人下出來的，你就會覺得這是個創(chuàng)新，其實(shí)這個已經(jīng)是創(chuàng)新了。在下圍棋的情況下，機(jī)器可做出人沒有想到的東西。找到DNA也是這樣，怎么找到DNA是有規(guī)則的，要去做實(shí)驗(yàn)，發(fā)現(xiàn)很多事實(shí)，這和下圍棋的步驟是一樣的，機(jī)器也可以去看這個反應(yīng)是什么結(jié)構(gòu)，那個是什么結(jié)構(gòu)，然后找到新的步驟。如果一個人能這樣做實(shí)驗(yàn)，那這個科學(xué)家就很厲害了，這就是創(chuàng)新，既然阿爾法·GO可以創(chuàng)新得比人還好，所以機(jī)器只要知道做事的規(guī)則，這樣實(shí)驗(yàn)一下，那樣實(shí)驗(yàn)一下，照規(guī)則就可以做出新的選擇，這就是創(chuàng)新。

澎湃新聞：有可能發(fā)現(xiàn)規(guī)則嗎？下棋畢竟還是在圍棋的規(guī)則里走。

Peter Dayan：假如有一個領(lǐng)域，可以做完全開放的學(xué)習(xí)，我們假設(shè)讓一個機(jī)器人去比賽跑步，它要跑得越快越好，大家都快跑，機(jī)器人甚至?xí)氲揭粋€新的辦法，在臨近撞線的時候，機(jī)器人倒下去，依靠很長的身高，能更快地撞線，這個就是比你想象得還要新，它能打破規(guī)則，機(jī)器人肯定會有這些創(chuàng)新。

澎湃新聞：很多中國人都喜歡讀《紅樓夢》，但又很遺憾后四十回續(xù)寫得不夠好，機(jī)器人會不會續(xù)寫出來？

Peter Dayan：為什么其他的作家不去把后面的內(nèi)容續(xù)寫出來？

澎湃新聞：是有人續(xù)寫了，但是續(xù)寫的部分跟原著相比，文字的文風(fēng)、人物命運(yùn)、還有詩詞等等，都和原著有很大的差異。所以能不能在藝術(shù)風(fēng)格上做出一致的創(chuàng)造呢？

Peter Dayan：原理上機(jī)器人應(yīng)該做得到，因?yàn)楝F(xiàn)在計(jì)算機(jī)可以作曲了，比如把巴赫很多的曲譜給它學(xué)習(xí)，然后機(jī)器人會作出新曲，跟巴赫的風(fēng)格都是一樣的。所以我認(rèn)為原理上可行的東西可以繼續(xù)擴(kuò)大應(yīng)用范圍，沒覺得有什么障礙。雖然現(xiàn)在機(jī)器翻譯的東西還達(dá)不到滿意的程度，但我認(rèn)為最終應(yīng)該可以達(dá)到較高的水平。我們已經(jīng)知道人工智能在那些小的機(jī)制里能夠達(dá)到我們所期望的，雖然大的方面還沒有達(dá)到，譬如機(jī)器人可以作巴赫風(fēng)格的曲譜，這只是一個小的成功，還沒有衍生到大的方面，但我認(rèn)為應(yīng)該是可以做到的。就是說你已經(jīng)在一條路上成功走了一段距離了，而且我也沒有看見前面有什么障礙能阻擋我走下去，雖然我現(xiàn)在還沒有走到終點(diǎn)，但是原理上來說我是可以走到終點(diǎn)的。

【受訪人簡介】

Peter Dayan 為英國皇家學(xué)會院士，2017年大腦獎得主，曾在劍橋大學(xué)攻讀數(shù)學(xué)，畢業(yè)后于愛丁堡大學(xué)師從David Willshaw教授，并取得了物理博士學(xué)位。此后，他又跟隨索爾克生物研究所的Terry Sejnowski教授和多倫多大學(xué)的Geoff Hinton教授完成了兩個博士后學(xué)位。在麻省理工擔(dān)任了三年的助理教授之后，Dayan于1998年促成了倫敦大學(xué)學(xué)院蓋茨比計(jì)算神經(jīng)科學(xué)中心的成立。今年他在Uber人工智能實(shí)驗(yàn)室作學(xué)術(shù)訪問。Peter Dayan于2012年獲得David E. Rumelhart獎，也是2017年格雷特·倫德貝克歐洲大腦研究獎（簡稱大腦獎）的獲獎?wù)咧弧?018年，當(dāng)選為英國皇家學(xué)會院士。

Dayan的研究領(lǐng)域主要是神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)計(jì)算模型，尤其是有關(guān)表達(dá)、學(xué)習(xí)和決策的模型。他在最近的工作中集中研究人類和其他動物用于實(shí)現(xiàn)獎勵最大化和懲罰最小化的各式行為機(jī)制。這些行為機(jī)制顯然與人工智能中所流行的算法相似。這種關(guān)聯(lián)性為我們提供了豐富的途徑，去理解人類及動物的日常行為，也能幫助我們了解人們在患上神經(jīng)功能性障礙和精神疾病時的行為表現(xiàn)。

李兆平系倫敦大學(xué)學(xué)院計(jì)算機(jī)系計(jì)算神經(jīng)科學(xué)教授，北京師范大學(xué)認(rèn)知神經(jīng)科學(xué)與學(xué)習(xí)國家重點(diǎn)實(shí)驗(yàn)室訪問教授。李兆平1984年本科畢業(yè)于復(fù)旦大學(xué)物理系，1989年獲得加州理工學(xué)院物理博士學(xué)位。她曾在美國的費(fèi)米國家實(shí)驗(yàn)室、普林斯頓的高級研究院和洛克菲勒大學(xué)做博士后，在香港科技大學(xué)任教，以及在其他一些學(xué)術(shù)機(jī)構(gòu)做學(xué)術(shù)訪問。1998年，她參與創(chuàng)建了倫敦大學(xué)學(xué)院的蓋茨比計(jì)算神經(jīng)科學(xué)中心，現(xiàn)在她在該大學(xué)的計(jì)算機(jī)系任計(jì)算神經(jīng)科學(xué)教授。她歷年來的科研涉及物理、神經(jīng)生物學(xué)等，但主要注重于視覺、嗅覺和非線性神經(jīng)動力學(xué)，1990年代后期至2000年代早期，她理論提出大腦初級視皮層建立了視覺空間的顯著圖來自動引導(dǎo)視覺注意，領(lǐng)域里大量的實(shí)驗(yàn)工作正在對此理論做實(shí)驗(yàn)檢驗(yàn)。2014年，牛津大學(xué)出版社出版了她著的《理解視覺：理論，模型和數(shù)據(jù)》。