作者 | 竺晶瑩

題圖 | 《模仿游戲》劇照

六年前，牛津大學(xué)的一個(gè)辦公室里，電話鈴聲劃破了寂寂的長(zhǎng)廊，突然響個(gè)不?！?/p>

“請(qǐng)問(wèn)是邁克爾·伍爾德里奇教授嗎？我們來(lái)自BBC，想跟你求證一些關(guān)于AI的言論。近日，埃隆·馬斯克說(shuō)，AI在未來(lái)將摧毀人類。你怎么看呢？” 電話那頭傳來(lái)急促的聲音。

伍爾德里奇教授忍俊不禁，從他的學(xué)院派眼光看來(lái)，馬斯克的預(yù)測(cè)正如好萊塢迷戀AI統(tǒng)治世界的故事一樣，尚屬無(wú)稽之談。

隨著AI話題熱度越來(lái)越高，伍爾德里奇教授30年來(lái)平靜的研究生涯，自這通電話后開(kāi)始被打破。他發(fā)現(xiàn)，相較艱深的技術(shù)分析，媒體顯然更傾向于報(bào)道人工智能下的反烏托邦場(chǎng)景。只是，事實(shí)并非如此。這也是為什么他近年來(lái)撰寫了《人工智能全傳》一書，試圖向大眾破除關(guān)于AI的迷思。

英國(guó)議員馬特·里德利曾盛贊他：“沒(méi)有人比伍爾德里奇更了解人工智能這項(xiàng)新技術(shù)的過(guò)去和現(xiàn)在，以及它給人們帶來(lái)的便利和危害?！?/p>

議員或許夸張，倒也并非過(guò)譽(yù)。時(shí)任牛津大學(xué)計(jì)算機(jī)學(xué)院院長(zhǎng)的邁克爾·伍爾德里奇（Michael Wooldridge），與我進(jìn)行了一次對(duì)談，希望幫我們厘清人工智能的發(fā)展簡(jiǎn)史。對(duì)話中，教授從圖靈測(cè)試談到深度思考，算法偏見(jiàn)如何制約了機(jī)器，“技術(shù)奇點(diǎn)”有何缺陷。

伍爾德里奇教授被譽(yù)為英國(guó)計(jì)算機(jī)領(lǐng)域影響力最大的三位學(xué)者之一 / 圖片來(lái)源：牛津大學(xué)官網(wǎng)

祛魅AI

“這個(gè)世界已經(jīng)有足夠多的擔(dān)憂能讓我們失眠，比如氣候變化、核武器，我不建議大家再擔(dān)心AI取代人類這種事了?！?伍爾德里奇教授無(wú)奈笑道，他的英式幽默有點(diǎn)冷。

在教授的回憶里，當(dāng)時(shí)馬斯克表示AI可能摧毀人類后不久，斯蒂芬·霍金竟也警示大家，AI對(duì)于人類而言是個(gè)潛在的威脅。這讓他陷入了深思，為何像霍金這樣偉大的頭腦都作出了類似判斷。

他或許找到了部分原因。過(guò)去十年間AI的飛速進(jìn)展，讓我們幻想未來(lái)幾十年AI研究仍能以一種夢(mèng)幻的速度實(shí)現(xiàn)超越。但是，伍爾德里奇指出，人們往往忽視了過(guò)去取得的進(jìn)步，僅局限于特定的領(lǐng)域以及具體的程序中，比如AlphaGo、自動(dòng)翻譯。這會(huì)讓人誤以為，一個(gè)全知全能的擬人化AI快要降臨了。但能下圍棋的程序無(wú)法自動(dòng)翻譯，強(qiáng)人工智能時(shí)代也不會(huì)那么快到來(lái)。因此，特定程序的研發(fā)進(jìn)步，讓我們將樂(lè)觀的情緒擴(kuò)散到了AI全面進(jìn)展上，但實(shí)際上這只是千里之行所累積的跬步而已。

“人們錯(cuò)誤地認(rèn)為，如果機(jī)器可以在某方面比人類做得更好，那么它們?cè)谌魏畏矫娑汲搅巳祟?，顯然并非如此。一個(gè)程序若能比人類做得更好，那是它通過(guò)被大量訓(xùn)練使得程序最優(yōu)化，然后在一個(gè)精細(xì)的領(lǐng)域里達(dá)到頂尖水平?！?/p>

比馬斯克的言論更成體系的，大概是“技術(shù)奇點(diǎn)”（Technological Singularity）理論。20世紀(jì)50年代，計(jì)算機(jī)先驅(qū)馮·諾伊曼首次提出“奇點(diǎn)”，表述為一種可以撕裂人類歷史結(jié)構(gòu)的能力。60年代，數(shù)學(xué)家I.J.古德首創(chuàng)“智能爆炸”，指智能機(jī)器在無(wú)需人工干預(yù)的情況下不斷設(shè)計(jì)出下一代。

2005年，美國(guó)發(fā)明家、預(yù)言學(xué)家雷·庫(kù)茲韋爾（Ray Kurzweil）在《奇點(diǎn)臨近》一書中大膽預(yù)測(cè)：科技正以史無(wú)前例的速度指數(shù)級(jí)發(fā)展，計(jì)算機(jī)將超越人類智能的各個(gè)方面。到2045年，奇點(diǎn)來(lái)臨時(shí)，人工智能將完全超越人類智能。奇點(diǎn)之后，如果人的智能完全轉(zhuǎn)移到計(jì)算機(jī)上，那么人將以軟件形式實(shí)現(xiàn)永生。

庫(kù)茲韋爾將歷史分為六個(gè)紀(jì)元，每一個(gè)紀(jì)元的出現(xiàn)，都是利用上一個(gè)紀(jì)元的進(jìn)化成果。人類在進(jìn)化中產(chǎn)生思維能力，繼而創(chuàng)造了技術(shù)，從簡(jiǎn)單的機(jī)械化發(fā)展為成熟的自動(dòng)化設(shè)備。而接下來(lái)就將進(jìn)入人機(jī)文明的紀(jì)元，由于人類技術(shù)呈現(xiàn)指數(shù)型發(fā)展，像基因技術(shù)、納米技術(shù)、機(jī)器人技術(shù)都將呈現(xiàn)更大容量、更快速度與更強(qiáng)的知識(shí)分享能力。我們的人機(jī)文明將超越人腦的限制，奇點(diǎn)開(kāi)始，并于第六紀(jì)元從地球拓展到全宇宙。

如果這段說(shuō)明有點(diǎn)拗口，用伍爾德里奇教授的話來(lái)說(shuō)就是，機(jī)器會(huì)不斷自我學(xué)習(xí)讓自己變得更聰明，而機(jī)器學(xué)習(xí)的速度遠(yuǎn)遠(yuǎn)超過(guò)生物。因此我們害怕，機(jī)器最終會(huì)脫離人類的控制，因?yàn)樗鼘⒙斆鞯轿覀冸y以理解它，難以與它共處。

然而，伍爾德里奇指出了奇點(diǎn)理論有明顯的不足——沒(méi)有人致力于制造“奇點(diǎn)”；而這也不會(huì)在一夜之間發(fā)生，因?yàn)槲覀冎挥袘?yīng)用大量的科學(xué)與技術(shù)才能達(dá)到“奇點(diǎn)”，好比波音747的發(fā)明，就是一個(gè)無(wú)比漫長(zhǎng)的工程學(xué)研究過(guò)程，而它在開(kāi)發(fā)中必須首要考慮的就是，確保人類的安全。

“我并不擔(dān)心奇點(diǎn)的到來(lái)，因?yàn)槲覀兡壳安⒉恢廊绾螐默F(xiàn)有的AI，演化到通用人工智能（Artificial General Intelligence），這依舊是科學(xué)之謎?！?教授補(bǔ)充道。

盡管伍爾德里奇教授理性且克制地看待AI發(fā)展，但這并不代表他對(duì)于人工智能進(jìn)步的觀點(diǎn)過(guò)于保守。事實(shí)上，AI簡(jiǎn)史中有許多關(guān)鍵時(shí)刻令他感覺(jué)到興奮。

“如果你來(lái)挑選AI發(fā)展過(guò)程中最關(guān)鍵的三個(gè)時(shí)刻，會(huì)是什么？” 我問(wèn)。

教授略一沉思，在他30余年的研究生涯里，見(jiàn)證過(guò)太多AI高光時(shí)刻，只挑三起事件，倒也為難。但他還是很快確認(rèn)了對(duì)自己震撼最大的三個(gè)節(jié)點(diǎn)：1966-1972年，首臺(tái)采用了人工智能學(xué)的移動(dòng)機(jī)器人Shakey在美國(guó)斯坦福國(guó)際研究所（Stanford Research Institute, SRI）被發(fā)明；2005年，自動(dòng)駕駛汽車Stanley完成了132英里的Mojava沙漠路線，在DARPA超級(jí)挑戰(zhàn)賽上一舉奪冠；2016年，谷歌DeepMind研發(fā)的AlphaGo擊敗圍棋世界冠軍李世石。

伍爾德里奇進(jìn)而解釋，當(dāng)時(shí)斯坦福研究所團(tuán)隊(duì)試圖制造一個(gè)自主機(jī)器人，你向它下達(dá)命令后，它得自己找到途徑達(dá)成任務(wù)，比如你讓它把箱子從這個(gè)角落搬到那個(gè)角落。而這需要許多步驟，首先它要聽(tīng)懂你的指令，其次它要弄清怎么完成指令，再來(lái)它還要辨識(shí)真實(shí)世界的場(chǎng)景，你需要把這些所有元素都內(nèi)置到一個(gè)機(jī)器人上。Shakey展現(xiàn)了人工智能的應(yīng)用，但更揭示了我們?cè)贏I領(lǐng)域遠(yuǎn)有更多路徑需要探索。

自主機(jī)器人Shakey / 圖片來(lái)源：Google

Stanley在2005年挑戰(zhàn)賽上的表現(xiàn)則證明無(wú)人駕駛技術(shù)的難點(diǎn)首次被突破。2004年第一屆挑戰(zhàn)賽上，沒(méi)有一輛自動(dòng)駕駛汽車能行駛超過(guò)7英里，甚至很多車都沒(méi)開(kāi)過(guò)起跑線。但沒(méi)想到，僅隔一年，伍爾德里奇記得至少有七輛車能夠自動(dòng)駕駛140英里以上，只需按下按鈕，斯坦福大學(xué)開(kāi)發(fā)的Stanley就可以在復(fù)雜的地形上平均每小時(shí)行駛約 20 英里。他想，那簡(jiǎn)直就像第一次見(jiàn)證飛機(jī)飛行一樣。

無(wú)人駕駛汽車Stanley在2005年挑戰(zhàn)賽中奪冠 / 圖片來(lái)源：Google

AlphaGo在2016年在韓國(guó)首爾擊敗李世石，則超乎意料，學(xué)界本以為這種層次的技術(shù)在未來(lái)二十年才會(huì)發(fā)生，因此這是“深度學(xué)習(xí)”（Deep Learning）取得重大突破的明證。

AI迷思

那什么是所謂的“深度學(xué)習(xí)”呢？

如果用官方語(yǔ)言描述，那就是推動(dòng)第三次神經(jīng)網(wǎng)絡(luò)的關(guān)鍵技術(shù)。伍爾德里奇教授指出，這個(gè)人工智能中最古老的想法之一，在過(guò)去十年中才開(kāi)始取得成果。我們從大腦結(jié)構(gòu)中汲取了靈感來(lái)構(gòu)建AI系統(tǒng)，人類大腦約有1000億個(gè)神經(jīng)元彼此連接，那么類比在軟件中就是神經(jīng)網(wǎng)絡(luò)。1990年的一個(gè)典型神經(jīng)網(wǎng)絡(luò)可能只有約100個(gè)神經(jīng)元，2016年先進(jìn)的神經(jīng)網(wǎng)絡(luò)已經(jīng)擁有約100萬(wàn)個(gè)神經(jīng)元。

深度學(xué)習(xí)的意義在于不斷前進(jìn)，構(gòu)建更深的網(wǎng)絡(luò)層級(jí)、更龐大的神經(jīng)元結(jié)構(gòu)、更廣泛的神經(jīng)元連接。

雖然AlphaGo是深度學(xué)習(xí)取得重大進(jìn)展的標(biāo)志之一，但它也存在缺點(diǎn)。比如一個(gè)拒絕為客戶提供銀行貸款的深度學(xué)習(xí)程序，無(wú)法告訴你它拒絕客戶的原因。此外，神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性也存疑。如果對(duì)圖像進(jìn)行細(xì)微修正，這對(duì)人類來(lái)說(shuō)不影響圖片識(shí)別，但會(huì)導(dǎo)致神經(jīng)網(wǎng)絡(luò)將其錯(cuò)誤分類。因此，同樣的改圖方式可以影響程序?qū)β窐?biāo)的識(shí)別，在無(wú)人駕駛汽車中，神經(jīng)網(wǎng)絡(luò)就可能誤讀路標(biāo)。

另一個(gè)常被提及的概念是“算法偏見(jiàn)”（Algorithmic Bias）。教授指出：“這并非算法的偏見(jiàn)，其實(shí)是算法繼承了人類的偏見(jiàn)?！?/p>

這一說(shuō)法可以追溯到1970年代，為了提高招生流程的效率，倫敦圣喬治醫(yī)學(xué)院的Geoffrey Franglen博士編寫了一個(gè)“模仿人類評(píng)估員”的算法來(lái)篩選學(xué)生的入學(xué)申請(qǐng)，其初衷也是為了抹平招生委員會(huì)的個(gè)體偏見(jiàn)，交由系統(tǒng)來(lái)完成“公平”的篩選。結(jié)果卻適得其反，成功入學(xué)的申請(qǐng)者始終缺乏多樣性。

原來(lái)，算法被設(shè)定了一些無(wú)關(guān)因素，比如出生地和姓名，來(lái)權(quán)衡申請(qǐng)者。如果他們的名字不是白人姓氏，篩選流程就會(huì)對(duì)他們不利，光是沒(méi)有一個(gè)歐洲名字就會(huì)自動(dòng)扣除申請(qǐng)者 15 分了。女性申請(qǐng)者平均要被扣掉3分。因此，算法只是在維持當(dāng)時(shí)招生系統(tǒng)早已存在的偏見(jiàn)而已。

那么今天我們有希望解決算法偏見(jiàn)的問(wèn)題嗎？

伍爾德里奇表示，AI的工作原理就是，程序通過(guò)不斷被訓(xùn)練來(lái)作出判斷。假設(shè)一家銀行在設(shè)計(jì)程序來(lái)判斷客戶是否該獲得貸款。那么銀行需要展示大量貸款申請(qǐng)，并告訴算法，這是優(yōu)質(zhì)或劣質(zhì)的申請(qǐng)。但關(guān)鍵在于，訓(xùn)練算法的人本身就帶有自己都沒(méi)意識(shí)到的偏見(jiàn)，那么算法自然在大量習(xí)得數(shù)據(jù)的過(guò)程中也沾上了偏見(jiàn)。比如倫敦存在區(qū)域的“郵編歧視”，如果一個(gè)程序根據(jù)客戶住址來(lái)判斷他該不該獲得貸款，由于以往數(shù)據(jù)顯示偏遠(yuǎn)社區(qū)的用戶償還貸款能力不佳，這時(shí)算法就傾向于判斷這類郵編的客戶不該被批準(zhǔn)申請(qǐng)。

這么看來(lái)，只要人類社會(huì)的偏見(jiàn)不消除，算法世界的偏見(jiàn)也不會(huì)消失。不過(guò)，從1970年代至今，人們至少在消除種族歧視、倡導(dǎo)性別平權(quán)上的呼吁已經(jīng)得到些許進(jìn)展，而只有現(xiàn)實(shí)世界里的進(jìn)展才會(huì)延伸到算法系統(tǒng)中。

最終，這些關(guān)于機(jī)器能否思考的討論，必然會(huì)溯源到阿蘭?圖靈（Alan Turing）身上。1950 年，圖靈發(fā)表了一篇論文《計(jì)算機(jī)器與智能》，他提出了一個(gè)問(wèn)題：“機(jī)器會(huì)思考嗎？”

開(kāi)啟了人工智能時(shí)代的圖靈 / 圖片來(lái)源：Google

如果看過(guò)《模仿游戲》，那么對(duì)這位數(shù)學(xué)天才不會(huì)陌生。電影劇情中，二戰(zhàn)時(shí)期，英國(guó)軍情六處招募了一批人來(lái)破解德軍Enigma密碼機(jī)制造的暗號(hào)，但沒(méi)有人能在24小時(shí)內(nèi)解出無(wú)數(shù)種可能性，而一天過(guò)后又是新的密碼。直到圖靈意識(shí)到，只有機(jī)器才能打敗機(jī)器。

伍爾德里奇指出電影有許多戲劇化的偏離現(xiàn)實(shí)情節(jié)，倒有助于大眾認(rèn)識(shí)到圖靈。他說(shuō)，圖靈幾乎是偶然發(fā)明了計(jì)算機(jī)，因?yàn)樗?930年代在劍橋讀博期間就嘗試解決當(dāng)時(shí)最重要的一個(gè)數(shù)學(xué)問(wèn)題，為了解決它，圖靈最終發(fā)現(xiàn)他必須發(fā)明一種通用機(jī)器。戰(zhàn)后，他繼續(xù)建造自己的機(jī)器，這實(shí)際上是他數(shù)學(xué)夢(mèng)想的載體。

隨即，圖靈就發(fā)明了一種測(cè)試來(lái)檢測(cè)機(jī)器是否會(huì)思考。英國(guó)有一種模仿游戲，一男一女分別位于不同房間，裁判需通過(guò)他們的手寫對(duì)話來(lái)猜誰(shuí)是誰(shuí)，但男女雙方都有可能在模仿對(duì)方。圖靈被游戲啟發(fā)，構(gòu)思了一個(gè)思想實(shí)驗(yàn)，將其中一位選手換成了計(jì)算機(jī)。如果計(jì)算機(jī)在編程之下，讓裁判無(wú)法斷定自己究竟是跟人還是機(jī)器對(duì)話，圖靈提出，那就有理由推斷出機(jī)器和人類一樣在“思考”。

這個(gè)思想實(shí)驗(yàn)被稱作“圖靈測(cè)試”，仍是AI界最具爭(zhēng)議的話題之一。伍爾德里奇將這個(gè)測(cè)試形容為美妙，因?yàn)閹缀跏菆D靈開(kāi)啟了AI時(shí)代。

而那也可以被視作對(duì)哲學(xué)的一種挑釁。

哲學(xué)家Daniel Dennett表示，圖靈測(cè)試本該是哲學(xué)對(duì)話的終結(jié)者，“與其無(wú)休止地爭(zhēng)論思考的終極本質(zhì)和要義，我們?yōu)槭裁床欢季瓦@一點(diǎn)達(dá)成一致呢？即無(wú)論其本質(zhì)是什么，任何東西只要通過(guò)了這一測(cè)試，當(dāng)然就擁有思考能力?！?/p>

此為“算法與活法”系列報(bào)道第四篇，該系列聚焦科技時(shí)代下我們的生活如何被“異化”，通過(guò)與學(xué)者或?qū)＜业脑L談以期獲得些許洞察。此前該系列篇目有：

《我們正掉入外賣陷阱》

《算法與活法：當(dāng)你不再被需要》

《“人性第一”》

如對(duì)本稿件有異議或投訴，請(qǐng)聯(lián)系tougao@huxiu.com

End

原標(biāo)題：《當(dāng)一位牛津教授打破30年的沉默》

閱讀原文