? William MacAskill｜牛津大學(xué)全球優(yōu)先研究所

? 慧諾(譯)｜文化縱橫新媒體

【導(dǎo)讀】2022年以來(lái)，多國(guó)政要出于各種原因相繼離世或退出政壇，成為當(dāng)下高風(fēng)險(xiǎn)時(shí)代的一種特殊征候。在地緣政治摩擦升溫，極端天災(zāi)頻發(fā)，全球能源危機(jī)、糧食危機(jī)、通脹危機(jī)交疊迸發(fā)的大環(huán)境下，人類社會(huì)正普遍陷入某種“精神內(nèi)耗”。甚至有人解讀，當(dāng)年美國(guó)學(xué)者福山的“歷史終結(jié)論”，就是其字面含義，代表著人類或?qū)?shí)現(xiàn)自我毀滅。但果真如此嗎？基于西方獨(dú)特的精神結(jié)構(gòu)，牛津大學(xué)教授William MacAskill特為《外交》（Foreign Affairs）雜志撰文，詳細(xì)分析人類社會(huì)面臨的災(zāi)難性風(fēng)險(xiǎn)，評(píng)估當(dāng)前的應(yīng)對(duì)措施，并提出對(duì)策。

作者認(rèn)為，相比哺乳動(dòng)物的平均繁衍壽命，人類這個(gè)物種的歷史才剛剛“開始”，遠(yuǎn)談不上福山所言的“終結(jié)”。但在過(guò)去100年內(nèi)，人類發(fā)明的各類破壞性技術(shù)（核武器、生物武器、人工智能等），卻可能導(dǎo)致人類物種整體“英年早逝”。目前的人類制度，對(duì)潛在災(zāi)難后果的預(yù)防和應(yīng)對(duì)遠(yuǎn)遠(yuǎn)不足，甚至一些安全措施反而加重風(fēng)險(xiǎn)（如核大國(guó)的“確保相互摧毀”防御原則）。此外，過(guò)去形成的復(fù)雜利益網(wǎng)絡(luò)和逐漸加劇的大國(guó)博弈，也在阻礙各國(guó)協(xié)同。

作者指出，技術(shù)本身并不是風(fēng)險(xiǎn)的來(lái)源，所謂“倒增長(zhǎng)”（degrowth）的退步策略并不可取。相反，各國(guó)政府可以采取“差別化技術(shù)發(fā)展”的原則，優(yōu)先推動(dòng)保護(hù)性技術(shù)的進(jìn)步，并形成國(guó)際聯(lián)盟，提供有關(guān)全球公共產(chǎn)品。他認(rèn)為，在災(zāi)難性風(fēng)險(xiǎn)面前，西方尤其要反思自己的位置、轉(zhuǎn)變看待世界的視角，努力推動(dòng)監(jiān)管改革，不能再魯莽地把當(dāng)代全人類以及所有子孫后代作為豪賭的籌碼，而應(yīng)專注于探索解決問(wèn)題的方案。

本文原載“Foreign Affairs”，由文化縱橫新媒體編譯，原題為《歷史的開端：在災(zāi)難性風(fēng)險(xiǎn)時(shí)代活下去》，僅代表作者本人觀點(diǎn)，特此編發(fā)，供諸君思考。

文化縱橫新媒體·國(guó)際觀察

2022年第37期 總第88期

歷史的開端：

在災(zāi)難性風(fēng)險(xiǎn)時(shí)代活下去

人類正站在歷史的起點(diǎn)上。今天活著的每一個(gè)人，在他之前至少有數(shù)十代人已成過(guò)去。但是，如果將人類的整個(gè)歷史和哺乳動(dòng)物的平均繁衍壽命對(duì)比，未來(lái)還會(huì)有數(shù)千代人尚未誕生。作為一個(gè)物種，人類勉強(qiáng)算是正在蹣跚學(xué)步的嬰兒。

智人這個(gè)物種的未來(lái)或許還很漫長(zhǎng)，但也可能轉(zhuǎn)瞬即逝。自《外交》（Foreign Affairs）雜志在一個(gè)世紀(jì)前創(chuàng)刊以來(lái)，世界發(fā)生了太多變化；其中影響最深遠(yuǎn)的變化，就是人類獲得了終結(jié)自己的能力。氣候變化、核戰(zhàn)爭(zhēng)、人造大流行病、不受控制的人工智能，以及其他影響尚無(wú)法評(píng)估的顛覆性技術(shù)，許多令人擔(dān)憂的風(fēng)險(xiǎn)都在威脅著人類的生存。

在30多年前冷戰(zhàn)結(jié)束時(shí)，一些思想家曾暢想，未來(lái)的畫卷將在平和中緩緩拉開。在冷戰(zhàn)期間栩栩如生的“世界末日威脅”，似乎伴隨著東歐劇變和蘇聯(lián)解體而開始消退。西方學(xué)者曾認(rèn)為，他們似乎已經(jīng)解決了主要的意識(shí)形態(tài)爭(zhēng)論，而資本主義和“民主”將不可阻擋地傳播。哈佛大學(xué)政治學(xué)者弗朗西斯·福山（Francis Fukuyama）將世界分為“后歷史”（post-historical）和“歷史”（historical）社會(huì)——戰(zhàn)爭(zhēng)可能會(huì)在世界的某些地方以種族和教派沖突的形式持續(xù)存在，但隨著越來(lái)越多的國(guó)家加入到“后歷史”社會(huì)的一端，大規(guī)模戰(zhàn)爭(zhēng)將成為過(guò)去。在未來(lái)，政治的可能性范圍將變得十分狹窄，正如它承諾著相對(duì)和平、繁榮和不斷擴(kuò)大的個(gè)人自由。

現(xiàn)如今，一個(gè)關(guān)于“未來(lái)永恒”的愿景，已經(jīng)讓位于“沒有未來(lái)”的設(shè)想。意識(shí)形態(tài)仍然是劃定地緣政治的分水嶺，全球化市場(chǎng)正在分崩離析，大國(guó)沖突越來(lái)越有可能。面對(duì)著人類可能灰飛煙滅的威脅，未來(lái)幾年的思想和政治辯論的范圍可能比幾十年前更加寬廣。宏大意識(shí)形態(tài)的爭(zhēng)端遠(yuǎn)未被解決。事實(shí)上，我們可能會(huì)遇到更大的問(wèn)題，并被迫考慮更激進(jìn)的建議，以反映未來(lái)的變革和危險(xiǎn)所帶來(lái)的挑戰(zhàn)。我們的視野必須擴(kuò)大，而不是縮小。

其中，最主要的挑戰(zhàn)就是“人類應(yīng)該如何管理自己天賦，及其所帶來(lái)的危險(xiǎn)”。無(wú)論是因?yàn)楣室鉃E用還是爆發(fā)大規(guī)模事故，武器、生物和計(jì)算機(jī)等領(lǐng)域的進(jìn)步，都可能意味著人類的滅亡。進(jìn)入風(fēng)險(xiǎn)社會(huì)后，危機(jī)的規(guī)模和復(fù)雜性，可能會(huì)使任何一種協(xié)調(diào)行動(dòng)陷入癱瘓。但是，政府能夠而且也必須采取有意義的措施，以確保人類物種的生存，同時(shí)不放棄技術(shù)進(jìn)步的好處。事實(shí)上，人類需要通過(guò)創(chuàng)新，來(lái)克服它正面臨的幾個(gè)災(zāi)難性的風(fēng)險(xiǎn)——產(chǎn)生和儲(chǔ)存清潔能源，在可控的情況下發(fā)現(xiàn)和認(rèn)識(shí)新的疾病，并在不依靠“確保相互摧毀”的模式下維持大國(guó)之間的和平。

當(dāng)前，人類的技術(shù)和制度的現(xiàn)狀遠(yuǎn)談不上安全。相反，這些技術(shù)和制度創(chuàng)造了不穩(wěn)定的困境，而社會(huì)需要逃離這個(gè)困境。因此，各國(guó)政府必須更清楚地認(rèn)識(shí)到我們所面臨的風(fēng)險(xiǎn)，并建設(shè)起強(qiáng)有力的機(jī)構(gòu)來(lái)管理這些風(fēng)險(xiǎn)。（西方）政府需要將最壞的情況納入決策過(guò)程中，并接受所謂“差異化技術(shù)發(fā)展”的理念——減少會(huì)產(chǎn)生潛在危險(xiǎn)結(jié)果的進(jìn)步，例如可被武器化的生物研究，同時(shí)資助和加速那些有助于減少風(fēng)險(xiǎn)的技術(shù)，如用于檢測(cè)病原體的廢水監(jiān)測(cè)。

目前，我們亟需轉(zhuǎn)變看待世界的視角（perspective）。福山在展望未來(lái)時(shí)曾透出些許哀傷，他看到的是一片灰色的、沒有戲劇性、由技術(shù)官僚主宰的天地。他在1989年寫道：“歷史的終結(jié)將是一個(gè)非常悲傷的時(shí)刻，”其中“勇氣、想象力和理想主義，將被經(jīng)濟(jì)計(jì)算、無(wú)休止地解決技術(shù)問(wèn)題、環(huán)境問(wèn)題和滿足復(fù)雜的消費(fèi)者需求所取代?！?/p>

站在歷史的開端，在人類歷史的關(guān)鍵時(shí)刻，我們亟需勇氣和想象力來(lái)迎接未來(lái)的各種挑戰(zhàn)。與福山的預(yù)言相反，政治視野并沒有縮小到一個(gè)狹小的范圍。巨大的經(jīng)濟(jì)、社會(huì)和政治變革仍然是可能的，并且是必要的。如果我們能智慧地行動(dòng)起來(lái)，我們將能夠重新定義未來(lái)，我們的子子孫孫也將以感激和自豪的心情來(lái)緬懷我們。如果我們搞砸了，那么我們的后代或許將永無(wú)天日。

▍還未到來(lái)的人

化石記錄表明，哺乳動(dòng)物的平均繁衍壽命超過(guò)了一百萬(wàn)年。按照這個(gè)標(biāo)準(zhǔn)，人類這個(gè)物種可能還有大約70萬(wàn)年的時(shí)間。照這么看，即使目前地球上的人類縮減到十分之一，未來(lái)也會(huì)有驚人的10萬(wàn)億人出生。

此外，人類也不是一般的哺乳動(dòng)物，并且可能比其親屬們更長(zhǎng)壽。我們與最終后代的差別，或許比我們和最早的恐龍之間的差別還要大。在未來(lái)數(shù)千年，如果有一天我們?cè)谔斩ň?，源自地球的智能壽命或許可以超過(guò)幾十萬(wàn)億年后燃燒殆盡的太陽(yáng)。

欣賞人類的未來(lái)潛力，并不是要搞一些無(wú)關(guān)痛癢的數(shù)字游戲。恰恰相反，對(duì)這些數(shù)字的估計(jì)，有助于我們理解真正重要的利害關(guān)系。人類在今天的行動(dòng)，可能會(huì)影響到我們的數(shù)萬(wàn)億后代能否生存，以及他們將如何生活——他們將面臨貧窮還是富足，戰(zhàn)爭(zhēng)還是和平，奴役還是自由，責(zé)任就在我們這一代人的肩上。

在日本小鎮(zhèn)亞哈巴（Yahaba）的一個(gè)實(shí)驗(yàn)證明了，當(dāng)視角被扭轉(zhuǎn)以后可能產(chǎn)生的深遠(yuǎn)后果。在辯論市政政策之前，屬于“實(shí)驗(yàn)組”的參與者被要求穿上儀式性的長(zhǎng)袍，想象他們來(lái)自未來(lái)，代表目前子孫后代的利益。研究人員不僅觀察到“實(shí)驗(yàn)組和對(duì)照組之間的議事風(fēng)格和優(yōu)先事項(xiàng)有著鮮明對(duì)比”，而且實(shí)驗(yàn)組對(duì)后代的關(guān)注也很有感染力。在可以達(dá)成共識(shí)的措施中，有一半以上是由實(shí)驗(yàn)組代表子孫后代提出的。

從長(zhǎng)遠(yuǎn)的角度思考，我們的社會(huì)潛力更大。在500年前，人們還無(wú)法想象有一天收入會(huì)每隔幾代就翻一番，大多數(shù)人都能活著看到他們的孫子長(zhǎng)大，世界上的大多數(shù)國(guó)家成為世俗社會(huì)。對(duì)于500年前的人來(lái)說(shuō)，國(guó)家可能不會(huì)持續(xù)超過(guò)幾個(gè)世紀(jì)，世界上的各種社會(huì)組織模式都沒有完全形成。對(duì)幾天、幾個(gè)月或幾年的短期關(guān)注，掩蓋了人類捕捉基本的長(zhǎng)期變化的潛力。人類只是處于起步階段。因此，這個(gè)物種的過(guò)早消亡，將是一個(gè)多么悲劇的事情。

▍所謂“歷史的終結(jié)”是如何實(shí)現(xiàn)的？

福山的“歷史終結(jié)論”或是一種思想表達(dá)，但其他國(guó)際事務(wù)觀察家則更多關(guān)注這一短語(yǔ)的字面意思：人類有可能自我毀滅。在冷戰(zhàn)初期，當(dāng)核科學(xué)家使人類的破壞力有了巨大飛躍之后不久，這種觀點(diǎn)尤其盛行。正如英國(guó)政治家溫斯頓·丘吉爾在1946年所言：“石器時(shí)代可能會(huì)乘著科學(xué)的閃亮翅膀回來(lái)?，F(xiàn)在給人類帶來(lái)不可估量的物質(zhì)財(cái)富的東西，甚至也能帶來(lái)人類的徹底毀滅?！睅啄旰?，美國(guó)總統(tǒng)德懷特·艾森豪威爾在他的第一次就職演說(shuō)中也表達(dá)了類似擔(dān)憂，他在演說(shuō)中警告說(shuō)：“科學(xué)似乎準(zhǔn)備好了——作為它最后的禮物，賦予我們從這個(gè)星球上消滅人類物種的力量。”

人類歷史充斥著災(zāi)難，有著從黑死病的恐怖到奴隸制和殖民主義的恐怖。但是，除了一些極不可能發(fā)生的自然事件，如火山噴發(fā)或流星撞地球，目前尚無(wú)任何可信的自然機(jī)制可以讓人類整體滅亡。牛津大學(xué)哲學(xué)家托比·奧德（Toby Ord）在《懸崖》一書中估計(jì)，即使接受所有最悲觀的假設(shè)，在累計(jì)的自然滅絕風(fēng)險(xiǎn)下，人類有至少還有10萬(wàn)年的預(yù)期壽命。

奧德對(duì)“存在性災(zāi)難”（existential catastrophe），即所謂“人類自我毀滅的潛力”，的嚴(yán)重關(guān)切主要出現(xiàn)在20世紀(jì)下半葉，此時(shí)正式技術(shù)加速進(jìn)步的時(shí)代。英國(guó)皇家學(xué)會(huì)前主席馬丁·里斯勛爵（Lord Martin Rees）在2003年寫道，人類在21世紀(jì)生存的幾率“不超過(guò)50%”。奧德估計(jì)，在未來(lái)一百年內(nèi)，人類有六分之一的可能性實(shí)現(xiàn)自我毀滅，或以其他方式永久破壞文明進(jìn)程。

人類的偉大發(fā)明核武器表現(xiàn)出了幾個(gè)關(guān)鍵的特性，而未來(lái)的技術(shù)威脅也可能擁有這些特性。二十世紀(jì)中葉，同一技術(shù)的破壞力出現(xiàn)突然躍升：原子彈的威力是此前炸藥的數(shù)千倍；氫彈更是讓破壞力再次飆升。與原子能時(shí)代此前的破壞力增速相比，在短短的幾十年里就走過(guò)了一萬(wàn)年的進(jìn)步歷程。

事實(shí)上，這樣的進(jìn)步是難以預(yù)料的：杰出的物理學(xué)家歐內(nèi)斯特·盧瑟福（Ernest Rutherford）早在1933年就將原子能的想法視為可望而不可及的“白月光”，而在核裂變反應(yīng)堆專利申請(qǐng)的前一年，另一位著名的物理學(xué)家利奧·斯齊拉德（Leo Szilard）也公開將這種想法否定了。只要有一顆核彈被發(fā)射，無(wú)論是蓄意而為還是無(wú)心之過(guò)，或許都將導(dǎo)致全面的核災(zāi)難。

更糟糕的是，目前針對(duì)核打擊的防御措施，本身也在增加意外的核災(zāi)難風(fēng)險(xiǎn)。例如，美國(guó)提出了“空中警報(bào)”“預(yù)警即發(fā)射”的理論，蘇聯(lián)則有“死手”系統(tǒng)——如果莫斯科遭受核攻擊，該系統(tǒng)將自動(dòng)發(fā)起全面的核報(bào)復(fù)行動(dòng)。冷戰(zhàn)結(jié)束后，美俄并沒有從根本上改變這種致命的應(yīng)對(duì)方法，核大國(guó)仍然在其政策核心維持著準(zhǔn)備實(shí)施打擊和維持和平的微妙平衡。歷經(jīng)百年的核技術(shù)尚且如此，未來(lái)技術(shù)又將如何呢？

▍治理“世界末日”

盡管風(fēng)險(xiǎn)水平不斷上升，但我們采取必要措施保護(hù)自己的進(jìn)度卻令人擔(dān)憂。事實(shí)上，在充分消解風(fēng)險(xiǎn)時(shí)，我們面臨著數(shù)個(gè)巨大障礙。

最根本的問(wèn)題體現(xiàn)在外交斗爭(zhēng)中。這在氣候變化治理中，體現(xiàn)得淋漓盡致。當(dāng)燃燒化石燃料時(shí)，發(fā)達(dá)國(guó)家獲得大部分收益，但其他國(guó)家和后代卻承擔(dān)大部分成本和代價(jià)。同樣，有的國(guó)家從事有風(fēng)險(xiǎn)的生物研究并開發(fā)出專利藥物，從而促進(jìn)其經(jīng)濟(jì)和聲望，但在該國(guó)意外釋放的病原體卻不會(huì)尊重邊界。用經(jīng)濟(jì)學(xué)家的話說(shuō)，把風(fēng)險(xiǎn)強(qiáng)加給未來(lái)是一種“負(fù)外部性”。

相反，提供減少風(fēng)險(xiǎn)的措施，如建立新型疾病的早期預(yù)警系統(tǒng)，就是應(yīng)對(duì)這種“負(fù)外部性”的一種全球公共產(chǎn)品。然而，無(wú)論是市場(chǎng)和現(xiàn)行的國(guó)際體系都不會(huì)默認(rèn)提供這樣的公共產(chǎn)品，因?yàn)楦鲊?guó)都有強(qiáng)大的激勵(lì)機(jī)制去搭便車。

人類其實(shí)有許多途徑可以擺脫這種結(jié)構(gòu)性悲劇。為了緩解在安全斗爭(zhēng)中失去優(yōu)勢(shì)的擔(dān)憂，各國(guó)可以達(dá)成協(xié)議，集體避免開發(fā)特別危險(xiǎn)的技術(shù)（如生物武器）。或者，有意愿的國(guó)家可以形成經(jīng)濟(jì)學(xué)家威廉·諾德豪斯所稱的“俱樂(lè)部”，共同提供俱樂(lè)部所要促進(jìn)的全球公共利益。同時(shí)，俱樂(lè)部成員也承諾為彼此提供利益（如經(jīng)濟(jì)增長(zhǎng)或和平），同時(shí)對(duì)非成員施加成本（通過(guò)關(guān)稅等措施），從而吸引其他國(guó)家加入。當(dāng)前，這個(gè)“俱樂(lè)部”就可以建立在人工智能系統(tǒng)的安全標(biāo)準(zhǔn)或暫停高風(fēng)險(xiǎn)的生物研究上。

不幸的是，大國(guó)競(jìng)爭(zhēng)的重新抬頭，讓這些全球合作的可能性變得渺茫。更糟糕的是，在地緣政治的緊張局勢(shì)下，各國(guó)將更能接受對(duì)世界，以及對(duì)它們自己產(chǎn)生更多風(fēng)險(xiǎn)——它們或許將認(rèn)為這是一場(chǎng)（競(jìng)劣）賭博，并且能夠促進(jìn)其安全利益。但現(xiàn)實(shí)卻并非如此：在美國(guó)保持轟炸機(jī)持續(xù)空中警戒的八年里，有五架飛機(jī)在攜帶核載荷時(shí)墜毀。哪怕只有一個(gè)國(guó)家開始對(duì)滅絕級(jí)病原體進(jìn)行生物武器實(shí)驗(yàn)，也許只是一種簡(jiǎn)單的探索，下一次實(shí)驗(yàn)室事故都可能會(huì)引發(fā)一場(chǎng)比新冠肺炎疫情更嚴(yán)重的全球大流行。

在最壞的情況下，大國(guó)在爭(zhēng)奪全球霸權(quán)的過(guò)程中，可能會(huì)訴諸于直接戰(zhàn)爭(zhēng)。對(duì)于二戰(zhàn)后在西方長(zhǎng)大的人來(lái)說(shuō)，這個(gè)概念可能顯得很牽強(qiáng)。心理學(xué)家史蒂文·平克（Steven Pinker）的研究認(rèn)為，在西方公眾中，“暴力”，包括“國(guó)家間的暴力”這種表述和心理已經(jīng)顯著減少。然而，政治學(xué)家貝爾·布勞默勒（Bear Braumoeller）和其他人的分析卻指向另一個(gè)方向：在相對(duì)和平的插曲之后，戰(zhàn)爭(zhēng)完全有可能以更加致命的方式回歸。計(jì)算機(jī)科學(xué)家亞倫·克勞塞特（Aaron Clauset）的則表明，二戰(zhàn)后的“長(zhǎng)期和平”需要再持續(xù)一個(gè)世紀(jì)，才能提供戰(zhàn)爭(zhēng)風(fēng)險(xiǎn)進(jìn)入長(zhǎng)期下降趨勢(shì)的基本證據(jù)。布勞莫勒斷言，“在我們的有生之年，發(fā)生殺傷力上超過(guò)兩次世界大戰(zhàn)的另一場(chǎng)戰(zhàn)爭(zhēng)，這并非不可能?！?/p>

既要避免第三次世界大戰(zhàn)的風(fēng)險(xiǎn)，同時(shí)還要在國(guó)際治理方面實(shí)現(xiàn)前所未有的創(chuàng)新，這是一個(gè)很高的要求。但無(wú)論如何，這就是現(xiàn)實(shí)赤裸裸的挑戰(zhàn)。

▍創(chuàng)新求生

在這一艱巨挑戰(zhàn)面前，一個(gè)應(yīng)對(duì)之策是“退縮”。一些人認(rèn)為，如果安全地管理新興技術(shù)是如此困難，那么我們干脆一開始就別發(fā)明它們?！暗乖鲩L(zhǎng)”（degrowth）運(yùn)動(dòng)的成員正是采取這種立場(chǎng)，譴責(zé)經(jīng)濟(jì)增長(zhǎng)和技術(shù)進(jìn)步是人性異化、環(huán)境破壞和各種其他危害的罪魁禍?zhǔn)住?019年，來(lái)自150多個(gè)國(guó)家的11000名科學(xué)家簽署了一封公開信，要求世界人口“穩(wěn)定下來(lái)，最好是逐漸減少”，并要求各國(guó)將其優(yōu)先事項(xiàng)從“GDP增長(zhǎng)”中轉(zhuǎn)移出來(lái)。

盡管這種反應(yīng)具有直觀的吸引力，但它是不現(xiàn)實(shí)的和危險(xiǎn)的。它是不現(xiàn)實(shí)的，因?yàn)樗緵]有考慮到國(guó)際體系中各國(guó)的相互依存關(guān)系。即使世界各國(guó)暫時(shí)聯(lián)合起來(lái)停止創(chuàng)新，遲早也會(huì)有人恢復(fù)對(duì)先進(jìn)技術(shù)的追求。

技術(shù)的停滯不前是不可取的，而新技術(shù)既可以加劇也可以減少風(fēng)險(xiǎn)。一旦引入新的技術(shù)危險(xiǎn)，如核武器，政府可能需要額外的技術(shù)來(lái)管理這種風(fēng)險(xiǎn)。例如，如果在潛在的核冬天，人們能夠在沒有陽(yáng)光的情況下生產(chǎn)食物，或者預(yù)警系統(tǒng)能夠更可靠地區(qū)分洲際彈道導(dǎo)彈和小型科學(xué)火箭，那么核武器對(duì)人類生存構(gòu)成的威脅將大大減少。但是，如果社會(huì)完全停止技術(shù)進(jìn)步，當(dāng)新的技術(shù)威脅出現(xiàn)時(shí)，由于沒有在防御方面取得相應(yīng)的進(jìn)展，我們將無(wú)法遏制這些新威脅。例如，如果人們?cè)谠缙跈z測(cè)和根除新型疾病方面沒有取得很大進(jìn)展時(shí)，我們將手無(wú)寸鐵地面對(duì)各類行為者創(chuàng)造出的前所未有的危險(xiǎn)病原體。

換句話說(shuō)，現(xiàn)在技術(shù)發(fā)展已經(jīng)埋下了大量的地雷。在缺乏防御措施的情況下，僅僅來(lái)自自然界的威脅曾經(jīng)多次可能導(dǎo)致人類的最終滅絕，就像它們對(duì)許多其他物種一樣。為了充分發(fā)揮人類的生存潛力，我們需要學(xué)會(huì)諸如偏轉(zhuǎn)小行星、迅速抵御新的大流行病等新技術(shù)。

我們面臨的挑戰(zhàn)是繼續(xù)收獲技術(shù)進(jìn)步的成果，同時(shí)保護(hù)人類免受其不利影響。一些專家將此稱為“有區(qū)別的技術(shù)發(fā)展”。其想法是，如果人們不能首先防止破壞性技術(shù)或事故的發(fā)生，他們至少可以憑借遠(yuǎn)見和謹(jǐn)慎的計(jì)劃，首先嘗試開發(fā)有益的保護(hù)性技術(shù)。

誠(chéng)如美國(guó)前海軍部長(zhǎng)理查德·丹齊格（Richard Danzig）所言，我們已經(jīng)身處所謂“技術(shù)輪盤賭”的游戲中。還沒有子彈射出，但這并不改變這個(gè)游戲的風(fēng)險(xiǎn)性，未來(lái)還有很多要扣動(dòng)扳機(jī)的輪次，不可能每次都沒有子彈射出。我們需要改變這個(gè)游戲規(guī)則。

▍我們欠未來(lái)的東西

到目前為止，參與或能夠改變游戲規(guī)則的人還不多。相比已形成的復(fù)雜利益網(wǎng)絡(luò)，人類社會(huì)迄今對(duì)未來(lái)的保護(hù)性工作少得令人震驚。例如，《生物武器公約》禁止開發(fā)、儲(chǔ)存和獲取生物武器，被國(guó)家安全專家丹尼爾·格斯坦（Daniel Gerstein）描述為“21世紀(jì)最重要的軍控條約”。但是，該公約缺乏一個(gè)核查機(jī)制，并且其預(yù)算在紐約大都會(huì)藝術(shù)博物館慈善舞會(huì)（Met Gala）等大型晚會(huì)的預(yù)算面前都相形見絀。如果這還不夠滑稽的話，《生物武器公約》甚至還需要額外籌集它本應(yīng)入賬的微薄捐款——該公約主席在2018年的報(bào)告中哀嘆“由于一些締約國(guó)長(zhǎng)期不繳納會(huì)費(fèi)，《生物武器公約》的財(cái)務(wù)狀況岌岌可危且不斷惡化?！?/p>

在非生物風(fēng)險(xiǎn)的管理上，人們也難以獲得信息。在整個(gè)人工智能研究中，針對(duì)失控人工智能系統(tǒng)的研究仍然是微不足道的一部分。軍方正在戰(zhàn)場(chǎng)上使用致命的自動(dòng)化智能武器，而在聯(lián)合國(guó)，限制此類武器系統(tǒng)的外交努力已停滯多年。西方國(guó)家內(nèi)部的情況也好不到哪里去——美國(guó)國(guó)防預(yù)算中只有不到百分之一的資金用于生物防御，而其中大部分用于抵御諸如炭疽病等傳統(tǒng)生物威脅。即使在新冠肺炎疫情全球蔓延的背景下，美國(guó)在蒙受了超過(guò)16萬(wàn)億美元的經(jīng)濟(jì)損失之后，美國(guó)國(guó)會(huì)也不同意提供150億美元來(lái)加強(qiáng)對(duì)大流行病的準(zhǔn)備。

正是應(yīng)對(duì)風(fēng)險(xiǎn)的工作遭到如此忽視，以至于積極改變的機(jī)會(huì)也比比皆是。一個(gè)成功案例是美國(guó)宇航局的“太空衛(wèi)士計(jì)劃”（Spaceguard program）。該項(xiàng)目啟動(dòng)于1998年，科學(xué)家們以每年不到500萬(wàn)美元的成本，追蹤了90%以上的威脅滅絕的小行星。在這個(gè)過(guò)程中，科學(xué)家不斷提高預(yù)測(cè)的準(zhǔn)確性，并將一個(gè)小行星毀滅地球的風(fēng)險(xiǎn)的降低到了十分之一。

如果世界上最善良和最聰明的人能夠站出來(lái)，政府或私營(yíng)部門能夠提供資金，我們完全可以取得更令人印象深刻的成功。例如，通過(guò)對(duì)廢水進(jìn)行廣泛的元基因組測(cè)序，將有助于在很早期發(fā)現(xiàn)、控制并根除病原體。在其他領(lǐng)域也有可能取得進(jìn)展，針對(duì)大規(guī)模風(fēng)險(xiǎn)的已知來(lái)源的情報(bào)收集和分析將至關(guān)重要。盡管我們無(wú)法實(shí)現(xiàn)完全的確定性，但我們可以提前識(shí)別新的問(wèn)題，并著手應(yīng)對(duì)。例如，美國(guó)國(guó)家情報(bào)委員會(huì)最近的《全球趨勢(shì)報(bào)告》中，就開始包含對(duì)“生存風(fēng)險(xiǎn)”相關(guān)概念的討論，呼吁“制定有彈性的生存戰(zhàn)略”。

更多的政府、機(jī)構(gòu)和公司需要認(rèn)真對(duì)待這種想法，而西方國(guó)家的監(jiān)管改革也將非常重要的。在《避免災(zāi)難》（Averting Catastrophe）一書中，白宮監(jiān)管辦公室前負(fù)責(zé)人卡斯·桑斯坦（Cass Sunstein）認(rèn)為，政府目前的成本效益分析方法不能充分考慮到潛在的災(zāi)難性風(fēng)險(xiǎn)。桑斯坦主張所謂的“最大化原則”：在面對(duì)如“人類滅絕”這樣足夠極端的風(fēng)險(xiǎn)時(shí)，政府必須專注于消除最壞的結(jié)果。恰好，白宮目前正在對(duì)其監(jiān)管制度進(jìn)行現(xiàn)代化改革。

福山曾預(yù)言，在“歷史的終結(jié)將是幾個(gè)無(wú)聊的世紀(jì)”，但這種論調(diào)簡(jiǎn)直離現(xiàn)實(shí)相去甚遠(yuǎn)。強(qiáng)大的破壞性技術(shù)對(duì)當(dāng)前的政治體系提出了前所未有的挑戰(zhàn)：先進(jìn)的人工智能可能會(huì)破壞存?zhèn)€人和國(guó)家間的權(quán)力平衡、勞動(dòng)完全自動(dòng)化后資本可能不再有什么理由善待人民、某些政府可以利用第三次世界大戰(zhàn)的前景作為擴(kuò)張理由、生物武器將更加易于獲得。

“未來(lái)可期”不僅是口號(hào)，更是一個(gè)值得奮斗的目標(biāo)。在過(guò)去的三個(gè)世紀(jì)里，西方文化的自由主義轉(zhuǎn)向似乎創(chuàng)造了一個(gè)“道德進(jìn)步的引擎”，而這個(gè)引擎現(xiàn)在不能被關(guān)閉。西方人或許需要在促進(jìn)道德、政治多樣性、社會(huì)實(shí)驗(yàn)方面走得更遠(yuǎn)?；仡檸浊陙?lái)，現(xiàn)代人認(rèn)為羅馬人的奴隸制、以酷刑為娛樂(lè)的做法和極端的宗法制是野蠻的。而我們的后人，如果還有的話，或許也會(huì)認(rèn)為我們目前的許多做法離野蠻差不了多少。思考大規(guī)模的政治變革是令人生畏的，但過(guò)去的治理創(chuàng)新，如聯(lián)合國(guó)系統(tǒng)和歐盟，為我們提供了希望的理由。

西方人不習(xí)慣把自己看作是歷史上的第一代人，反而傾向于關(guān)注從過(guò)去繼承的東西，而不是我們可以留給未來(lái)的東西。這是一個(gè)錯(cuò)誤。為了處理我們面前的任務(wù)，我們必須反思我們?cè)谌祟惙N族中的位置。今天，有人正在魯莽地豪賭，其籌碼不僅是我們和我們孩子的生命，還包括尚未到來(lái)的所有人的生存權(quán)利。如果真要說(shuō)“終結(jié)”，那就讓我們?cè)谶@一代終結(jié)這種豪賭吧。

本文原載“Foreign Affairs”，由文化縱橫新媒體編譯，原題為《歷史的開始：在災(zāi)難性風(fēng)險(xiǎn)的時(shí)代存活下去》。歡迎個(gè)人分享，媒體轉(zhuǎn)載請(qǐng)聯(lián)系本公眾號(hào)。