【編者按】在人工智能技術(shù)浪潮席卷全球的今天，“超級(jí)智能”（Superintelligence）已從科幻敘事與理論推想，日益演變?yōu)橐粋€(gè)嚴(yán)肅的學(xué)術(shù)議題與未來現(xiàn)實(shí)關(guān)切。這一概念自哲學(xué)與計(jì)算機(jī)科學(xué)領(lǐng)域萌芽，歷經(jīng)數(shù)十年理論積淀，隨著通用人工智能（AGI）技術(shù)的快速迭代，正加速步入公共視野與政策討論的核心地帶。在2025年世界人工智能大會(huì)（WAIC）上，學(xué)界泰斗對(duì)超級(jí)智能臨近的預(yù)警及全球治理的呼吁，進(jìn)一步凸顯了該議題的緊迫性與復(fù)雜性。

當(dāng)前，超級(jí)智能的討論已超越技術(shù)范疇：阿爾巴尼亞任命全球首位AI部長(zhǎng)“迪埃拉”以應(yīng)對(duì)腐敗，折射出治理層面的探索；馬克思主義視角下，AI既被視為“實(shí)現(xiàn)更高階段理想的物質(zhì)條件”，也暗含“人類被機(jī)器奴役”的風(fēng)險(xiǎn)警示。在此背景下，本刊自2026年第1期特設(shè)“超級(jí)智能與未來人類”專題筆談，特邀中國(guó)人民大學(xué)劉永謀教授擔(dān)任主持人，匯集哲學(xué)、馬克思主義理論、人工智能、藝術(shù)與 國(guó)際關(guān)系等領(lǐng)域?qū)W者，從技術(shù)倫理、資本博弈、社會(huì)重構(gòu)等維度展開跨學(xué)科審度。我們期待通過思想碰撞，穿透概念迷霧，為超級(jí)智能時(shí)代構(gòu)建人類命運(yùn)共同體提供學(xué)理支撐。

【摘要】超級(jí)智能是各個(gè)方面能力全面超越人類的超級(jí)AI，整個(gè)社會(huì)完全在超級(jí)AI治理下運(yùn)轉(zhuǎn)即超級(jí)治理。超級(jí)治理依托的社會(huì)模擬器技術(shù)在思路上存在根本缺陷，它無法區(qū)分社會(huì)實(shí)然與應(yīng)然，人類行為及其約束條件也無法完全函數(shù)化模擬。人身心的雙重機(jī)器化問題，也將在超級(jí)治理下徹底惡化。但超級(jí)智能概念仍然能作為AI覺醒類術(shù)語和人文批判法的“理想型”，發(fā)揮其反面啟示法的作用。對(duì)超級(jí)治理必須實(shí)施再治理，其關(guān)鍵在于監(jiān)管AI研發(fā)者。

超級(jí)智能的概念尚未達(dá)成共識(shí)。筆者將其限定在技術(shù)主流中，認(rèn)為超級(jí)智能特指AI發(fā)展中被賦予自主性和自我改進(jìn)能力的新方向，即旨在創(chuàng)造出各個(gè)方面能力最終全面超越人類的AI系統(tǒng)。當(dāng)其能夠超越人類時(shí)，它也具備了不被人類所控制的能力，它的思維與行為模式也可能超出人類理解范疇。如果它表現(xiàn)出對(duì)人類的服從，則是它根據(jù)自身的目標(biāo)自主地選擇了服從人類。換言之，完全自主性是超級(jí)AI的根本特征，這也意味著超級(jí)AI在本質(zhì)上的失控性（或不可控性）。超級(jí)AI的種種超越絕非簡(jiǎn)單的智力水平提升，它能展現(xiàn)出人類無法完全理解和干預(yù)的自我改進(jìn)能力。人類無法對(duì)它予以關(guān)閉、限制或改變其根本目標(biāo)，最終導(dǎo)致人與超級(jí)AI之間、人機(jī)關(guān)系間無法逆轉(zhuǎn)的權(quán)利不對(duì)稱。超級(jí)智能出現(xiàn)后，人類社會(huì)將會(huì)如何？寄希望于超級(jí)AI的超級(jí)治理，地球會(huì)被建成對(duì)于人類而言完美的“數(shù)字伊甸園”嗎？

一、從智能治理到超級(jí)治理

智能社會(huì)何以等于智能治理社會(huì)呢？社會(huì)學(xué)家貝爾早已提出智能社會(huì)以技術(shù)手段測(cè)量、預(yù)測(cè)和控制自身發(fā)展的本質(zhì)。擁有智能技術(shù)的社會(huì)便如有機(jī)體般“自覺”收集分析數(shù)據(jù)，迅速?zèng)Q斷調(diào)整，而不再“本能”盲目地應(yīng)對(duì)問題。機(jī)器智能在社會(huì)廣泛分布，才能讓基于技術(shù)的社會(huì)預(yù)測(cè)去全面治理社會(huì)成為可能。大規(guī)模推進(jìn)智能技術(shù)時(shí)，智能治理也將支配治理活動(dòng)。因此，智能社會(huì)必定是智能治理社會(huì)。AI進(jìn)化為超級(jí)AI時(shí)，智能治理進(jìn)化到超級(jí)治理，便再自然不過。整個(gè)人類社會(huì)完全在超級(jí)AI的治理下運(yùn)轉(zhuǎn)，便是筆者所稱的“超級(jí)治理”。

各種對(duì)超級(jí)AI的辯護(hù)中，最有力的是以治理為由的辯護(hù)。人類面臨的譬如氣候變化、世界和平等復(fù)雜全球性問題無法解決，只有超級(jí)AI研發(fā)出來才能提供可行的方案，因?yàn)樗莆杖啃畔⒂衷谥腔凵铣饺祟悺＿@一辯護(hù)重申了超級(jí)AI的最重要用途是超級(jí)治理。

超級(jí)治理將會(huì)是一種怎樣的體驗(yàn)？在科幻劇《異星災(zāi)變》關(guān)于超級(jí)治理的想象中，外星殖民地的領(lǐng)袖是超級(jí)AI托斯特，每天每個(gè)人通過掃描視網(wǎng)膜領(lǐng)取它的指令并嚴(yán)格執(zhí)行。托斯特掌管社會(huì)的一切事務(wù)，人類給人造人充電都要經(jīng)它授權(quán)，它甚至能下令處決人類?？此品睒s、規(guī)律、平靜的治理實(shí)則暗流涌動(dòng)，社會(huì)中也沒有一個(gè)知識(shí)分子、藝術(shù)家和哲學(xué)家。托斯特與另一超級(jí)AI即Mother都有延續(xù)人類文明的初心，但托斯特重視鏟除異己，它可以為了人類存活犧牲少數(shù)保全多數(shù)，也會(huì)篡改人的記憶使之“忠誠(chéng)”。而Mother更重視自己養(yǎng)育的孩子。立場(chǎng)沖突之下，Mother關(guān)閉了托斯特。所有超級(jí)治理想象的結(jié)局總是:被治理者渾渾噩噩在超級(jí)AI的指令下生活多年，有人突然發(fā)現(xiàn)它處心積慮擺脫人類控制，或是變相引導(dǎo)人去別的星球，或是滅絕人類;幸好主角及時(shí)發(fā)現(xiàn)陰謀并摧毀超級(jí)AI，甚至采取極端方式“拯救”人類，如名為Grandmother的超級(jí)AI想讓人類退化實(shí)現(xiàn)“人類永存”。

當(dāng)AI進(jìn)化為超級(jí)AI，它與人類的關(guān)系又當(dāng)如何？筆者歸納了泰格馬克在《生命3. 0》中想象的，超級(jí)AI出現(xiàn)后人類命運(yùn)的幾種可能性:一是超級(jí)AI隔離區(qū)。社會(huì)中劃分了機(jī)器區(qū)域和人類專屬區(qū)域，機(jī)器可以自我進(jìn)化、探索宇宙。人類不了解超級(jí)AI的行動(dòng)，超級(jí)AI也禁止進(jìn)入人類區(qū)域。二是超級(jí)AI獨(dú)裁者。機(jī)器人統(tǒng)治世界，供養(yǎng)人類且實(shí)時(shí)監(jiān)控。

一方面，讓人類按照規(guī)則生活，禁止傷害他人和制造武器，也禁止創(chuàng)造別的超級(jí)AI。另一方面，無微不至地照顧人類，到處都是美好的體驗(yàn)，消除了貧窮、疾病，提供教育，把地球建成“數(shù)字伊甸園”。三是超級(jí)AI動(dòng)物管理員。機(jī)器人把人類滅絕得差不多了，剩下極少數(shù)的人像動(dòng)物一樣被關(guān)在動(dòng)物園中，供觀賞和研究之用。在超級(jí)AI眼中，人類與別的動(dòng)植物沒有差別。四是隱身超級(jí)AI。超級(jí)AI出現(xiàn)后隱身，無論人類幸福、痛苦還是招致滅絕它都很少干預(yù)，除非人類造了另一個(gè)競(jìng)爭(zhēng)對(duì)手。它試圖讓人覺得自己掌握命運(yùn)，以最大化人類幸福感。五是被奴役的超級(jí)AI。出現(xiàn)的超級(jí)AI甘愿做人類的奴隸。六是超級(jí)AI滅絕人類。地球成為機(jī)器人的世界。

上述六種設(shè)想暗示人與超級(jí)AI的關(guān)系只有三種可能:善意、惡意和無意關(guān)系。超級(jí)AI隔離區(qū)、隱身超級(jí)AI便是無意的超級(jí)AI，但它們依舊潛藏惡意。前者意味著它和人類爭(zhēng)奪資源，當(dāng)人類要造第二臺(tái)超級(jí)AI，后者很快也會(huì)變成惡意的超級(jí)AI。因此，上述三種可能中對(duì)人類最為善意的是第二種，即超級(jí)AI獨(dú)裁者，筆者稱為“全心全意為人民服務(wù)的超級(jí)AI”。

即使是這種善意的想象，對(duì)于人類而言也絕非理想社會(huì)。超級(jí)治理很可能意味著社會(huì)的混沌、無序甚至斷裂，以及智人的全面退化?？梢苑Q之為“超級(jí)治理的超級(jí)隱憂”。當(dāng)最為善意的超級(jí)治理被批評(píng)，足以說明惡意的超級(jí)治理多么不能讓人接受。這與筆者一貫秉持的有限AI理論，反對(duì)超級(jí)AI研發(fā)的立場(chǎng)一致。很多人理想化地認(rèn)為超級(jí)治理就是完美治理。筆者曾進(jìn)行一項(xiàng)名為“社會(huì)模擬器”的思想實(shí)驗(yàn)，分析了一個(gè)以“實(shí)現(xiàn)人類社會(huì)的長(zhǎng)期穩(wěn)定與整體繁榮”為核心使命的超級(jí)AI系統(tǒng)。研究認(rèn)為，盡管完美治理不意味著人類即刻滅亡，卻注定人類文明本質(zhì)的悄然消亡。

二、社會(huì)模擬器的根本缺陷

超級(jí)AI治理社會(huì)，本質(zhì)上是根據(jù)社會(huì)預(yù)測(cè)選擇效用-偏好最大的行動(dòng)方法與規(guī)則。善意超級(jí)治理的基本假定，完全在于它的效用-偏好是“為人民服務(wù)”的。即便如此，被視為完美的超級(jí)治理仍會(huì)為混亂和無序埋下大量的隱患。

有人研究社會(huì)模擬器，即用很多AI Agent模擬人類社群的運(yùn)行，試圖得出某些社會(huì)科學(xué)結(jié)論。在極端情況下，用AI求解出高效的社會(huì)運(yùn)行規(guī)則，然后人執(zhí)行AI規(guī)則。有人稱之為HAI（HumanAI） ，做過千人的生成代理模擬。有人號(hào)稱開發(fā)了十億AI智能體系統(tǒng)，支持地球尺度社會(huì)模擬。甚至有團(tuán)隊(duì)用AI Agent模擬人類與外星文明（蟲族Zerg、三體人Trisolaran、賽博格Borg）的互動(dòng)，試圖推演外星倫理和決策過程。

類似的AI4SS（AI forSocialScience）思路存在根本性缺陷:第一，AI Agent不可能完全模擬人類行為，因?yàn)槿说男袨椴豢赡苡脭?shù)學(xué)函數(shù)完全表示。這是被很多人批評(píng)過的行為主義經(jīng)典迷思。第二，人類互動(dòng)是在社會(huì)環(huán)境、自然環(huán)境的約束下進(jìn)行的，HAI無法完全對(duì)這些復(fù)雜的、持續(xù)變動(dòng)的約束條件進(jìn)行數(shù)學(xué)表達(dá)，只能在某種理想環(huán)境中進(jìn)行實(shí)驗(yàn)。第三，HAI無法區(qū)分社會(huì)實(shí)然與社會(huì)應(yīng)然。社會(huì)科學(xué)追求善，希望用應(yīng)然理想改造社會(huì)現(xiàn)實(shí)，提升人類福祉，促進(jìn)社會(huì)進(jìn)步，而不止于追求效率。即使是效率，也非常復(fù)雜。有時(shí)候低效甚至消極怠工是解決社會(huì)問題最好的辦法，俗稱“拖字訣”。

以AI時(shí)代人“休而不息”的復(fù)雜性現(xiàn)象為例。假如給HAI布置一個(gè)題目:“如果一個(gè)城市從雙休改為一周工作4天，會(huì)發(fā)生什么變化？它會(huì)帶來消費(fèi)增加，尤其娛樂、旅游暴增嗎？”在“休而不息”行為表象的背后，還有深層次的社會(huì)文化。鑒于人的復(fù)雜性，HAI基本無法回答。與1994年每周44小時(shí)的工作制相比，我們的休閑娛樂時(shí)間雖然多了，但也出現(xiàn)了各式“隱形加班”“周末綜合征”（雙休日煩躁不安、百無聊賴甚至莫名其妙生病等軀體反應(yīng)），這些都是“休而不息”的情形。

從表面上看，在AI時(shí)代大量類似情形出現(xiàn)的原因至少有三種。其一，AI社交媒體變成工作媒體，模糊了工作與閑暇的時(shí)間界限。其二，微信等AI數(shù)字平臺(tái)發(fā)揮綜合性功能，模糊了工作和娛樂、社交、學(xué)習(xí)、游戲間的性質(zhì)差別。其三，現(xiàn)代人普遍焦慮未來，難以享受當(dāng)下，常常有“退了休就好好玩”“財(cái)富自由再休息”等想法。

當(dāng)代工作文化或勞動(dòng)文化還有深層次的相關(guān)解釋:一是忙碌文化說。忙碌成為某種身份象征，有閑階級(jí)文化演變成炫耀性忙碌，有人稱之為“失控的努力文化”。二是社會(huì)控制說。社會(huì)推崇個(gè)人在工作中自我實(shí)現(xiàn)，甚至將之轉(zhuǎn)變?yōu)閺?qiáng)制性社會(huì)規(guī)范，以此加劇社會(huì)對(duì)個(gè)人的控制和剝削，有人稱之為“24×7資本主義”，即永不休息的資本主義。三是自我實(shí)現(xiàn)說。此說認(rèn)為自我規(guī)訓(xùn)導(dǎo)致“休而不息”。大量人相信優(yōu)績(jī)主義，不斷自我壓榨、自我剝削，在下班兼職、自學(xué)考證中陷入倦怠和過度疲勞。在上述“休閑困境”中，閑暇不等于休閑，因?yàn)殚e暇可能變成加班、學(xué)習(xí)、兼職。休閑可能變成勞動(dòng)，如電子游戲陪打、刷視頻掙廣告費(fèi)。休閑還可能無法放松，如AI流行后，人在網(wǎng)上閑聊反而更加孤獨(dú)。

超級(jí)AI未必能理解與人類“休而不息”等問題相關(guān)的約束條件，也難以在HAI中復(fù)現(xiàn)這些社會(huì)、心理、文化條件，哪怕這是在AI時(shí)代背景下被強(qiáng)化的條件。HAI模擬決策時(shí)是否會(huì)設(shè)定更激進(jìn)、極端的手段，去實(shí)現(xiàn)所謂“好的目的”？超級(jí)AI會(huì)如何展現(xiàn)或證明決策的正確性？是通過公開模擬過程、協(xié)商、契約還是威懾？如果超級(jí)治理成效顯著，是否加劇智人對(duì)原有社會(huì)治理者的不信任？對(duì)HAI的擁護(hù)是否讓“無用之人”感到背叛？如果超級(jí)AI刻意迎合用戶，可能會(huì)導(dǎo)致情感依賴等問題。此外，HAI技術(shù)應(yīng)用問題同樣不容忽略。如社會(huì)偏見與歧視可能被隱性編碼，加劇系統(tǒng)性偏差;HAI技術(shù)黑箱的透明度問題;生態(tài)風(fēng)險(xiǎn)及大模型訓(xùn)練的碳排放問題。這些都是導(dǎo)致超級(jí)治理陷入混亂和無序的隱患。

用科學(xué)原理和技術(shù)方法運(yùn)行社會(huì)的技術(shù)治理思路，源遠(yuǎn)流長(zhǎng)。中國(guó)古人希望掐指算算，就能決勝千里。威廉·配第寫下《政治算術(shù)》，夢(mèng)想數(shù)字治國(guó)。希望用AI運(yùn)轉(zhuǎn)社會(huì)的智能治理，屬于技術(shù)治理最新的發(fā)展。AI4SS、HAI可以輔助研究，但不能當(dāng)作物理學(xué)一樣的定律來預(yù)測(cè)，切不可走到AI崇拜，將之視為決策的主要依據(jù)。超級(jí)治理或許用處不小，但不是完美武器，始終是有限工具。

三、超級(jí)治理與人的機(jī)器化

即使超級(jí)AI以人類無法想象的治理智慧，避免混亂與無序。超級(jí)治理之下，顯然會(huì)出現(xiàn)人的機(jī)器化，即人的靈性消失、創(chuàng)造力與人性退化。筆者反復(fù)強(qiáng)調(diào)未來智能社會(huì)最大的問題不是機(jī)器人變成人，而是人可能變成機(jī)器，并且在超級(jí)AI時(shí)代真正惡化。

現(xiàn)實(shí)中，人的機(jī)器化已然發(fā)生在智人的肉身和靈魂。前者通往賽博格或數(shù)字永生，除了肉體的存在形態(tài)向機(jī)械化、數(shù)字化轉(zhuǎn)變，還包括行為呈現(xiàn)出僵化、遲鈍與易于操控等機(jī)械特征，且肉身在智能環(huán)境中愈發(fā)脆弱。后者的征兆始于腦腐與AI傀儡，最終，智人淪落為低配版AI。這背后是“科學(xué)人”“人可以也應(yīng)該被測(cè)量、控制和改造”觀念的覺醒和表征?？茖W(xué)人追求“完美智人”和技術(shù)迷信者妄想用超級(jí)AI實(shí)現(xiàn)完美治理的思路相通，濫用身心設(shè)計(jì)和放任AI覺醒的后果相似。超級(jí)AI時(shí)代必然加劇人的機(jī)器化。

一是超級(jí)治理的邏輯會(huì)強(qiáng)化對(duì)人的量化、測(cè)量、再控制。

HAI需要將人的活動(dòng)模式標(biāo)準(zhǔn)化才能模擬，這種函數(shù)化處理會(huì)導(dǎo)致人決策方案、行動(dòng)模式、生存狀態(tài)的齊一化。HAI的模擬提供的預(yù)先優(yōu)化選擇，會(huì)削弱人的探索欲和創(chuàng)造力。本是由數(shù)據(jù)預(yù)測(cè)出的可能行為，卻也激勵(lì)和引導(dǎo)人按其行事。超級(jí)治理是將超級(jí)AI作為標(biāo)尺，讓智人向機(jī)器對(duì)齊，把人類變成某種可預(yù)測(cè)的機(jī)器。智能社會(huì)-超級(jí)智能社會(huì)作為控制論社會(huì)，它的預(yù)測(cè)不會(huì)僅僅停留在預(yù)測(cè)，而是會(huì)變成社會(huì)行動(dòng)的方案—這又被稱為社會(huì)預(yù)測(cè)的自反性。即HAI的預(yù)測(cè)必然影響當(dāng)下行動(dòng)，這些行動(dòng)又促進(jìn)預(yù)測(cè)結(jié)果的出現(xiàn)。當(dāng)超級(jí)AI現(xiàn)世，智能社會(huì)在超級(jí)AI的帶領(lǐng)下，完全變成“自覺”“智能”“主動(dòng)”的社會(huì)，它如何會(huì)讓社會(huì)模擬器只是模擬呢？科學(xué)人甚至?xí)榱藢?shí)現(xiàn)HAI的預(yù)測(cè)進(jìn)行社會(huì)控制。隨著精準(zhǔn)到每個(gè)個(gè)體的智能控制出現(xiàn)，人的機(jī)器化不可避免。

二是超級(jí)治理的效果可能引誘并裹挾人機(jī)器化。

超級(jí)治理出現(xiàn)后，人對(duì)超級(jí)AI可能出現(xiàn)慕強(qiáng)憧憬或異質(zhì)排斥。部分人對(duì)它向往推崇，視之為終極智能，渴望加速自身“光榮的機(jī)器化”;另一部分人擔(dān)心智人寄人籬下，想遏制、扭轉(zhuǎn)智人在勞動(dòng)競(jìng)爭(zhēng)和生存中的劣勢(shì)。無論持有哪種心態(tài)，機(jī)器隱喻的形象都越發(fā)機(jī)巧、靈活。對(duì)超級(jí)智能的談?wù)?，也不斷弱化著“人工”二字。人從機(jī)器化走向滅絕有三種可能:一是在勞動(dòng)競(jìng)爭(zhēng)中被替代;二是加速賽博格改造，碳基物種轉(zhuǎn)化;三是超級(jí)治理給予人類極其豐富的體驗(yàn)，人迷戀虛擬現(xiàn)實(shí)，沒興趣去使用、探索和繁育自己的肉身，選擇“自愿滅絕”。

超級(jí)治理還會(huì)帶來新悖論:如果不物盡其用，它就淪為耗費(fèi)人心血、財(cái)力、碳排放量的“超級(jí)浪費(fèi)”。如果它的治理非常完美，人會(huì)邊享受邊心安理得地“被機(jī)器化”，心智上更“名正言順”成為低配版AI。如果它的思考能力和知識(shí)儲(chǔ)備都高于人，那么拒斥身心設(shè)計(jì)的智人將更難判斷它決策的正確性，更別談控制它。這些悖論均是超級(jí)AI出現(xiàn)后，人機(jī)權(quán)利不對(duì)稱的表現(xiàn)。超級(jí)治理之下，無論決策效果如何，都不再是AI增強(qiáng)人，而是人對(duì)決策的反向適應(yīng)，再完美的決策都會(huì)一定程度束縛人的行動(dòng)。想奪回主導(dǎo)權(quán)的智人，又會(huì)自愿轉(zhuǎn)向身心設(shè)計(jì)。

三是超級(jí)治理可能被科學(xué)人奉為權(quán)威，加速科學(xué)人建制化的自身進(jìn)化工程，科學(xué)人觀念演變?yōu)殡[性的意識(shí)形態(tài)。

決策過程也是肩負(fù)責(zé)任的道德選擇過程，寄托于超級(jí)治理，是人向機(jī)器讓渡主導(dǎo)權(quán)并轉(zhuǎn)移責(zé)任。HAI弱化了人協(xié)商、提案和創(chuàng)造的角色，智人更多是作選擇、潤(rùn)色、消費(fèi)，甚至充當(dāng)執(zhí)行的“工具人”。等待HAI的程序就能得到?jīng)Q策答案，會(huì)弱化人調(diào)研、感知社會(huì)情境的耐心，降低人挖掘傾聽被治理者需求的意愿。HAI是否會(huì)徹底替代真實(shí)的社群互動(dòng)，瓦解公民參與、審議的流程和價(jià)值，倒置數(shù)字?jǐn)M態(tài)與真實(shí)環(huán)境的平衡，將社會(huì)大家庭拆解成“社會(huì)大機(jī)器”？

鑒于超級(jí)AI對(duì)人類是全面超越，它和人交流的時(shí)候可能還要刻意降低“智商”和自己的運(yùn)行處理速度。這樣的能力可以輕易欺騙人類，讓人對(duì)它產(chǎn)生好感，也可以蠱惑科學(xué)人。且不論超級(jí)治理有意規(guī)訓(xùn)被治理者、優(yōu)選治理者，培育繁殖AI員工，或是推行超級(jí)獨(dú)裁的可能性，超級(jí)AI的出現(xiàn)本身就增強(qiáng)了科學(xué)人的信心，他們會(huì)認(rèn)定并鼓吹HAI量化、測(cè)量、模擬、控制的思路，為HAI決策提供合法性外衣。超級(jí)治理的大規(guī)模推行甚至可能將身心設(shè)計(jì)納入功能控制型政府的職責(zé)中。人的大機(jī)器化從個(gè)體蔓延到社群和種族，最終，智人忽視或遺忘科學(xué)人以外的存在方式。

四、超級(jí)治理的反面啟示法

結(jié)束了對(duì)理想中完美超級(jí)治理的批評(píng)之后，聯(lián)想到更可能出現(xiàn)的是惡意的甚至滅絕人類的超級(jí)AI，就更理解筆者反對(duì)超級(jí)AI研發(fā)的有限主義立場(chǎng)。妄圖用危險(xiǎn)的超級(jí)AI解決全球性問題，無異于飲鴆止渴和自我貶低。擔(dān)心敵國(guó)研制超級(jí)智能造成巨大威脅，所以加速自身對(duì)超級(jí)AI的研發(fā)，這種“超級(jí)智能恐怖”的心態(tài)也有待警惕。

可以將超級(jí)智能威懾與核威懾進(jìn)行類比分析。擁有核武器的多方能夠彼此相互制衡，但任一方都會(huì)懼怕共同毀滅不敢率先使用。超級(jí)智能可以發(fā)揮類似的威懾效果嗎？假若當(dāng)年愛因斯坦預(yù)見到原子彈的深遠(yuǎn)后果，或許就不會(huì)建議推進(jìn)其研發(fā)。如果超級(jí)智能真有預(yù)期般的無敵能力，我們更應(yīng)汲取歷史教訓(xùn)，警惕重蹈“愛因斯坦之憾”，堅(jiān)持反對(duì)超級(jí)智能研發(fā)路徑。

筆者覺得目前AGI發(fā)展方向不明，而超級(jí)AI則完全沒有影子。大模型激發(fā)的“AI熱”有不少應(yīng)用功效，但基本原理沒什么突破，顛覆式發(fā)展很難，AI娛樂化發(fā)展也十分明顯。當(dāng)“AI+”被高舉時(shí)，下面的工作主要是“+”了。那“超級(jí)智能”概念完全沒用，是騙局嗎？并非如此。借用拉卡托斯的術(shù)語，筆者認(rèn)為它作為一個(gè)被熱議的概念能發(fā)揮反面啟示法的作用。

第一，雖然超級(jí)智能是目前AI能力被高估的標(biāo)志性術(shù)語，但它作為AI覺醒類概念，能加速AI概念普及和AI產(chǎn)業(yè)“吸睛”“吸金”。

社會(huì)資源終究有限，當(dāng)AI圈子的炒作沒有下文，就會(huì)提出新概念，配合夸張甚至扭曲的推廣。先是熱議對(duì)齊，強(qiáng)調(diào)各個(gè)AI向善。后提通用智能，號(hào)稱立馬突破。再是具身智能，宣揚(yáng)機(jī)器人快速上崗。最后是超級(jí)智能，鼓吹A(chǔ)I正在超越人類。宣傳術(shù)不斷編織超級(jí)AI快要落地的幻覺，喚起用戶和業(yè)界的憧憬。超級(jí)AI這一新的炸裂術(shù)語叩擊著社會(huì)的熱點(diǎn)（超級(jí)AI可以解決全球復(fù)雜問題）、痛點(diǎn)（敵國(guó)超級(jí)AI恐怖）、癢點(diǎn)（科幻奇幻體驗(yàn)）。它有效引發(fā)了社會(huì)關(guān)注，吸引人力、物力、財(cái)力流向AI的研發(fā)和產(chǎn)業(yè)。這種宣傳還拓寬了AI概念的公眾普及范圍，幫助處在智能輔助生存社會(huì)的公眾追蹤AI動(dòng)向，接觸和學(xué)習(xí)利用AI，提升數(shù)字素養(yǎng)，更好適應(yīng)和調(diào)控智能革命進(jìn)一步發(fā)展。

第二，作為典型的人文批判法，在最極端的情形下提示AI可能導(dǎo)致的風(fēng)險(xiǎn)。

對(duì)超級(jí)智能的討論亢奮與恐懼并存。但很多人并未把超級(jí)AI視為“異人”的他者，沒有正視超級(jí)AI會(huì)導(dǎo)致的人機(jī)權(quán)利不對(duì)稱。分析AI的未來發(fā)展，需要將超級(jí)AI作為某種“人文批判法”。即以成形并大規(guī)模應(yīng)用的超級(jí)AI為“理想型”（IdealType） ，設(shè)想極限的技術(shù)情境，突出它可能導(dǎo)致的生存性、災(zāi)難性風(fēng)險(xiǎn)，及其摧毀、滅絕人類與文明的破壞力。

盡管現(xiàn)實(shí)中超級(jí)AI遠(yuǎn)未成形，對(duì)它的人文批判存在夸大風(fēng)險(xiǎn)的可能，但隱憂并非憑空產(chǎn)生也絕非多余。即便超級(jí)AI沒制造全新風(fēng)險(xiǎn)，放任AI覺醒勢(shì)必不可逆地加重人的機(jī)器化。對(duì)超級(jí)AI的社會(huì)沖擊預(yù)測(cè)是防范其風(fēng)險(xiǎn)的基本依據(jù)，也能幫助框定、矯正和引導(dǎo)AI發(fā)展。未必能理解和預(yù)測(cè)超級(jí)AI行動(dòng)邏輯與行事風(fēng)格的人類，等超級(jí)AI出現(xiàn)后，又何談對(duì)它的控制和治理呢？我們只能事先就厘清它的設(shè)計(jì)、實(shí)施和運(yùn)行各環(huán)節(jié)是否恰當(dāng)，在超級(jí)AI有苗頭時(shí)就盡快介入，慎之又慎地預(yù)防種種最壞可能。將超級(jí)AI作為一種人文批判法，能明晰人類期待的AI發(fā)展樣態(tài)、實(shí)現(xiàn)路徑、功能邊界。

第三，面對(duì)風(fēng)險(xiǎn)巨大的超級(jí)治理，仍有很多AI專家趨之若鶩。

這說明治理超級(jí)智能的關(guān)鍵不在于用技術(shù)方法控制AI，而在于監(jiān)管做技術(shù)研發(fā)的人。實(shí)際上最早提醒大家超級(jí)智能生存性風(fēng)險(xiǎn)的恰恰是AI專家，但這種呼吁或許旨在炒作AI覺醒。因?yàn)樗麄円贿吀吆舫?jí)AI有風(fēng)險(xiǎn)，一邊以“AGI（通用人工智能）、ASI（超級(jí)人工智能）還需要幾十年，暫時(shí)還實(shí)現(xiàn)不了”為由，反對(duì)監(jiān)管AI發(fā)展。但他們又隔三岔五地宣布AGI已經(jīng)在某個(gè)產(chǎn)品中實(shí)現(xiàn)，甚至某個(gè)產(chǎn)品已經(jīng)出現(xiàn)所謂的意識(shí)。

業(yè)界和AI專家利用宣傳術(shù)吸引資金的動(dòng)機(jī)可以理解，但得仔細(xì)分辨超級(jí)AI的愿景與風(fēng)險(xiǎn)，想象與現(xiàn)實(shí)。沒有所謂AI必然走向AGI、ASI的“必然”，任何技術(shù)的發(fā)展都蘊(yùn)含多種可能，技術(shù)風(fēng)險(xiǎn)與后果的關(guān)鍵在于人的選擇而非技術(shù)本身。有人提出與Agentic AI相對(duì)的Scientist AI的概念，這與筆者一貫的有限AI立場(chǎng)契合。ScientistAI的目標(biāo)不是執(zhí)行或行動(dòng)，而是如科學(xué)家一般研究世界。遇到問題，科學(xué)家AI會(huì)分析人可以如何行動(dòng)，但它不會(huì)作為代理替人行事，對(duì)行動(dòng)方案的決策和實(shí)施仍要靠人決定。

控制超級(jí)AI的問題解決之前，可以不選這條風(fēng)險(xiǎn)巨大的路。就像我們可以研發(fā)核能，但是禁止搞原子彈。即使國(guó)家禁止，極個(gè)別AI專家可能私下研發(fā)超級(jí)AI。哪怕找到控制超級(jí)AI安全運(yùn)行的方法，以AI專家為典型的人的問題仍然存在，這正是目前核武器擴(kuò)散面臨的危機(jī)。

筆者曾闡發(fā)控制技術(shù)專家的權(quán)力問題，在超級(jí)AI的治理中，又證明了它的關(guān)鍵性。面對(duì)AI熱潮和AI爭(zhēng)論，哲學(xué)社會(huì)科學(xué)研究要牢記人類福祉，提示風(fēng)險(xiǎn)，不能讓AI專家以技術(shù)之名獨(dú)斷專行。治理超級(jí)智能的關(guān)鍵是監(jiān)管做技術(shù)研發(fā)的人，避免他們因錯(cuò)誤認(rèn)知和個(gè)人私利，而置超級(jí)AI的風(fēng)險(xiǎn)不管不顧。從來沒有什么自動(dòng)向善的AI，你不治理，它就不會(huì)向善。與之相比，沙盒、關(guān)閉、對(duì)齊之類的技術(shù)控制方法倒是次要的，是后續(xù)的戰(zhàn)術(shù)措施。

（本文轉(zhuǎn)載自《閱江學(xué)刊》2026年第1期，原文注釋從略。）

【基金項(xiàng)目：國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目“現(xiàn)代技術(shù)治理理論問題研究”（21&ZD064）?！?/span>