新一代人工智能（以下簡稱“機(jī)器智能”）技術(shù)正在以前所未有的方式進(jìn)入人類的生產(chǎn)和生活。與傳統(tǒng)意義上被動地執(zhí)行人類指令的工具型技術(shù)不同，機(jī)器智能（尤其是大型語言模型、算法型決策系統(tǒng)等）不僅具備語言理解、信息整合、判斷生成、作品產(chǎn)出等能力，還通過人類對這些能力的運(yùn)用和不斷創(chuàng)新，多路徑地參與人類社會的核心領(lǐng)域。這種參與不僅快速改變了人類的生產(chǎn)與生活，也從基礎(chǔ)上改變了社會的構(gòu)成，把純粹的人類社會轉(zhuǎn)變?yōu)槿藱C(jī)互生的人機(jī)社會，并重塑了治理模式。治理人機(jī)社會不僅需要創(chuàng)新治理技術(shù)，更需要創(chuàng)新治理理念，面向由人類與技術(shù)互動互生形成的人機(jī)社會生態(tài)系統(tǒng)。

人類社會已然轉(zhuǎn)變?yōu)槿藱C(jī)社會

在個體層次上，機(jī)器智能已深度介入人類的社會交往。機(jī)器智能使社會交往出現(xiàn)了一個革命性拐點(diǎn)：從以機(jī)器為中介的交往轉(zhuǎn)變?yōu)橐詸C(jī)器為對象的交往。事實(shí)上，數(shù)智社交平臺的推薦機(jī)制不僅影響人們看到什么，還塑造著人們的政治立場、社會認(rèn)同乃至情感波動或轉(zhuǎn)變。

在組織層次上，機(jī)器智能已然從信息處理的工具演變?yōu)榻M織機(jī)制的有機(jī)節(jié)點(diǎn)。隨著逐步被納入教育、健康、金融、軍事等關(guān)鍵領(lǐng)域的組織機(jī)制、決策流程和行動環(huán)節(jié)，機(jī)器智能在組織中的角色深度影響著人類從行動者能力拓展到權(quán)力結(jié)構(gòu)組成的各個方面。機(jī)器智能已不僅僅是服務(wù)性的技術(shù)，還成為組織機(jī)制的有機(jī)節(jié)點(diǎn)，且已深深嵌入組織權(quán)力運(yùn)作。

在社會層次上，機(jī)器智能的參與也已然或正在廣泛地改變個體的行為模式、社會的運(yùn)行方式與制度的運(yùn)作邏輯。機(jī)器不再只是工具性嵌入社會，其行動結(jié)果已然被直接納入社會考量，其行動邏輯也被擬人化，成為社會秩序的一個組成部分。從個體、組織再到社會，機(jī)器智能的介入雖然在形式上依然是中介，卻已不是只被動地執(zhí)行人類指令，而是還會主動參與人類指令的生成，有建議和產(chǎn)出，還能由指令生成媒介化的現(xiàn)實(shí)，進(jìn)而成為與人類類似的互動對象以及社會現(xiàn)實(shí)的有機(jī)組成部分。

不僅如此，人類與機(jī)器的互動也從傳統(tǒng)的體力類型轉(zhuǎn)向體力與腦力的交互并在。這一轉(zhuǎn)變意味著人類與機(jī)器關(guān)系的本質(zhì)性轉(zhuǎn)變，機(jī)器對社會生產(chǎn)與生活的介入和作為準(zhǔn)行動者的存在已經(jīng)是不爭的事實(shí)，人類社會已然轉(zhuǎn)變?yōu)槿藱C(jī)社會。從人類主體性的視角看，人類與機(jī)器智能雖然都產(chǎn)生社會影響，但兩者在行動目標(biāo)、價值取向、倫理判斷等諸多議題上的差異依然是本質(zhì)性的。一方面，人類具有自由意志和自主權(quán)力，還具有目的設(shè)定與意義賦予的能力；另一方面，盡管對人工智能未來是否會發(fā)展出自由意志與自主權(quán)力存在爭議，但至少在目前，機(jī)器智能還在依據(jù)人類設(shè)定的參數(shù)與目標(biāo)運(yùn)作，其能動性和自主性仍源自人類的設(shè)定。因此，站在人類主體性的立場，我們可以接受機(jī)器智能是具有效率、效果、效能的準(zhǔn)行動者，卻無法將類似于電車難題的責(zé)任歸咎于機(jī)器，因?yàn)槿祟愐廊皇侨藱C(jī)社會責(zé)任與判斷的能動主體。人機(jī)社會雖然將機(jī)器視為準(zhǔn)行動者，但并不意味著機(jī)器具有與人類對等的主體性，自由意志和自主權(quán)力依然還屬于人類。

既有治理框架遭遇結(jié)構(gòu)性挑戰(zhàn)

當(dāng)機(jī)器智能不再只是被動地執(zhí)行人類指令的工具，還會主動介入人類事務(wù)并影響人類思考與行動時，既有治理框架便遭遇結(jié)構(gòu)性挑戰(zhàn)：過去針對人類行動者的人治與法治架構(gòu)還依然適用于人類與非人類行動者互動互生的人機(jī)社會嗎？

首先，治理主體界定困難，給治理帶來無主可治的挑戰(zhàn)。人機(jī)混合治理場景催生的主體很難界定，本質(zhì)上是人類社會在向人機(jī)社會的轉(zhuǎn)換過程中的結(jié)構(gòu)性矛盾。要突破這一矛盾，需要同時超越人類主體與技術(shù)工具的二元框架和機(jī)器智能的準(zhǔn)行動者框架，并在承認(rèn)機(jī)器智能有限自主性的基礎(chǔ)上，以人機(jī)社會整體而不是以人類和機(jī)器智能分別為對象，建構(gòu)責(zé)任分配的倫理原則與法律機(jī)制。

其次，責(zé)任歸屬的模糊進(jìn)一步引發(fā)治理問責(zé)的機(jī)制危機(jī)。在人機(jī)社會，決策和行動由算法設(shè)計(jì)者、數(shù)據(jù)來源、模型參數(shù)、訓(xùn)練環(huán)境、使用提示詞等共同生成，與主體的數(shù)據(jù)分身具有相對性，責(zé)任也被稀釋在復(fù)雜的人機(jī)數(shù)據(jù)點(diǎn)位，使得機(jī)器智能的決策與行動具有高度的集體制造特征。許多機(jī)器智能內(nèi)部決策的過程高度復(fù)雜且缺乏可解釋性，當(dāng)決策過程對利益相關(guān)方不可解釋時，就意味著在事實(shí)上無法落實(shí)責(zé)任，甚至難以確定錯誤的來源，從而會導(dǎo)致典型的責(zé)任真空，給法律和社會倫理帶來前所未有的挑戰(zhàn)。如果責(zé)任不明確，治理便失去了問責(zé)的核心和基礎(chǔ)，進(jìn)而會威脅治理的正當(dāng)性。

再次，算法黑箱以及因此導(dǎo)致的治理透明度下降問題給治理實(shí)踐帶來了沖擊。由算法主導(dǎo)的治理切斷了傳統(tǒng)治理依賴的“透明—參與—問責(zé)”鏈條，透明性因黑箱而消失，參與性因技術(shù)壁壘而被剝奪，問責(zé)性因責(zé)任主體虛化而無法落實(shí)，從而讓人機(jī)社會的治理陷入技術(shù)利維坦的困境。機(jī)器智能以效率之名吞噬了治理的社會合法性，人類社會卻難以用現(xiàn)行制度框架對其進(jìn)行約束。從這個意義上說，機(jī)器智能引發(fā)的不只是治理理論與實(shí)踐的危機(jī)，還是對社會秩序的根本性挑戰(zhàn)。如何在人機(jī)社會建構(gòu)和維系社會秩序，確保人類在人機(jī)社會的主體性和權(quán)力始終服務(wù)于人類的尊嚴(yán)與自由，而非異化為技術(shù)系統(tǒng)的附庸，是人機(jī)社會必須面對的治理轉(zhuǎn)向。

人機(jī)社會治理將發(fā)生系列變化

治理人機(jī)社會，并非否定對機(jī)器智能的監(jiān)管要求，而是強(qiáng)調(diào)治理的重心不僅在于讓技術(shù)的宗旨回歸人類，更在于建構(gòu)并維系人類與機(jī)器智能交織而成的混合系統(tǒng)的秩序。在這一視角下，人類不再是以主宰者姿態(tài)單向治理機(jī)器智能，反而是要將自身視為人機(jī)互生生態(tài)的一員，通過協(xié)同和引導(dǎo)的方式實(shí)現(xiàn)二者的良性互動：既讓機(jī)器智能不斷發(fā)揮效率，又讓人類始終具有主體性。這一轉(zhuǎn)向意味著社會治理目標(biāo)、責(zé)任和模式將會發(fā)生一系列改變。

首先，治理目標(biāo)呈現(xiàn)出雙重性和復(fù)合性。在人機(jī)社會中，治理既要關(guān)注機(jī)器智能的行為，使其符合人機(jī)安全、倫理和法律的要求，也要關(guān)注人機(jī)互動互生的良性運(yùn)行和發(fā)展。人類社會治理的焦點(diǎn)在于通過規(guī)范人類行動者的行動來建構(gòu)和維護(hù)社會秩序，增進(jìn)人類福祉。在人機(jī)社會中，除了要聚焦人類社會的治理目標(biāo)，社會治理還必須要將機(jī)器智能代表的技術(shù)系統(tǒng)的行動置于議程之中，尤其是要把人機(jī)交互行動納入治理。對人機(jī)社會的治理增加了一類新目標(biāo)，即機(jī)器智能及其產(chǎn)生的機(jī)器行動，更準(zhǔn)確地說，是機(jī)器智能的行動及其與人類交互的行動。因此，治理目標(biāo)不再單一地針對人類行動，也需要針對機(jī)器行動。同時，還需要平衡雙重目標(biāo)：既要保障機(jī)器智能有效、可信、可靠，也要維護(hù)人類的價值和利益。

其次，治理責(zé)任鏈條的擴(kuò)展與延伸。在人機(jī)互生實(shí)踐中，將責(zé)任歸屬于單一主體的傳統(tǒng)責(zé)任溯源與分配模式已難以奏效，為此，新治理范式主張建立覆蓋端到端的人機(jī)責(zé)任體系，讓相關(guān)參與方承擔(dān)決策與行動的組合式責(zé)任。具體而言，面向人機(jī)社會的責(zé)任分配，意味著把場景涉及的人機(jī)責(zé)任作為一個整體納入考量，采用總分模式，把機(jī)器智能開發(fā)者、提供者、部署者、使用者等都納入責(zé)任網(wǎng)絡(luò)，形成基于行動場景的利益相關(guān)者責(zé)任體。通過縱向擴(kuò)展責(zé)任鏈條和建立未明責(zé)任池，人機(jī)社會的治理將不再簡單地沿用傳統(tǒng)歸責(zé)機(jī)制的方法將責(zé)任歸于單一行動者，而是強(qiáng)調(diào)人機(jī)互生各主體的協(xié)同負(fù)責(zé)和群體責(zé)任，且形成由責(zé)任擴(kuò)展帶來的權(quán)力制衡。

再次，治理理論與實(shí)踐模式更新?lián)Q代。面對人機(jī)社會，多主體協(xié)商治理必須以主體對等性為前提，機(jī)器智能雖然在行動上具備了能動性和自主性，可是尚不具備目的性和價值性，這意味著機(jī)器智能還難以作為獨(dú)立主體來承擔(dān)責(zé)任。因此，盡管在治理實(shí)踐里必須納入機(jī)器智能，在理論上依然要找到承擔(dān)機(jī)器智能責(zé)任的人類主體。在諸多場景中，如果否定指向單一行動者的簡單歸責(zé)，難以追溯責(zé)任主體的場景就必然存在，出于對治理效率的考量，創(chuàng)新治理理論與實(shí)踐便成為如今需要面對的導(dǎo)向性問題。對此，“回路社會”監(jiān)管框架或許是一個有益的啟示。在本質(zhì)上，“回路社會”是將多元利益相關(guān)者的目的性和價值性通過機(jī)制化的方式植入機(jī)器智能，使其從代碼階段就建立與社會目的性和價值性的協(xié)同。除了植入式協(xié)商，治理實(shí)踐還強(qiáng)調(diào)共同決策和合作執(zhí)行。多主體、多維度、多層級的協(xié)同治理模式可以打破以往政府單向管制和市場自我調(diào)節(jié)的對立，通過多方互動提高治理的適配性，同時，也呼應(yīng)了人機(jī)社會的特征，即通過多行動者（包括人和機(jī)器）的互動互生共同影響治理結(jié)果。這也意味著治理理論焦點(diǎn)的轉(zhuǎn)向：從強(qiáng)調(diào)控制和科層的傳統(tǒng)，轉(zhuǎn)向多元、互動、互生、敏捷網(wǎng)絡(luò)化動態(tài)化治理，以適應(yīng)人機(jī)混合的復(fù)雜現(xiàn)實(shí)。

最后，治理人機(jī)社會，需要一系列新規(guī)制和新機(jī)制來保障協(xié)同治理的落實(shí)。為了破解算法黑箱難題，除了分配群體責(zé)任和建構(gòu)責(zé)任池，提升算法透明度和可解釋性依然是可努力的方向。技術(shù)性治理工具也是人機(jī)社會治理轉(zhuǎn)向不可或缺的內(nèi)容。這些工具既可以提升治理機(jī)制對復(fù)雜人機(jī)社會的感知和響應(yīng)能力，還可以通過制度和工具的雙重創(chuàng)新將人機(jī)互生的治理觀從原則轉(zhuǎn)化為可操作、可持續(xù)的現(xiàn)實(shí)，進(jìn)而建構(gòu)一種新的治理范式，即人類發(fā)揮戰(zhàn)略引領(lǐng)和價值裁定的作用，機(jī)器提供高效的數(shù)據(jù)處理和執(zhí)行能力，二者通過有機(jī)的制度接口實(shí)現(xiàn)優(yōu)勢互補(bǔ)、互生決策和行動，進(jìn)而建設(shè)一種新的治理圖景：人類和機(jī)器智能不是對立的治理主體和客體，而是被納入同一個互生治理框架的整體。人類依然掌握著目的和價值的制定權(quán)，機(jī)器智能則根據(jù)人類設(shè)定的規(guī)則高效地參與和執(zhí)行治理過程。這樣的人機(jī)互生治理框架既堅(jiān)守了人類的主體性和社會價值，又充分利用了機(jī)器智能的工具性和數(shù)據(jù)能力，為人機(jī)社會提供了一種可持續(xù)的治理轉(zhuǎn)型路徑。

（作者邱澤奇來自北京大學(xué)社會學(xué)系，本文首發(fā)于《社會》2025年第3期，約16000字，本文內(nèi)容為《高等學(xué)校文科學(xué)術(shù)文摘》2025年第8期摘錄部分，小標(biāo)題為澎湃新聞編輯所加。）