隨著全球對人工智能技術關注度的日益提升，如何在推動創(chuàng)新發(fā)展的同時實現(xiàn)有效治理，并在開放格局中謀求共識，已成為各國面臨的重大挑戰(zhàn)。在這一進程中，中國展現(xiàn)出自身獨特的戰(zhàn)略思維：在創(chuàng)新支持方面，通過加速構建大模型技術體系、完善創(chuàng)新生態(tài)環(huán)境，有力培育產業(yè)發(fā)展新動能；在風險治理層面，積極探索倫理規(guī)范建設，構建安全防范機制，推動行業(yè)健康發(fā)展；在開放合作領域，持續(xù)推進國際交流對話，攜手各方共建技術標準與發(fā)展框架。這種多維度的發(fā)展策略，不僅推動技術持續(xù)創(chuàng)新，更有助于實現(xiàn)社會長期穩(wěn)定與公平發(fā)展。人工智能的發(fā)展超越了單純的科技創(chuàng)新范疇，它考驗著人類如何在技術變革浪潮中守護核心價值、實現(xiàn)共同繁榮。

AI賽道加速擴張：機遇與潛力

2023年以來，全球人工智能市場以前所未有的速度擴張。CB Insights的數(shù)據顯示，2024年迄今的平均AI交易規(guī)模較2023年增長55%。   

長期展望同樣樂觀，《2024年全球人工智能行業(yè)報告》預測，到2030年，全球人工智能市場規(guī)模將從2023年的2080億美元飆升至1.84萬億美元，年增長率高達29.77%。

具體到區(qū)域市場，美國生成式AI市場預計將從2023年的160億美元增長到2030年的600億美元以上，增長幅度超過四倍。相比之下，中國雖然起步相對較晚，但增速迅猛，預計將從2023年的20.63億美元增長到2028年的165.44億美元。到2035年，AI有望使中國GDP相較基準情形提升9.8%，相當于未來10年的年化增長率額外增加0.8%。

從企業(yè)層面來看，AI技術的采用呈現(xiàn)快速增長趨勢。麥肯錫調查顯示，2023年，全球55%的企業(yè)至少在一個業(yè)務環(huán)節(jié)中應用AI技術，較2022年提高5%。同時，AI已成為中小企業(yè)，尤其是垂直應用領域創(chuàng)業(yè)公司的重要競爭力來源。39%的中小企業(yè)正在使用人工智能，預計到2025年底這一比例將躍升至51%。

生成式AI發(fā)展四大隱憂：從意識覺醒到失控風險

意識覺醒

生成式AI的迅猛發(fā)展引發(fā)了社會各界對其意識覺醒的廣泛討論和深切擔憂。美國技術哲學家Shannon Vallor曾警告，當我們將本質上無法進行真正感知和思考的系統(tǒng)稱為“超人類”時，可能已在無意中削弱了人性的獨特價值。

一種觀點認為，AI可能會逐步發(fā)展出超越人類控制的自主意識，進而對人類社會構成威脅。這種擔憂源于對AI可能產生獨立于人類意志的目標和動機的想象。

與此同時，更深層的憂慮在于技術進步可能引發(fā)的人類主體性危機。當AI系統(tǒng)在功能上日益接近甚至超越人類智能時，我們將面臨一個難以區(qū)分人類與機器心智的未來。這不僅挑戰(zhàn)了人類的自主性，還動搖了人類的獨特價值。

盡管這些擔憂廣受關注，當前的科學研究仍表明生成式AI距離擁有真正的意識還有很長的路要走。達姆施塔特工業(yè)大學和巴斯大學的研究團隊發(fā)現(xiàn)，所謂AI的“涌現(xiàn)能力”，實際上更類似于這些模型基于已有訓練數(shù)據和經驗進行的高級模仿或即興創(chuàng)作，并不意味著AI已經具備了完全自主發(fā)展能力或獨立意圖。盡管模型規(guī)模的擴大確實提升了AI表現(xiàn)，但這些能力仍局限于設計者預設的框架內。

情感依戀

生成式AI卓越的語言理解與情感分析能力正在重塑人類與機器的互動模式。人們不僅在日常任務中依賴AI，還將其視為情感支持的來源，甚至發(fā)展出親密關系，如朋友、戀人、導師和心理疏導者等。例如，包小柏利用AI“復刻”病故的女兒的案例，展示了人們對AI能力的深度依賴與情感投射。然而，這種人機情感關系的加深帶來了一系列倫理和心理學問題。研究表明，AI的“諂媚效應”可能導致用戶產生深層情感依賴。長期沉溺于與AI的互動，用戶可能逐漸失去維系真實人際關系的能力，出現(xiàn)“數(shù)字依戀障礙”。

盡管AI系統(tǒng)表現(xiàn)得越來越像人，但它們本質上缺乏真正的人格和自主情感。這種本質與用戶對其產生的情感投射之間的矛盾，可能對個體的心理健康和社交能力產生深遠的負面影響。

面對這些挑戰(zhàn)，學界和業(yè)界正在積極探索應對方案。首要任務是加強科技倫理研究，深入探討AI與人類情感互動中的倫理邊界和社會影響。在技術層面，研究者提出了“設計中的監(jiān)管”概念，旨在通過在AI系統(tǒng)設計中嵌入安全措施來預防潛在的情感依賴風險。此外，業(yè)界正在探索對齊微調和機制可解釋性等技術方法，通過優(yōu)化模型行為、提升系統(tǒng)透明度，確保AI在情感互動中保持恰當邊界。

創(chuàng)作沖擊

生成式AI正在改變內容創(chuàng)作的生態(tài)，提升了創(chuàng)作效率和多樣性，但同時也引發(fā)了原創(chuàng)性、版權歸屬等問題。例如，字節(jié)跳動旗下的番茄小說平臺要求作者簽署協(xié)議以允許作品用于AI訓練，激起了創(chuàng)作者的集體抵制。為保護知識產權，創(chuàng)作者與研究者正嘗試新方法，如倫敦帝國理工學院開發(fā)的“版權陷阱”技術，通過嵌入特殊句子來檢測作品是否被用于AI訓練。未來，創(chuàng)作者不僅要具備與AI技術協(xié)同工作的能力，還需要在內容創(chuàng)作上保持獨特性和創(chuàng)新性，以在快速變化的創(chuàng)作生態(tài)中保持競爭力。

新型安全風險

AI深度偽造技術正被濫用，篡改人像、偽造證據等違法行為不斷增多，已淪為操縱輿論、實施詐騙的新型犯罪工具。AI在復雜決策中的應用也備受爭議，如在醫(yī)療領域，AI協(xié)助臨終決策盡管減輕了家屬壓力，卻引發(fā)了對其可靠性和倫理性的擔憂。

面對生成式AI帶來的安全挑戰(zhàn)，主要科技公司已采取了一系列治理措施。例如，OpenAI設立了獨立團隊測試其模型在網絡安全、生物威脅等方面的風險。Anthropic則與外部機構合作評估其新模型的自動駕駛功能。谷歌的SynthID和Meta的Stable Signature等數(shù)字水印工具也在加快研發(fā)，助力用戶識別AI生成內容。美國科技公司還加強了網絡安全措施，保護專有模型和未發(fā)布的模型權重，如微軟推出的“安全未來計劃”。在中國，國家互聯(lián)網信息辦公室實施了深度合成服務算法備案制度，增加了AI技術應用的透明度。

盡管各國采取的具體措施不同，但都反映了對AI安全治理的重視。然而，專家指出，仍需要更多的透明度、獨立審核和跨學科合作，特別是在模型訓練數(shù)據來源、決策過程透明度等方面。全球范圍內的協(xié)同合作將是未來有效應對AI技術復雜挑戰(zhàn)的關鍵。

中國AI政策三重奏：創(chuàng)新、治理與開放合作

在人工智能發(fā)展的新時代，中國正致力于構建新的戰(zhàn)略框架，以推動AI從高速發(fā)展走向高質量發(fā)展。這一戰(zhàn)略涵蓋創(chuàng)新支持、風險治理與開放合作三個關鍵維度。

創(chuàng)新支持：構建引領性大模型技術創(chuàng)新體系

在支持AI創(chuàng)新方面，中國通過前瞻性政策布局，正加速推進大模型發(fā)展的關鍵要素建設。為強化數(shù)據支撐，工信部等部門聯(lián)合發(fā)布《新產業(yè)標準化領航工程實施方案》，構建了生成式人工智能應用標準體系。中國大模型語料聯(lián)盟的成立為大模型發(fā)展提供了多元數(shù)據要素保障?！渡墒饺斯ぶ悄芊展芾頃盒?a >辦法》的出臺則為大模型創(chuàng)新應用提供了制度保障。

加強創(chuàng)新支撐體系是推動AI高質量發(fā)展的關鍵。首要任務是建立國家級產業(yè)創(chuàng)新聯(lián)合體，整合高校與企業(yè)的科研資源，促進基礎研究與應用創(chuàng)新深度融合。在底層技術領域，中國需在預訓練算法、知識圖譜等方面實現(xiàn)自主突破，同時構建開源開放的技術生態(tài)，促進創(chuàng)新要素高效流動。

與此同時，中國應結合產業(yè)數(shù)字化轉型需求，著重培育能夠服務不同行業(yè)的大模型應用，尤其是推動制造業(yè)在智能設計、工藝優(yōu)化和質量管理等領域的應用創(chuàng)新。通過完善數(shù)據確權、定價和交易的制度改革，釋放數(shù)據要素的潛能，推動創(chuàng)新持續(xù)發(fā)展，使中國從“跟跑”邁向“領跑”。

風險治理：完善人工智能發(fā)展的安全保障體系

從2018年首次提出互聯(lián)網信息服務安全評估要求，到2022年出臺算法推薦管理規(guī)定，再到2023年專門針對生成式人工智能發(fā)布系列規(guī)范，中國已形成了多層次、立體化的AI監(jiān)管與治理框架。特別是2024年《生成式人工智能服務安全基本要求》的發(fā)布，構建了從語料、模型到應用的全鏈條安全規(guī)范，為全球AI治理提供了借鑒。

隨著AI在各行業(yè)中的廣泛應用，保障創(chuàng)新發(fā)展的同時構建更加智慧的治理機制成為當務之急。通過“制度+技術”雙輪驅動的模式，政府應繼續(xù)完善分層分類的監(jiān)管框架，根據不同風險等級制定相應標準。在技術方面，加強AI系統(tǒng)的安全評估、內容識別及追溯審計技術的研發(fā)，將為治理提供技術支撐。

此外，AI治理還需形成“政府引導、企業(yè)參與、社會協(xié)同”的共治模式。政府重在完善制度和監(jiān)管框架，企業(yè)則應在內部建立風險管理機制并積極承擔社會責任，行業(yè)組織可推動行業(yè)自律和標準化發(fā)展。多元共治模式不僅能提高AI發(fā)展的安全性，還將推動創(chuàng)新的可持續(xù)發(fā)展。

開放合作：貢獻人工智能全球治理的中國方案

中國正以開放包容的姿態(tài)積極融入全球AI創(chuàng)新網絡。在投資環(huán)境優(yōu)化方面，2022年修訂的《鼓勵外商投資產業(yè)目錄》將人工智能列為重點領域，特別是在醫(yī)療、智能制造等高技術領域加大開放力度。在數(shù)據要素流動方面，2024年《促進和規(guī)范數(shù)據跨境流動規(guī)定》的出臺，為跨境數(shù)據流動提供了清晰的監(jiān)管規(guī)則。同時，中國積極參與全球AI治理，從支持G20“以人為本的AI原則”到提出《全球人工智能治理倡議》，展現(xiàn)了負責任大國的擔當。

在區(qū)域合作上，中國依托“一帶一路”倡議，推動多邊框架下的技術標準互認和數(shù)據規(guī)則協(xié)同，促進區(qū)域間的互聯(lián)互通。產業(yè)合作層面，中國積極融入全球AI產業(yè)鏈分工，既引進國際領先企業(yè)參與國內市場，也支持中國企業(yè)開拓海外市場，形成優(yōu)勢互補的產業(yè)生態(tài)。

更深層面看，中國正致力于成為全球AI發(fā)展的重要樞紐——通過建設國際AI創(chuàng)新合作平臺，匯聚全球創(chuàng)新資源；通過參與國際標準制定，提升全球治理話語權；通過深化人才交流，促進創(chuàng)新理念碰撞。這種多維度的開放合作戰(zhàn)略，將助力中國在全球AI創(chuàng)新版圖中占據更重要位置，為全球AI治理貢獻中國智慧。

（本文作者顧潔系上海社會科學院信息研究所產業(yè)數(shù)據創(chuàng)新實驗室主任）