隨著大數(shù)據(jù)、人工智能等技術(shù)的快速發(fā)展，“數(shù)據(jù)主義”隨之流行，算法推薦、排名算法等不同的形態(tài)催生并推動了不同領(lǐng)域的企業(yè)，這些企業(yè)及其產(chǎn)品在為公眾提供便利的同時，也產(chǎn)生了不少新的問題。如何為冰冷的算法注入人文情懷，成為一個不得不面對的倫理問題和治理問題。不久前，有關(guān)部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行，依法對算法亂象進行監(jiān)管整治。

日前，著名學(xué)者、清華大學(xué)新聞傳播學(xué)院常務(wù)副院長陳昌鳳教授與清華大學(xué)新聞傳播學(xué)院博士后李凌聯(lián)合主編出版了《算法人文主義：公眾智能價值觀與科技向善》。本期政邦茶座邀請到兩位作者，為“算法”把把脈。

本期政邦茶座嘉賓：

陳昌鳳：清華大學(xué)新聞傳播學(xué)院常務(wù)副院長，出版《智能傳播：理論、應(yīng)用與治理》、《算法人文主義：公眾智能價值觀與科技向善》等

李凌：清華大學(xué)新聞傳播學(xué)院博士后、中國倫理在線執(zhí)行主編。

政邦茶座主持人：

高明勇：政邦智庫理事長。

高明勇：赫拉利在《未來簡史》中宣稱“大部分的科學(xué)機構(gòu)都已經(jīng)改信了數(shù)據(jù)主義”，您也曾提出：“大數(shù)據(jù)正以空前的速度和規(guī)模滲透到人類社會生活的方方面面，在一定程度上它已經(jīng)逐步改變著人們觀察、認識、思考乃至生存與發(fā)展的方式”。請問什么是數(shù)據(jù)主義，數(shù)據(jù)主義是如何產(chǎn)生的？

陳昌鳳：大數(shù)據(jù)、智能算法等技術(shù)催生了新的哲學(xué)思潮，數(shù)據(jù)主義的觀念和思維日益成為一種流行的意識形態(tài)。數(shù)據(jù)主義作為一種社會思潮，主要包括以下觀點：

一是篤信數(shù)據(jù)更加真實、準確、客觀和可靠，更值得人們信任，最早提出“數(shù)據(jù)主義”概念的《紐約時報》專欄作家布魯克斯就明確宣稱：“數(shù)據(jù)是透明可靠的濾鏡，幫助我們過濾掉情感主義和意識形態(tài)”。

二是主張一種算法世界觀，數(shù)據(jù)主義將整個世界，包括人的生命都視為各種算法計算的結(jié)果，正是在這個意義上，赫拉利認為人類將賦予算法權(quán)力，這樣才能做出更加科學(xué)、理性當然也就更加正確的決定。

三是主張信息自由是最高的善，數(shù)據(jù)主義的支持者認為，如果我們要創(chuàng)造一個更美好的世界，關(guān)鍵就在于生產(chǎn)數(shù)據(jù)、連接數(shù)據(jù)，并且給數(shù)據(jù)以自由。

數(shù)據(jù)主義的流行，與人工智能等信息技術(shù)在經(jīng)濟社會等各個領(lǐng)域取得的巨大成功密不可分，但從更深層次原因來看，數(shù)據(jù)主義是與互聯(lián)網(wǎng)平臺經(jīng)濟發(fā)展的生產(chǎn)結(jié)構(gòu)相適應(yīng)的價值觀念，體現(xiàn)了互聯(lián)網(wǎng)平臺經(jīng)濟發(fā)展的話語和意識形態(tài)需要。

按照數(shù)字經(jīng)濟研究學(xué)者范戴克的觀察研究，互聯(lián)網(wǎng)平臺主要通過數(shù)據(jù)化、商品化、選擇性這三種核心機制來構(gòu)建自身的數(shù)字化生態(tài)系統(tǒng)，其中，數(shù)據(jù)化一切是前提，商品化是目的，而用戶的選擇性則是實現(xiàn)商品化的途徑。這三種機制推動了互聯(lián)網(wǎng)平臺的發(fā)展，也促成了數(shù)據(jù)主義思想的發(fā)展，并且通過自我論證進一步強化了數(shù)據(jù)主義的合理性和正確性，加劇了人們對數(shù)據(jù)化一切的推崇和信仰。

從互聯(lián)網(wǎng)平臺的視角而言，只有萬物皆媒介、皆數(shù)據(jù)、皆算法，才能利用算法技術(shù)服務(wù)于這個世界，最終實現(xiàn)商品化目標。

李凌：數(shù)據(jù)主義在本質(zhì)上是數(shù)字資本主義的意識形態(tài)。從表象上看，企圖最大化的是數(shù)據(jù)，但實質(zhì)上是資本。數(shù)字資本主義之所以熱衷于將人和萬物數(shù)據(jù)化并推崇數(shù)據(jù)最大化，就是因為只有將人和萬物都數(shù)據(jù)化、算法化了，數(shù)字資本主義才能在對數(shù)據(jù)的利用、開發(fā)過程中，實現(xiàn)數(shù)據(jù)價值的最大化，當然也就是資本的最大化。對于數(shù)字資本主義及其意識形態(tài)數(shù)據(jù)主義而言，人和萬物不僅應(yīng)該被視為數(shù)據(jù)，而且必須被數(shù)據(jù)化。

高明勇：數(shù)據(jù)主義對整個社會產(chǎn)生了什么樣的影響，如果進一步發(fā)展，將會對人類社會構(gòu)成哪些挑戰(zhàn)？

陳昌鳳：我們可以看到，數(shù)據(jù)主義對于互聯(lián)網(wǎng)平臺經(jīng)濟的發(fā)展起到了重要的推動作用，數(shù)據(jù)主義成為支持企業(yè)創(chuàng)造價值的一種觀念。對于企業(yè)而言，“數(shù)據(jù)最大化”和“信息創(chuàng)造價值”符合工具理性，也有助于他們拓展市場、服務(wù)社會并獲得收益。

不過，數(shù)據(jù)主義所倡導(dǎo)的無條件推崇數(shù)據(jù)最大化的思維方式，也存在著很大的片面性和局限性。就正如近年來“大數(shù)據(jù)殺熟”、“外賣騎手被困在系統(tǒng)里”等算法倫理問題所揭示的，數(shù)據(jù)主義不僅導(dǎo)向了算法對社會規(guī)則和生態(tài)的重構(gòu)，還存在著侵犯個體尊嚴、自由和破壞社會公正等倫理風(fēng)險，可能危及到人的主體性。

以前我們常常樂觀地說，互聯(lián)網(wǎng)技術(shù)的賦能極大地拓展了人類自由，讓我們能夠享受到更便捷的服務(wù)，但是現(xiàn)在來看，技術(shù)應(yīng)用的負面效應(yīng)正在出現(xiàn)。由于我們越來越來離不開各種互聯(lián)網(wǎng)平臺，人們只有依附于這些芒德福所言的“巨型機器”，才能言說和行動，才能獲得價值和意義，我們很難說更自由、更強大了。

數(shù)據(jù)主義者的眼里只有數(shù)據(jù)算法而沒有人，他們將作為人類認識和行動結(jié)果的數(shù)據(jù)、算法顛倒為起決定作用和支配地位的“主體”，真正的人類主體則淪為被算法塑造和支配的客體，被置于工具化、從屬性的地位。

算法背后隱藏著復(fù)雜的權(quán)力關(guān)系。表面上看是算法擁有了權(quán)力，人們被算法支配和控制，但實質(zhì)上是被研發(fā)、設(shè)計和掌握算法平臺的人所支配和控制。誰控制了平臺，誰就掌握了數(shù)據(jù)；誰擁有了先進技術(shù)，誰就擁有更大的權(quán)力。如果一切都相信數(shù)據(jù)和算法，人將會陷入“算法囚籠”之中。

在這個意義上，數(shù)據(jù)主義及其所倡導(dǎo)的“數(shù)據(jù)最大化”與“信息自由至善”，走向了價值理性和工具理性的二元對立，既與人文主義這一人類所有價值觀底線相對立，也是現(xiàn)實虛無主義的產(chǎn)物，值得我們警惕。

李凌：數(shù)據(jù)主義以“記錄、上傳、分享”為口號，正在創(chuàng)造一種獨特的數(shù)字景觀——互聯(lián)網(wǎng)上的免費勞動。蕓蕓大眾成為資本主義生產(chǎn)的免費勞動力卻不自知。

我們在互聯(lián)網(wǎng)指點江山，為了獲取關(guān)注主動曝光、自我展示，忙于生產(chǎn)內(nèi)容樂此不疲，這些免費勞動都被互聯(lián)網(wǎng)平臺轉(zhuǎn)化為數(shù)據(jù)化的生產(chǎn)資料，投入到算法的優(yōu)化和服務(wù)當中。數(shù)據(jù)主義巧妙地將這種利用用戶免費生產(chǎn)數(shù)據(jù)的做法隱藏在“參與”、“分享”等概念之中，讓用戶產(chǎn)生了自我實現(xiàn)和自我解放的錯覺：我并沒有被剝削，而是通過主動積極地參與來發(fā)展展示自我。

正如韓裔德國哲學(xué)家韓炳哲所說：“作為新自由主義自我技術(shù)的永恒自我優(yōu)化，不過是一種有效的統(tǒng)治和剝削方式?！睌?shù)據(jù)主義通過自我參與等概念，對數(shù)字資本主義的合理性進行了有力的辯護，借此掩蓋了數(shù)字化生產(chǎn)過程的很多問題和矛盾，讓公眾處于不利地位，甚至連個人隱私、經(jīng)濟權(quán)益受到侵犯卻不自知。這是數(shù)據(jù)主義的欺騙性所在，值得我們關(guān)注和進一步研究。

高明勇：有觀點認為，21世紀將會是由算法主導(dǎo)的世紀。這種趨勢，會不會在某個時間節(jié)點產(chǎn)生“逆轉(zhuǎn)”？

陳昌鳳：人類總是不遺余力地按照自己的需求主動開發(fā)新技術(shù)，這是人類構(gòu)建現(xiàn)實的方式與過程。最近20年以來，媒介化已經(jīng)成為與城市化、全球化和個體化等相提并論的高度現(xiàn)代性的重大變革，其趨勢和過程都是難以逆轉(zhuǎn)的。

在媒介化過程中，數(shù)據(jù)與算法起到了基礎(chǔ)性的作用。特別是諸如微軟、蘋果、元宇宙等互聯(lián)網(wǎng)平臺，他們通過構(gòu)建有形的通信系統(tǒng)、無形的通信協(xié)議、可見的接口界面以及隱形的平臺算法等信息基礎(chǔ)設(shè)施，主導(dǎo)了日常數(shù)字活動和全球經(jīng)濟。

作為最前沿信息技術(shù)的集大成者，元宇宙可以說是當下最炙手可熱的話題。如果說工業(yè)革命解放了人類的手和腳，人工智能解放了人類的大腦，元宇宙則通過深度媒介化，朝著解放人類一切需求和愿望的方向邁進。在元宇宙技術(shù)所建構(gòu)的虛擬現(xiàn)實之中，人類可以發(fā)揮最大可能的想象力來建造它，它也可以最大程度地滿足人類的需求和愿望，甚至可以使人無處不在、永遠在場、永遠“活著”。

不過，這個過程到底是以算法為代表的信息技術(shù)馴化、主導(dǎo)人，還是人馴化、主導(dǎo)各種技術(shù)，則在很大程度上取決于人類自己的理解和行動，如何在算法自動化運行中保持人的獨特性，如何維護個體的自由和整體的安全？諸如此類的問題，都需要我們堅守與弘揚以人為本的價值觀。

高明勇：算法在誕生之初，很多人是欣然接受并樂在其中的，但后來出現(xiàn)“大數(shù)據(jù)殺熟”“外賣騎手被困在系統(tǒng)里”“個人隱私保護”等現(xiàn)象，越來越多的人開始抵制算法，拒絕成為“算法囚徒”。為什么短短幾年，人們對算法的認識，就發(fā)生了這么大的轉(zhuǎn)變？

陳昌鳳：人們往往會在技術(shù)應(yīng)用的初期，為其全新功能給人類生活帶來的正面效益所驚喜，再加上資本主導(dǎo)下的互聯(lián)網(wǎng)企業(yè)為了擴大用戶基數(shù)而采取的免費或者高補貼戰(zhàn)略、口碑營銷方式和龐大宣傳攻勢，公眾和輿論可能傾向于贊美和“擁抱”這一新興技術(shù)。

但隨著人工智能、大數(shù)據(jù)等信息技術(shù)的深度應(yīng)用，特別是在人與算法機器的頻繁交互過程中，新技術(shù)引發(fā)的爭議性問題日益凸顯，對人們的現(xiàn)實利益和個人權(quán)利產(chǎn)生了負面影響，則會引發(fā)人們對于技術(shù)邏輯本身存在的倫理風(fēng)險的擔(dān)憂。

在我和李凌主編的《算法人文主義：公眾智能價值觀與科技向善》一書中，收錄了我們“智能時代信息價值觀引領(lǐng)研究”項目組對2020年度與智能技術(shù)密切相關(guān)的十大熱點輿情事件的價值觀指向報告，從應(yīng)然和實然的角度，分析了公眾（主要是微博用戶）的智能技術(shù)價值取向。

這十大熱點輿情事件，既包括你所說的“大數(shù)據(jù)殺熟”、“外賣騎手困在算法里”、“APP違規(guī)搜集個人隱私”，還包括“中國人臉識別第一案”、“人工智能換臉”、“老人健康碼使用困境”、“無人駕駛汽車試運營”等熱點事件。

報告通過采集分析微博用戶的輿情數(shù)據(jù)顯示，公眾對于智能技術(shù)應(yīng)用引發(fā)的價值爭議和倫理風(fēng)險開始覺醒。圍繞2020年智能技術(shù)應(yīng)用的十大熱點輿情事件，微博用戶對人類尊嚴、人類自主、公平、透明、個人信息保護、安全、責(zé)任和可持續(xù)發(fā)展等價值維度都表現(xiàn)了一定的關(guān)切，特別是對關(guān)涉到自身利益和權(quán)利的智能技術(shù)應(yīng)用，表現(xiàn)了較高的關(guān)注和價值期盼。在熱度上，“多款違法違規(guī)收集個人信息APP被處罰”事件最受輿論關(guān)注，很多網(wǎng)友都明確提出保護個人隱私的訴求。在責(zé)任價值方面，微博用戶呼吁政府相關(guān)部門解決智能技術(shù)倫理爭議的呼聲較高，體現(xiàn)了較高的期盼。

不過，微博用戶對智能技術(shù)的價值和倫理探討更多集中在工具價值層面，體現(xiàn)了一定的功利主義和實用主義的傾向，而忽略了目的價值層面，對涉及到人類社會文明的底線價值如人類尊嚴、自主性、自由等價值關(guān)注不夠。

報告還顯示，相比于公共性議題，當智能技術(shù)應(yīng)用涉及到娛樂領(lǐng)域，尤其是流量明星時，微博用戶的關(guān)注度更高。例如在社交機器人賬號對輿論生態(tài)影響的這一議題中，肖戰(zhàn)粉絲辟謠事件的熱度遠遠高于外交部指責(zé)美方利用機器人賬號散播謠言事件的熱度；在人工智能換臉這一議題中，影視明星換臉等娛樂事件，比人工智能換臉引發(fā)新型詐騙的熱度更高，說明公眾智能信息價值觀呈現(xiàn)出一定的娛樂化傾向。

李凌：公眾對算法應(yīng)用從欣然接受到如今的批判，由“粉”轉(zhuǎn)“路”甚至轉(zhuǎn)“黑”的過程，體現(xiàn)了公眾對智能技術(shù)應(yīng)用的社會選擇。技術(shù)的發(fā)展演變有其自身邏輯和客觀規(guī)律，但是人們的主觀意志和價值取向，在技術(shù)選擇和演變過程中起到了重要作用。

按照技術(shù)的社會塑造理論，技術(shù)的發(fā)展演變是政府、市場、科技工作者、公眾互動、協(xié)商和博弈的結(jié)果，“發(fā)明某物只是意味著給社會提供一種可能性，社會才決定這種可能性是否值得實現(xiàn)?！逼渲?，市場和用戶是技術(shù)社會選擇的重要因素。無論是工程師還是資本家，他們對技術(shù)研發(fā)設(shè)計路徑的選擇，都要在一定程度上反映用戶的選擇，接受選擇的檢驗。很多互聯(lián)網(wǎng)產(chǎn)品的研發(fā)，都不再是一次性研發(fā)的結(jié)果，而是一個快速更新迭代的過程，是產(chǎn)品經(jīng)理、工程師與用戶多次互動、協(xié)商、反饋而協(xié)同共建的產(chǎn)品。

正因為如此，互聯(lián)網(wǎng)平臺應(yīng)當重視公眾對智能技術(shù)應(yīng)用的價值取向和倫理態(tài)度，主動自覺地將以人為本、尊重人的尊嚴、保護和增進個體自由、維護社會公正、增進人類福祉、促進可持續(xù)發(fā)展等價值維度納入智能技術(shù)的研發(fā)、設(shè)計之中，推動算法善用。