2024年圖靈獎得主、“強化學習之父”理查德·薩頓（Richard Sutton）。

9月11日上午，2025 Inclusion·外灘大會在上海黃浦世博園區(qū)開幕。2024年圖靈獎得主、“強化學習之父”理查德·薩頓（Richard Sutton）在開幕式上針對AI帶來偏見、失業(yè)甚至人類滅絕的擔憂表示，這種對人工智能的恐懼被夸大了。人工智能和人類繁榮將來自去中心化協(xié)作，“協(xié)作并非總能實現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化?！?/p>

被譽為“AI教父”的計算機科學家、諾貝爾獎得主杰弗里·辛頓（Geoffrey Hinton）曾預測，隨著企業(yè)用人工智能取代工人，AI將引發(fā)失業(yè)率上升與企業(yè)利潤激增。盡管目前裁員尚未激增，但越來越多的證據(jù)表明，人工智能正在壓縮入門級崗位。

對于AI帶來偏見、失業(yè)甚至人類滅絕的擔憂，薩頓則認為，這種對人工智能的恐懼被夸大了，并且是被某些從中獲利的組織和個人煽動起來的。他以經(jīng)濟社會的運行為例，只有當每個人有不同的目標和能力，經(jīng)濟才能運行得最好。同樣，不同目標的智能體可以通過去中心化的協(xié)作實現(xiàn)雙贏?！叭祟愖钭吭降某芰?，就在于比其他任何動物都更擅長協(xié)作。人類最偉大的成功在協(xié)作本身?！彼_頓表示，人工智能和人類繁榮將來自去中心化協(xié)作。“協(xié)作并非總能實現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化。”

薩頓表示，今天大多數(shù)機器學習的目標是把人類已有的知識轉(zhuǎn)移到靜態(tài)、缺乏自主學習能力的AI 上。但人類數(shù)據(jù)紅利正逼近極限，“我們逐漸達到人類數(shù)據(jù)的極限，現(xiàn)有的方法不能生成新的知識，不適合持續(xù)學習，而持續(xù)學習對智能的效用至關(guān)重要?！彼J為，人類正進入“經(jīng)驗時代”，需要由智能體與世界直接交互生成的一種新數(shù)據(jù)源，這正是人類和其他動物的學習方式，是近期AlphaProof在國際數(shù)學奧林匹克斬獲銀牌的路徑。

“經(jīng)驗”是指觀察、行動和獎勵，這三種信號在智能體與世界之間來回傳遞?！爸R來自于經(jīng)驗，可以從經(jīng)驗中學習。一個智能體的智能程度取決于它能預測并控制自身輸入信號的程度。經(jīng)驗是一切智能的核心與基礎(chǔ)。”他表示，強化學習帶領(lǐng)我們進入了新的經(jīng)驗時代，但要釋放全部潛力，還需要兩項目前尚不成熟的技術(shù)——持續(xù)學習（continual learning）和元學習（meta-learning）技術(shù)。

薩頓將宇宙的歷史分為四個時代：粒子時代、恒星時代、復制者時代和設計時代。他認為人類的獨特之處在于“把設計推向極致”，創(chuàng)造出能自己設計的事物。人類至少是催化劑，是助產(chǎn)士，更是開啟宇宙第四大時代“設計時代”的先驅(qū)。他認為人類終將真正理解智能，并借助技術(shù)創(chuàng)造智能。當前人類的智力水平很快將會被超級人工智能或超級智能增強的人類遠遠超越，權(quán)力和資源會流向最聰明的智能體。