機(jī)器學(xué)習(xí)的“黑箱”問(wèn)題愈發(fā)引發(fā)學(xué)界的關(guān)注。

北京時(shí)間8月25日結(jié)束的美國(guó)斯坦福大學(xué)基礎(chǔ)模型研究中心(Center for Research on Foundation Models, 簡(jiǎn)稱(chēng)CRFM)研討會(huì)上，來(lái)自不同學(xué)科領(lǐng)域的知名研究者討論了“基礎(chǔ)模型”在種族/宗教歧視，社會(huì)不平等和信息安全等多種層面上可能帶來(lái)的威脅以及需要研究的問(wèn)題。

近幾年，得益于多種AI模型的完善，人工智能開(kāi)始能夠?qū)θ祟?lèi)引以為豪的語(yǔ)言能力進(jìn)行學(xué)習(xí)和模仿，于是根據(jù)描述進(jìn)行繪畫(huà)、幫程序員自動(dòng)補(bǔ)全修改代碼等等應(yīng)用開(kāi)始成為現(xiàn)實(shí)，人工智能滲透入生活的方方面面。

這些強(qiáng)大的人工智能模型包括BERT（Bidirectional Encoder Representations from Transformers，一個(gè)預(yù)訓(xùn)練的語(yǔ)言表征模型）, GPT-3（Generative Pre-Training，生成式預(yù)訓(xùn)練），CLIP（Contrastive Language–Image Pre-training，對(duì)比語(yǔ)言-圖像預(yù)訓(xùn)練）, DALL-E（命名是藝術(shù)家薩爾瓦多·達(dá)利Salvador Dalí和皮克斯Pixar機(jī)器人WALL·E名稱(chēng)的結(jié)合）等。

這些模型往往基于不同的技術(shù)模塊，但它們現(xiàn)在都有了一個(gè)共同的名字——“基礎(chǔ)模型”（foundation models）?；A(chǔ)模型對(duì)當(dāng)下社會(huì)的影響越來(lái)越深遠(yuǎn)，然而人們對(duì)其如何發(fā)生作用、產(chǎn)生了哪些結(jié)果實(shí)際上缺乏清晰了解。

這也造成了所謂的“黑箱”問(wèn)題：機(jī)器學(xué)習(xí)中會(huì)出現(xiàn)無(wú)法解釋、不夠安全可信可靠的情形?；谝陨峡剂?，斯坦福大學(xué)在8月18日宣布成立基礎(chǔ)模型研究中心（下簡(jiǎn)稱(chēng)CRFM），專(zhuān)職于基礎(chǔ)模型的研究。

基礎(chǔ)模型研究中心由不同領(lǐng)域的研究者組成（如哲學(xué)、社會(huì)學(xué)、計(jì)算機(jī)科學(xué)等），研究中心主任是知名人工智能研究者、斯坦福大學(xué)教授Percy Liang。CRFM隸屬于斯坦?！耙匀藶楸救斯ぶ悄苎芯吭骸保℉uman-centered AI Research，HAI），在其官網(wǎng)的主頁(yè)上，CRFM稱(chēng)他們的使命是“在基礎(chǔ)模型的研究、開(kāi)發(fā)和部署上”作出貢獻(xiàn)。

CRFM的官方主頁(yè)（https://crfm.stanford.edu/）

據(jù)斯坦福大學(xué)介紹，作為一個(gè)不同領(lǐng)域研究者共同存在的機(jī)構(gòu)，CRFM的研究將不僅僅局限于傳統(tǒng)的科學(xué)研究，HAI的聯(lián)席主任John Etchemendy表示“這個(gè)新的機(jī)構(gòu)的任務(wù)是貫徹‘以人為本’的理念，通過(guò)交叉領(lǐng)域的學(xué)術(shù)研究以促進(jìn)基礎(chǔ)模型在廣泛的人類(lèi)關(guān)心的議題上產(chǎn)生影響”。（This new center embodies the spirit of HAI by fostering interdisciplinary scholarship on foundation models with a focus on the range of human-centered issues that these models entail.）

斯坦福大學(xué)基礎(chǔ)模型研究中心的這些學(xué)者們的最新力作是《基礎(chǔ)模型的機(jī)遇和風(fēng)險(xiǎn)》（On the Opportunities and Risks of Foundation Models）。這是一篇擁有超百名作者，長(zhǎng)達(dá)兩百多頁(yè)的綜述。在這篇論文中，BERT, GPT-3, CLIP, Codex、DALL-E等強(qiáng)大的人工智能模型首次以一個(gè)共同的名字——“基礎(chǔ)模型”（foundation models）出現(xiàn)。

知名華人人工智能學(xué)者李飛飛、Percy Liang等均在論文的作者列表中。論文指出，基礎(chǔ)模型的出現(xiàn)雖然帶來(lái)了機(jī)遇，但也帶來(lái)了風(fēng)險(xiǎn)，提出了基礎(chǔ)模型中的現(xiàn)有挑戰(zhàn)、跨學(xué)科合作的必要性以及為什么行業(yè)內(nèi)應(yīng)該有嚴(yán)重的緊迫感?！盎A(chǔ)模型…是構(gòu)建 AI 系統(tǒng)的新興范式，可導(dǎo)致前所未有的同質(zhì)化水平：?jiǎn)我荒Ｐ妥鳛楸姸嘞掠螒?yīng)用的基礎(chǔ)，帶來(lái)廣泛的同質(zhì)化的影響，” Percy Liang在一次采訪(fǎng)中說(shuō)。

論文綜述了此類(lèi)模型的各種能力（如語(yǔ)言、視覺(jué)、機(jī)器人、推理、人機(jī)交互以）及模型對(duì)其應(yīng)用（如法律、醫(yī)療保健、教育等方面）的社會(huì)影響，如不公平、濫用、影響環(huán)境、法律和道德等。論文中表示，“我們目前對(duì)基礎(chǔ)模型如何工作、何時(shí)失敗及由于它們的緊急特性而具有的能力缺乏清晰的了解”，“黑盒”特性也使這些強(qiáng)大的模型要想真正被用于造福人類(lèi)依然有很多亟待解決的問(wèn)題。

發(fā)布于A(yíng)rxiv的綜述論文（https://arxiv.org/pdf/2108.07258.pdf）