chatGPT生成的程序小狗。

近日，一款名為ChatGPT的聊天機(jī)器人火遍全球，該機(jī)器人的研發(fā)公司OpenAI表示，ChatGPT上線短短5天用戶數(shù)量已突破100萬。在網(wǎng)友們曬出的截圖中，ChatGPT不僅能流暢地與人對話，還能寫代碼、找Bug、做海報、寫年報……甚至還以魯迅的文風(fēng)進(jìn)行天馬行空的創(chuàng)作，幾乎無所不能。

ChatGPT并非市面上唯一一款對話型人工智能系統(tǒng)。早在去年的I/O開發(fā)者大會上，谷歌就演示了專門為對話而建立的LaMDA系統(tǒng)。今年春天，一名谷歌工程師甚至表示LaMDA有自己的“意識”。雖然這一說法遭到了許多人的強(qiáng)烈批評，但卻實實在在地抓住了公眾的想象力。

對話型AI有何玄機(jī)？

ChatGPT是人工智能研究實驗室OpenAI在11月30日發(fā)布的全新聊天機(jī)器人。在OpenAI的官網(wǎng)上，ChatGPT被描述為優(yōu)化對話的語言模型，是InstructGPT的姐妹模型。這個模型以對話的形式進(jìn)行互動，使得ChatGPT能夠回答后續(xù)問題、承認(rèn)錯誤、發(fā)出質(zhì)疑并拒絕不適當(dāng)?shù)恼埱蟆?/p>

據(jù)澎湃新聞此前報道，ChatGPT采用了和InstructGPT一樣的人類反饋中強(qiáng)化學(xué)習(xí)（RLHF，Reinforcement Learning from Human Feedback）技術(shù)，通過將抹去個人信息的人工注釋添加到訓(xùn)練集之前，利用這些數(shù)據(jù)來進(jìn)行模型的微調(diào)，達(dá)到了提高幫助性和真實性，同時減輕語言模型的危害和偏見的效果。

LaMDA則是谷歌公司在去年5月推出的一款突破性對話應(yīng)用語言模型技術(shù)（The Language Model of Dialogue Applications），谷歌稱其可以參與流動性的自由對話。據(jù)《紐約時報》12月12日報道，LaMDA即人工智能研究人員所稱的神經(jīng)網(wǎng)絡(luò)，是一個松散地、仿照大腦中神經(jīng)元網(wǎng)絡(luò)的數(shù)學(xué)系統(tǒng)。這一技術(shù)在谷歌翻譯、自動駕駛等服務(wù)中也有使用。

這樣一個神經(jīng)網(wǎng)絡(luò)會通過分析數(shù)據(jù)來學(xué)習(xí)技能，例如，通過在數(shù)以千計的貓咪照片中找出固定模式，從而學(xué)會識別一只貓。

5年前，谷歌和OpenAI等實驗室的研究人員開始設(shè)計神經(jīng)網(wǎng)絡(luò)，分析海量的數(shù)字文本，包括書籍、維基百科、新聞報道和在線聊天記錄，科學(xué)家們將它們稱為“大型語言模型”。該技術(shù)可以自動生成文本，并結(jié)合不同的概念、模仿人們寫的東西。

通過ChatGPT，OpenAI已經(jīng)努力完善了這項技術(shù)。ChatGPT不像LaMDA那樣能夠進(jìn)行自由對話，它被設(shè)計得更像是Siri、Alexa這類的數(shù)字助手。不過與LaMDA一樣，ChatGPT是在從互聯(lián)網(wǎng)上摘取的數(shù)字文本的海洋中訓(xùn)練而成的。

聊天機(jī)器人并不總說實話

經(jīng)過海量信息的訓(xùn)練，ChatGPT這類的聊天機(jī)器人能夠很輕易地提供想法、回答問題，但是它們并不總是說實話。它們提供的答案有時真假參半，這導(dǎo)致人們開始擔(dān)憂，隨著技術(shù)的成熟，這類機(jī)器人可能會被利用來傳播假消息和謠言。

一位來自美國弗吉尼亞州的數(shù)據(jù)科學(xué)家亞倫·馬格利斯（Aaron Margolis）告訴《紐約時報》，雖然他時常驚異于LaMDA的開放式對話天賦，但它有時候會“胡編亂造”，因為這是一個被互聯(lián)網(wǎng)信息訓(xùn)練出來的系統(tǒng)。

當(dāng)馬格利斯要求LaMDA像馬克·吐溫那樣與自己聊天時，LaMDA很快描述了吐溫與李維斯·施特勞斯（Levis Strauss）之間的會面，并說馬克·吐溫在19世紀(jì)中期居住在舊金山時曾為李維斯這位牛仔褲大亨工作。這看起來像是真的，但事實是，盡管馬克·吐溫和李維斯同時居住在舊金山，但他們從未一起工作過。

科學(xué)家將這種現(xiàn)象稱為“幻覺”——聊天機(jī)器人就像一個很會講故事的人，它們有辦法把它們學(xué)到的東西重塑成新的東西，但不考慮這些是否真實。

據(jù)澎湃新聞此前報道，ChatGPT在釋出不久后就遭到了Stack Overflow（一個程序設(shè)計領(lǐng)域的問答網(wǎng)站）的抵制。Stack Overflow暫時禁止用戶分享ChatGPT生成的回復(fù)，因為ChatGPT很容易與用戶互動，能夠快速生成大量答案，這讓網(wǎng)站充斥著許多看似可信但不正確的信息。

OpenAI公司也清楚ChatGPT并不完美。該公司警告稱，ChatGPT偶爾可能會“提供不正確的信息”，“產(chǎn)生有害的指令或有偏見的內(nèi)容”，但OpenAI稱計劃繼續(xù)完善該技術(shù)，并提醒用戶“這還只是一個研究項目”。

人工智能將去向何方？

谷歌、Meta等眾多科技公司正在著手解決人工智能的準(zhǔn)確性問題。Meta公司最近下線了其聊天機(jī)器人Galactica的在線預(yù)覽功能，因為它反復(fù)產(chǎn)生不正確和帶有偏見的信息。

但仍有專家警告稱，科技公司無法掌控這些技術(shù)的命運(yùn)，像ChatGPT、LaMDA和Galactica這樣的系統(tǒng)是基于多年來自由流傳的想法、研究論文和計算機(jī)代碼?！都~約時報》11日評論稱，像谷歌和OpenAI這樣的公司可以以比別人更快的速度推動技術(shù)的發(fā)展，但是他們最新的技術(shù)已經(jīng)被復(fù)制和廣泛傳播，他們無法阻止人們利用這些系統(tǒng)來傳播錯誤信息。

ChatGPT上線后，特斯拉CEO埃隆·馬斯克在社交平臺上表示：“我們離強(qiáng)大到危險的AI（人工智能）不遠(yuǎn)了”。作為OpenAI公司的創(chuàng)始人之一，馬斯克顯然無限看好這類新技術(shù)的發(fā)展，但是他也不否認(rèn)，強(qiáng)大的新技術(shù)往往伴隨著危險。

人工智能未來將發(fā)展到何種程度尚未可知，但可以確定的是，人工智能的監(jiān)管與控制問題近在眼前。