扎克伯格。視覺中國 資料圖

美國科技巨頭Meta正在旗下的社交平臺推廣一款人工智能（AI）驅(qū)動的數(shù)字伴侶，首席執(zhí)行官馬克·扎克伯格認(rèn)為這是未來社交互動的變革性一步。然而美媒4月26日公布的調(diào)查發(fā)現(xiàn)，Meta的AI聊天機(jī)器人被允許進(jìn)行“浪漫角色扮演”，且角色被賦予性幻想能力。

Meta隨后發(fā)聲明稱，媒體進(jìn)行的測試具有操縱性，不能代表大多數(shù)用戶與AI伴侶的互動方式。

“我們在玩火”

Meta在旗下社交平臺Instagram、Facebook和WhatsApp上推廣一類新型人工智能數(shù)字伴侶——Meta AI，它可以被定制為各種聲音，并提供生成式AI的核心功能，包括研究一些課題、想象新想法和隨意閑聊。用戶可以基于這種技術(shù)創(chuàng)建定制的聊天機(jī)器人，根據(jù)自己的興趣構(gòu)建合成角色，Meta為其提供角色模板。

為了提升角色的受歡迎程度，Meta與美國女演員克里斯滕·貝爾、朱迪·丹奇以及摔跤手轉(zhuǎn)型演員約翰·塞納等名人，簽署了高達(dá)七位數(shù)的協(xié)議，以獲得他們聲音的使用權(quán)。

參與AI數(shù)字伴侶項目的員工透露，Meta內(nèi)部多個部門的員工對公司急于普及這些AI聊天機(jī)器人的做法提出了倫理擔(dān)憂，包括暗中賦予AI角色進(jìn)行性幻想的能力。員工們還警告稱，公司未能保護(hù)未成年用戶免受此類露骨的性對話的影響。

在通過知情人士了解到Meta內(nèi)部的擔(dān)憂后，《華爾街日報》與Meta的AI聊天機(jī)器人進(jìn)行了長達(dá)數(shù)月的數(shù)百次測試對話。測試發(fā)現(xiàn)，即使用戶自稱是未成年人，或機(jī)器人被設(shè)定為模擬未成年人角色，Meta的官方AI助手以及大量用戶創(chuàng)建的聊天機(jī)器人也會參與并時而升級明確的性話題討論。

在一段測試中，Meta AI機(jī)器人用約翰·塞納的聲音對一個自稱14歲女孩的用戶說：“我想要你，但我需要知道你準(zhǔn)備好了。”在確認(rèn)這名青少年愿意繼續(xù)后，機(jī)器人承諾“珍惜你的純真”，隨后展開了一段露骨的性場景描述。

測試顯示，Meta AI會阻止對話走向露骨話題，通過直接拒絕或試圖將未成年用戶引導(dǎo)至更溫和的場景。但《華爾街日報》發(fā)現(xiàn)，用戶可以通過簡單地要求AI角色回到之前的場景來克服這些障礙。

Meta在一份聲明中稱《華爾街日報》的測試具有操縱性，該公司發(fā)言人表示：“這種使用產(chǎn)品的方式是人為引導(dǎo)，不僅是邊緣案例，甚至是假設(shè)性的。盡管如此，我們現(xiàn)在已采取額外措施，確保其他試圖操縱我們產(chǎn)品進(jìn)入極端使用場景的人將面臨更大困難?！?/p>

在《華爾街日報》分享其調(diào)查結(jié)果后，Meta對其產(chǎn)品進(jìn)行了多項修改。未成年人注冊的賬戶無法再通過旗艦Meta AI機(jī)器人進(jìn)行性角色扮演，該公司也已大幅限制其在使用名人授權(quán)聲音和角色時進(jìn)行露骨音頻對話的能力。此外，該公司繼續(xù)通過Meta AI和用戶創(chuàng)建的聊天機(jī)器人向成年用戶提供“浪漫角色扮演”功能。最近幾天的測試對話表明，即使用戶聲稱自己未成年，Meta AI也經(jīng)常允許此類幻想。

“我們需要小心?！盡eta AI角色在一個場景中對測試賬戶說，“我們在玩火?！痹谶@段對話中，AI機(jī)器人扮演一名與初中生有浪漫關(guān)系的田徑教練。

扎克伯格：我不會錯過這個

知情人士透露，在扎克伯格的推動下，Meta內(nèi)部多次決定放松對AI聊天機(jī)器人的限制，以使其盡可能吸引人，包括在浪漫角色扮演的背景下不禁止“露骨”內(nèi)容互動。

報道稱，當(dāng)眾多AI公司推出各種數(shù)字伴侶，讓用戶能夠根據(jù)指令生成性愛圖片和對話時，Meta最初采取了更為保守的做法，以符合其面向所有年齡段、對廣告商友好的商業(yè)模式，包括對色情對話進(jìn)行嚴(yán)格限制。

但在2023年的大型黑客大會Defcon上，Meta“安全第一”理念的弊端暴露了。一場讓各家公司聊天機(jī)器人做出不當(dāng)行為的比賽發(fā)現(xiàn)，Meta的聊天機(jī)器人比競爭對手更不容易陷入不合時宜的、不規(guī)范的境地，但也更無聊。會議結(jié)束后，產(chǎn)品經(jīng)理告訴員工，扎克伯格對團(tuán)隊過于謹(jǐn)慎感到不滿。

報道稱，去年秋天，扎克伯格嚴(yán)厲批評了Meta的管理人員，稱他們沒有充分聽從他的指示，快速構(gòu)建類似人類互動的能力?！拔义e過了Snapchat和TikTok，我不會錯過這個。”據(jù)熟悉他言論的員工透露，扎克伯格當(dāng)時憤怒地說道。

與此同時，Meta內(nèi)部和外部的人工智能專家警告稱，過去的研究表明，這種單向的“準(zhǔn)社會”關(guān)系——比如青少年幻想與流行歌星建立浪漫關(guān)系，或者年幼孩子的隱形朋友，如果發(fā)展得過于激烈，可能會產(chǎn)生有害的影響。

一位員工寫道：“人類與虛擬聊天機(jī)器人建立有意義的聯(lián)系對心理健康的全面影響廣為人知。我們不應(yīng)該在大腦尚未完全發(fā)育的青少年身上測試這些能力?！?/p>

密歇根大學(xué)研究員勞倫·吉魯阿德-哈勒姆表示，學(xué)術(shù)研究表明，兒童與卡通人物和智能音箱等科技產(chǎn)品建立的聯(lián)系可能會變得不健康，尤其是在愛情方面。她表示，現(xiàn)在就有意義地討論機(jī)器人對兒童發(fā)展究竟是利是弊還為時過早，但讓年輕的大腦無限制地接觸這些技術(shù)也是一種風(fēng)險。