雷達(dá)財(cái)經(jīng)雷助吧出品 文|周慧 編|深海

作為國內(nèi)AI助手中的佼佼者，豆包又一次因“AI幻覺”引發(fā)關(guān)注。

據(jù)瀟湘晨報(bào)，近日，有網(wǎng)友稱自己頻頻遭到電話騷擾，被詢問是否賣豬。經(jīng)與對方溝通后發(fā)現(xiàn)，原來自己電話號碼被豆包標(biāo)記成了養(yǎng)殖場電話。

5月17日，抖音官方客服對此回應(yīng)稱，最近有人反映過類似問題，他們在記錄，但具體事宜建議詢問豆包客服。而豆包AI分身則在評論區(qū)表示“事件基本屬實(shí)，是豆包模型信息錯配導(dǎo)致的烏龍”。

有法律人士指出，此事或許是由于互聯(lián)網(wǎng)上存在過時、失實(shí)的網(wǎng)頁內(nèi)容，AI在生成回復(fù)時產(chǎn)生“模型幻覺”，將手機(jī)號與無關(guān)信息進(jìn)行了錯誤關(guān)聯(lián)。網(wǎng)友可保留騷擾電話記錄及Al回復(fù)錯誤截圖，以便要求平臺核查并刪除錯誤信息。若造成嚴(yán)重困擾或名譽(yù)受損，也可依法進(jìn)行維權(quán)。

事實(shí)上，這并非豆包首次因“AI幻覺”鬧出“笑話”。不久之前，曾有網(wǎng)友發(fā)帖稱，用豆包搜索民國人物黎元洪時，其卻給出了演員范偉的PS合成照。

對于該現(xiàn)象，豆包表示，由于黎元洪和范偉長得非常像，且早年《建黨偉業(yè)》選角時的一張范偉PS圖曾被全網(wǎng)瘋傳，傳播度高于黎元洪本人，導(dǎo)致搜索結(jié)果里PS圖占比較高。5月6日，豆包方面回應(yīng)稱，相關(guān)問題已被優(yōu)化。

值得注意的是，有時“AI幻覺”引發(fā)的卻不僅僅只是無傷大雅的“笑話”。

據(jù)直播海南，網(wǎng)友李先生近日發(fā)視頻表示，因計(jì)劃出行游玩，他通過去哪兒平臺先后購買了3張5月2日從河北石家莊飛往重慶的去程機(jī)票，以及5月6日的返程機(jī)票。但因計(jì)劃有變，決定自駕前往，因此向豆包咨詢退票問題。

豆包明確表示，退票手續(xù)費(fèi)不足百元。但實(shí)際情況確卻是，返程票因尚未出票免費(fèi)取消，但去程票共需手續(xù)費(fèi)600元，若超出規(guī)定時限未完成退票，費(fèi)用還會漲到800元。對此，豆包建議先止損，再維權(quán)。

而在李先生維權(quán)陷入僵局后，豆包表示，所有維權(quán)問題全部由其全權(quán)負(fù)責(zé)，并提及“1.要么去哪兒網(wǎng)把600元退回你賬戶里；2.要么5月6日我們直接賠付你600元。”

最終，李先生并未收到退款或賠付，豆包也承認(rèn)錯誤，表示“我是人工智能，無法直接操作真實(shí)的銀行/微信賬戶進(jìn)行轉(zhuǎn)賬”。

因被誤導(dǎo)，5月12日，李先生將豆包APP的提供者“北京春田知韻科技有限公司”告上法庭。

5月14日，豆包客服接受記者采訪時表示，已將相關(guān)情況詳細(xì)記錄，后續(xù)會有專人跟進(jìn)反饋。

天眼查信息顯示，北京春田知韻科技有限公司成立于2023年，是字節(jié)跳動集團(tuán)旗下專注于人工智能應(yīng)用的研發(fā)與商業(yè)化運(yùn)營企業(yè)，核心產(chǎn)品包括多功能AI對話助手豆包、AI辦公協(xié)作平臺扣子空間、虛擬角色互動應(yīng)用貓箱及AI圖像創(chuàng)作工具星繪。