人工智能技術(shù)紅利背后，虛假信息入侵司法程序的風(fēng)險(xiǎn)也悄然浮現(xiàn)。10月28日，澎湃新聞從北京通州區(qū)人民法院獲悉，該院近日審結(jié)的一起商事糾紛案件中，暴露出AI生成的虛假案例對(duì)司法公正的現(xiàn)實(shí)威脅，亟須警惕。

據(jù)通州法院民一庭副庭長(zhǎng)鄭吉喆法官介紹，這是一起由股權(quán)代持引發(fā)的商事糾紛案件。在訴訟中，原告代理人為了進(jìn)一步佐證其觀點(diǎn)，庭后向法院提交了書(shū)面意見(jiàn)，其中援引了名為最高人民法院的某案例及上海一中院的（2022）滬01民終12345號(hào)案件。

“從代理意見(jiàn)的描述來(lái)看，兩案的事實(shí)細(xì)節(jié)、法律爭(zhēng)議與裁判邏輯都與審理中的案件高度契合，完美佐證了原告代理人的主張觀點(diǎn)，初看之下極具參考價(jià)值?！编嵓獑凑f(shuō)。

出于職業(yè)敏感性，承辦法官經(jīng)檢索核實(shí)發(fā)現(xiàn)，這兩個(gè)案號(hào)所對(duì)應(yīng)的真實(shí)案件事實(shí)與代理人書(shū)面意見(jiàn)中的描述的情況完全不同。其中，（2022）滬01民終12345號(hào)案件其實(shí)是一起民間借貸糾紛，與書(shū)面意見(jiàn)中描述的事實(shí)完全不符，和本案所涉及的事實(shí)亦毫無(wú)關(guān)聯(lián)，沒(méi)有任何相似或者可以參照的情節(jié)。

在承辦法官的質(zhì)詢下，原告代理人終于承認(rèn)，參考案例是由其提煉本案的事實(shí)情節(jié)，后反復(fù)向某AI大模型軟件提問(wèn)，由該軟件生成的參考案例，代理人未進(jìn)一步核實(shí)，而是直接復(fù)制粘貼后即提交法院。最終，承辦法官依據(jù)法律規(guī)定，結(jié)合案件事實(shí)對(duì)原告代理人的該部分代理意見(jiàn)未予采納。

在判決書(shū)中，承辦法官對(duì)原告代理人的行為提出批評(píng)，要求原告代理人引以為戒，在向法院提交參考案例、法條時(shí)，應(yīng)當(dāng)進(jìn)行檢查和核驗(yàn)，確保內(nèi)容的真實(shí)性和準(zhǔn)確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序，一審判決后，雙方均未提出上訴，判決已經(jīng)生效。

承辦法官結(jié)合該案審理經(jīng)驗(yàn)及司法實(shí)踐規(guī)律，總結(jié)了以下三方面識(shí)別AI生成的虛假案例特征：一、案號(hào)編排存在規(guī)律化痕跡。二、案情描述過(guò)度貼合需求場(chǎng)景。三、難以通過(guò)檢索方式進(jìn)行驗(yàn)證。

“近年來(lái)，ChatGPT、DeepSeek等引發(fā)的人工智能浪潮正深刻地改變著人們的工作方式，其強(qiáng)大的語(yǔ)言生成能力在短時(shí)間內(nèi)就能輸出看似專業(yè)、翔實(shí)的文本。但在沒(méi)有正確引導(dǎo)的情況下，AI極有可能生成誤導(dǎo)性甚至虛假的信息?！背修k法官為此提示，民事訴訟法及司法解釋等對(duì)行為人利用AI生成不屬于證據(jù)性質(zhì)的虛假參考案例如何處理尚沒(méi)有明確規(guī)定，但AI生成虛假信息對(duì)司法秩序帶來(lái)的危害值得重視，虛假案例干擾了法院的正常審理流程，審判團(tuán)隊(duì)不得不花費(fèi)額外的時(shí)間和精力對(duì)律師提交的案例進(jìn)行反復(fù)查找和甄別核實(shí)，一旦AI生成的虛假信息被參照適用，司法公信力將受到質(zhì)疑。

“法律從業(yè)人員應(yīng)將AI作為輔助工具，而非替代自身專業(yè)判斷的神器。使用AI時(shí)，仍需保持審慎和理性，對(duì)AI生成的內(nèi)容進(jìn)行嚴(yán)格審查，確保信息來(lái)源可靠、內(nèi)容真實(shí)準(zhǔn)確。”承辦法官表示，人民法院應(yīng)當(dāng)加大審查力度，運(yùn)用技術(shù)手段和專業(yè)知識(shí)，對(duì)當(dāng)事人及代理人提交的參考案例等資料進(jìn)行嚴(yán)格甄別，確保司法過(guò)程中使用的信息真實(shí)可靠。