又一例：律師陷入AI幻覺，被法官當(dāng)庭訓(xùn)誡

有的案號與對應(yīng)案件信息無法匹配，有的案例事實與實際裁判文書內(nèi)容不符，有的司法解釋條文被篡改，還有部分引用內(nèi)容無法找到真實來源。一問竟是AI生成的！

7月20日，湖北省宜昌市西陵區(qū)法院發(fā)布信息稱，法官在審理一起“以非藥品冒充藥品”案中，發(fā)現(xiàn)代理律師提交的案例材料大部分為AI生成的不實案例。據(jù)此，承辦法官當(dāng)庭對該律師予以訓(xùn)誡。

案件審理中，代理律師為支持自己的訴訟請求，向法庭提交了一組案例材料作為參考依據(jù)。法官對相關(guān)案例當(dāng)庭核查，發(fā)現(xiàn)其中多數(shù)案例存在明顯異常。

例如，其中一份材料提供了相似案例，案件網(wǎng)址和案例均屬實，但法官核實發(fā)現(xiàn)，其虛構(gòu)裁判要旨，誤導(dǎo)審判。

另一份材料提供了外省某地法院判決的相關(guān)案例，并附有案號和中國裁判文書網(wǎng)網(wǎng)址鏈接，法官在中國裁判文書網(wǎng)查詢，并沒有材料上的這個案號，案例屬虛構(gòu)。

還有一份材料，雖然案號是存在的，但案號對應(yīng)的案例是一起幫信罪判決書，與材料里提供的案例毫無關(guān)系。

還有材料提供了最高法最高檢的司法解釋條款，法官對比發(fā)現(xiàn)，司法解釋條文被篡改；還有的材料引用了國家相關(guān)部門的通知，卻虛構(gòu)文件的核心條款。

庭審中，法官指出相關(guān)材料存在的問題，并要求說明情況。律師稱這些材料并非自己逐一整理，而是由助理借助AI工具收集匯總后形成，且在提交前未經(jīng)全面核實。

法院認(rèn)為，部分案例內(nèi)容與實際情況不符，不具備參考價值。律師作為案件代理人，無論材料來源于助理整理，還是借助人工智能工具生成，對提交法庭的材料負(fù)有審查核實義務(wù)。最終，該律師因未盡到應(yīng)有審查責(zé)任當(dāng)庭受到訓(xùn)誡。

AI在法律領(lǐng)域的運(yùn)用已經(jīng)勢不可擋，但其會提供虛假法律資料已經(jīng)是公開的秘密

最近兩年，人工智能AI技術(shù)的發(fā)展，在之前僅是資料搜索的基礎(chǔ)上，越來越多發(fā)展出材料編輯、加工、分析的能力，其中的重要領(lǐng)域就包括法律行業(yè)。

網(wǎng)上，有人發(fā)布自己的事例稱，自己并非法律科班出身，之前買了一盒普洱茶，回家發(fā)現(xiàn)是三無產(chǎn)品。商家不退貨，市場監(jiān)管部門罰了商家5000多元，但卻對其要求的商家退貨退款沒有做出處理，建議另行解決。

于是，他向AI求助，得到的答復(fù)是，可以起訴，并直接幫其他列出打官司需要的，付款截圖、實物照片、包裝、市場監(jiān)管處罰信息等證據(jù)材料，并列出了消費(fèi)者權(quán)益保護(hù)法、食品安全法等法律根據(jù)，提示可以主張10倍賠償。

根據(jù)以上材料，AI還給出了一份起訴狀。材料提交給法院，按照法院規(guī)定的步驟，立案、開庭，結(jié)果一審贏了。對方不服，上訴到深圳中院，還請了律師。

他把對方上訴狀發(fā)給AI，再把AI給出的反駁意見寫進(jìn)答辯狀。二審維持了一審判決，自己沒有請律師，法院也支持了1.7萬多元。

今年4月1日，“深圳特區(qū)報”報道稱，深圳法院人工智能輔助審判系統(tǒng)已全面覆蓋民事、行政、刑事訴訟，立案、閱卷、庭審、文書制作等審判業(yè)務(wù)的四大環(huán)節(jié)85項流程，實現(xiàn)人工智能全鏈條賦能。

報道中，深圳中院一位法官表示：“系統(tǒng)就像是給每個法官配備了24小時工作的數(shù)字助手，很多難點、痛點、耗時多的任務(wù)都可以由它提供輔助。”在深圳中院審理的一起合同糾紛案件中，系統(tǒng)自動匹配推送了23個類似案例，將庭審準(zhǔn)備時間從以往的3天縮短至1天，同時確保了裁判標(biāo)準(zhǔn)的統(tǒng)一性。

可見，法律領(lǐng)域的人工智能，不僅社會大眾在用，法律專業(yè)人士的律師、法官也都在用。

7月17日到20日在上海召開的世界人工智能大會上，公開資料顯示，眾多廠商推出了多款法律AI產(chǎn)品。科大訊飛副總裁、星火曉法（上海）科技有限公司總經(jīng)理雍文淵介紹：

展望未來，法官、檢察官、律師、企業(yè)法務(wù)乃至普通民眾，都會擁有專屬AI法務(wù)助理；法律服務(wù)持續(xù)下沉普惠，AI降低服務(wù)門檻，覆蓋租房糾紛、鄰里侵權(quán)等日常法律需求；AI補(bǔ)足涉外法律人才供給短板，支撐跨國并購、跨境投融資等高階涉外業(yè)務(wù)。

不過，AI幻覺話題，也成了世界人工智能大會繞不開的話題。此前北京通州法院入選全國法院案例庫的判例就顯示，有律師直接把 AI 生成的虛假案例提交法院，被法官白紙黑字寫進(jìn)判決書批評教育。

近日，一篇《AI判定我持有假記者證》的文章在媒體圈刷屏。一位擁有國家新聞出版署核發(fā)記者證的記者，將證件發(fā)給采訪對象后，對方認(rèn)為記者證是偽造的。后者給出的理由是，一大段條理分明的文字，并稱系來自AI判斷。

近日，還有媒體報道，近期多地曝出有市民用AI識圖功能判斷野生菌有沒有毒，最終誤食有毒菌而中毒的事件。多地疾控部門發(fā)布安全預(yù)警，提醒公眾不能使用AI識別工具、識圖軟件等判斷野生菌類能否食用。

語人君在使用AI搜索時，也曾經(jīng)遇到過，AI給出了具體的法條，但一看便知道，其給出的法條內(nèi)容，跟現(xiàn)行的法條根本不一致。事后想想，應(yīng)該是這幾年法律條文變化太快了，AI數(shù)據(jù)庫稍有更新不及時，或是入庫版本混亂，都會導(dǎo)致AI給出的結(jié)果混亂。

如何在法律事務(wù)處理、司法訴訟中，運(yùn)用好AI工具，同時又要避免被AI幻覺所欺騙，進(jìn)而遭到法院的駁斥和處罰，總結(jié)起來就是一點，對于AI提供的具體法條、法院案例，一定要有一一進(jìn)行查找核對原文。