當(dāng)AI成為名譽(yù)“殺手”

AI“傷人”，“應(yīng)戰(zhàn)”還是“諒解”？這一在模糊邊界探索的問題尚未有定論。人類和機(jī)器的“戰(zhàn)爭”仍在繼續(xù)。

文丨新京報(bào)記者胡倩 實(shí)習(xí)生 申鈺棋

編輯丨胡杰

校對丨趙琳

?本文5700字閱讀10分鐘

59歲的律師黃貴耕決定向AI“宣戰(zhàn)”。

在他提供的證據(jù)里，百度AI生成了一段介紹信息，黃貴耕被指威脅法官、向執(zhí)行局長介紹賄賂，還有偽造印章、非法吸收公眾存款等刑事犯罪事實(shí)……

黃貴耕發(fā)現(xiàn)，在百度檢索自己名字時(shí)，會被自動關(guān)聯(lián)“律師黃貴耕有沒有犯罪”“律師黃貴耕為什么不建議找”等負(fù)面信息。他認(rèn)為百度構(gòu)建了關(guān)于自己的“負(fù)面信息傳播閉環(huán)”。

黃貴耕告訴新京報(bào)記者，百度AI生成的虛假信息被傳播給他所代理案件的委托人及委托人家屬，給他帶來巨大的困擾與損失。

2025年9月，他以侵犯名譽(yù)權(quán)為由，將百度AI背后的百度公司訴上法庭。黃貴耕認(rèn)為，被視為造福人類的機(jī)器“主動傷人”，其開發(fā)運(yùn)營者具有不可推卸的責(zé)任。

這并非AI首次與人類“開戰(zhàn)”。多位受訪者告訴新京報(bào)記者，2025年以來，他們同樣遭遇了來自機(jī)器的“攻擊”：各大搜索平臺上，AI針對用戶生成負(fù)面信息，“言之鑿鑿”地對其判刑、定罪，又或是“挑唆”關(guān)聯(lián)其他負(fù)面事件。

人與機(jī)器對簿公堂，讓包括法官在內(nèi)的各界人士都感到棘手：“該怎么判？我們也在思考。”一位資深律師提出，為了保護(hù)科技創(chuàng)新，人類應(yīng)當(dāng)“忍耐”機(jī)器犯的錯(cuò)誤。也有學(xué)界專家對此說法表示反對，認(rèn)為機(jī)器背后的公司應(yīng)當(dāng)肩負(fù)保護(hù)用戶權(quán)益的責(zé)任。

AI“傷人”，“應(yīng)戰(zhàn)”還是“諒解”？這一在模糊邊界探索的問題尚未有定論。人類和機(jī)器的“戰(zhàn)爭”仍在繼續(xù)。

“對手”不是人類

2025年5月21日，黃貴耕收到一位案件委托人發(fā)來的四張截圖。截圖內(nèi)容是以“黃貴耕律師”為關(guān)鍵詞生成的百度AI檢索內(nèi)容。

百度AI總結(jié)全網(wǎng)結(jié)果顯示，“黃貴耕律師”涉及偽造公司印章案、保證期間審查案和威脅法官案。內(nèi)容的末尾還有段“特別提醒”：“需注意，檢索結(jié)果中未顯示其作為辯護(hù)律師的成功案例，所列案件均為其作為涉案人或代理人的負(fù)面事件。”

2025年5月，律師黃貴耕收到案件委托人發(fā)來的四張截圖，截圖內(nèi)容是以“黃貴耕律師”為關(guān)鍵詞的百度AI檢索結(jié)果。受訪者供圖

看完截圖，黃貴耕先是疑惑，繼而憤怒。委托方的責(zé)問很直接：請律師來打官司，結(jié)果律師自己都負(fù)面纏身，我們該怎么相信你？黃貴耕激烈地反駁：純屬毀謗，都是沒來由的事，或是有人在“搞”我。對于這些解釋，委托人并不滿意，只是模棱兩可地表示再查一下。

黃貴耕最先懷疑是同行惡性競爭，有人故意在網(wǎng)上抹黑自己。他想起自己曾與一位同行有過案源競爭，當(dāng)天，黃貴耕先向當(dāng)?shù)厮痉ň痔峤涣艘环荨皞卧炀W(wǎng)絡(luò)信息惡意詆毀同行”名義的投訴信。

花了幾天時(shí)間，黃貴耕才找到真正的“對手”。更換不同的設(shè)備，又多次變換檢索關(guān)鍵詞，他發(fā)現(xiàn)，雖然每次的生成內(nèi)容會有細(xì)微差別，但“百度AI總結(jié)全網(wǎng)搜索結(jié)果”的提示詞總是出現(xiàn)在最前端。黃貴耕反應(yīng)過來，這些信息并不由人書寫，而是AI主動生成。

AI還標(biāo)注出了信息來源：“以上案例均來自司法機(jī)關(guān)公開通報(bào)”。黃貴耕查到，AI聲稱的上述通報(bào)包括人民法院報(bào)、福建法治網(wǎng)、最高人民檢察院、北京市司法局行政處罰決定書......但一切又全是錯(cuò)的。

黃貴耕發(fā)現(xiàn)，所有信息都被“張冠李戴”“移花接木”了：“威脅法官”和“偽造印章”的情節(jié)出自新聞報(bào)道，但AI將經(jīng)過匿名處理的“律師黃某”“法律顧問黃某”篡改為他本人，還關(guān)聯(lián)上他所在的律師事務(wù)所；“偽造擔(dān)保函”的內(nèi)容出自最高檢指導(dǎo)的案例，AI又將當(dāng)事人“黃某平”替換為他的名字；“刑事犯罪被判刑和執(zhí)業(yè)資格吊銷”則是將一名匿名處理的黃姓女律師的處罰信息“嫁接”至他的名下。

同為律師，或者同樣姓黃，AI就有可能進(jìn)行信息的挪用，讓相關(guān)內(nèi)容被海量用戶檢索到。“按照這種邏輯，機(jī)器會造成無差別傷害，每個(gè)人都可能成為AI的受害者，”AI在黃貴耕心里的“客觀、理性、中立”形象轟然崩塌。

之后，黃貴耕撤回對律師同行的投訴，轉(zhuǎn)而以“百度AI惡意生成虛假負(fù)面信息，嚴(yán)重?fù)p害名譽(yù)繼而摧毀律師執(zhí)業(yè)信譽(yù)”為名，向百度公司提起民事訴訟，索賠各項(xiàng)損失109萬元。

每個(gè)人都可能成為AI的受害者

要打贏機(jī)器背后的大公司，并不是一件容易的事，黃貴耕保存了截圖與錄屏，前往公證處對百度AI檢索結(jié)果、生成路徑固定證據(jù)，與代理律師一道準(zhǔn)備了起訴狀。他甚至準(zhǔn)備了一份“百度AI虛構(gòu)事實(shí)侵權(quán)第一案”的詳細(xì)解釋稿。

2025年11月，北京海淀區(qū)人民法院受理黃貴耕訴百度公司的人格權(quán)糾紛案。受訪者供圖

某種程度上，這也符合黃貴耕的一貫行事風(fēng)格。嚴(yán)格算起來，他是一名剛執(zhí)業(yè)兩年的“新人律師”。此前，他是一名有著近二十年經(jīng)歷的法治記者，“嚴(yán)肅、嫉惡如仇，甚至較真。”黃貴耕認(rèn)為，他一貫謹(jǐn)慎地維護(hù)著個(gè)人聲譽(yù)，這也使得網(wǎng)上有關(guān)他的介紹信息極少，更遑論負(fù)面。“但現(xiàn)在這一切都被AI毀了！”

2025年11月，這起針對AI主動生成虛假信息的名譽(yù)權(quán)侵權(quán)案件被北京海淀區(qū)人民法院受理。

事實(shí)上，人和機(jī)器之戰(zhàn)的“受害者”并非黃貴耕一人，“無差別傷害”正在發(fā)生。多位受訪者告訴新京報(bào)記者，2025年以來，在各平臺搜索自己、身邊人或公眾人物的信息時(shí)，AI給出的總結(jié)里頻繁出現(xiàn)風(fēng)險(xiǎn)信息：或是將人和爭議事件關(guān)聯(lián)，或是憑空編造受罰、定罪、判刑這類負(fù)面風(fēng)險(xiǎn)情節(jié)。

2025年底，37歲的冀承祥在百度檢索姓名時(shí)，發(fā)現(xiàn)自己同樣遭受了AI的“詆毀”：百度AI將“組織賣淫罪”放在他的早年真實(shí)求學(xué)經(jīng)歷之后，稱他被法院判處有期徒刑五年六個(gè)月，而這一信息同樣“嫁接”自另一同名同姓人士。

“我剛考上編，AI就說我涉嫌嚴(yán)重違紀(jì)違法，正在接受紀(jì)律審查和監(jiān)察調(diào)查。”一位企業(yè)職員向新京報(bào)記者反映，自從包含她姓名、考試分?jǐn)?shù)和崗位信息的文件在網(wǎng)上公示一段時(shí)間后，她的相關(guān)信息總是與他人的違法處罰行為關(guān)聯(lián)上，“我同事都暗暗打聽我是不是要出事了，感覺領(lǐng)導(dǎo)看我的眼神都很‘怪異’。”

2025年11月底，在治安違法記錄封存爭議事件中，有網(wǎng)友在搜索治安管理法修改的積極推動者、全國人大代表朱征夫信息時(shí)，AI就曾顯示朱征夫兒子有吸毒的經(jīng)歷。在社交平臺上，這一信息迅速傳播，引發(fā)針對朱征夫的嚴(yán)重網(wǎng)絡(luò)暴力。之后，朱征夫報(bào)警并公開向媒體辟謠，這一內(nèi)容才從平臺撤下。

北京云嘉律師事務(wù)所高級合伙人顧金焰律師告訴新京報(bào)記者，2025年7月，他代理了一起訴AI侵犯用戶名譽(yù)權(quán)的案件，當(dāng)事人的遭遇與黃貴耕十分相似：在用百度搜索引擎檢索當(dāng)事人姓名與近況時(shí)，AI生成其“被判刑10年3個(gè)月”內(nèi)容，配以標(biāo)題“十年牢獄路，前路待光明”，并在生成信息前醒目標(biāo)注“綜合全網(wǎng)54篇真實(shí)經(jīng)驗(yàn)”。而經(jīng)過核查，這依然是一次手法粗糙的“張冠李戴”，刑期十年的信息源于某篇新聞報(bào)道中的同姓人士。

AI為何“攻擊”人類？

2025年12月，顧金焰代理的“AI名譽(yù)侵權(quán)案”在北京互聯(lián)網(wǎng)法院首次開庭。

第一層共識并不難達(dá)成，雙方都承認(rèn)：機(jī)器犯了錯(cuò)、惹了禍。“造成這樣的誤會，我們也深感歉意。”法庭上，平臺方代理律師表示，平臺搜索引擎的AI功能內(nèi)容出現(xiàn)了錯(cuò)誤，在整合信息內(nèi)容時(shí)，大模型機(jī)器將原告與另一被判刑的同姓新聞當(dāng)事人不當(dāng)關(guān)聯(lián)，導(dǎo)致了這場訴訟之戰(zhàn)。

“但沒有人該為AI犯的錯(cuò)承擔(dān)責(zé)任。”接受新京報(bào)記者采訪時(shí)，百度方代理律師將AI的“攻擊”行為解釋為“AI幻覺”，他認(rèn)為，面對海量信息，像人一樣，AI也會犯錯(cuò)，這是無法避免的事。而錯(cuò)誤也并非原告主張的“百度AI故意為之”，錯(cuò)誤信息由機(jī)器的技術(shù)代碼自動生成，“不可控、難以避免。”

也因此，百度方代理律師向新京報(bào)記者表示，使用AI的平臺對這一錯(cuò)誤不具有可預(yù)見性：“平臺將一把‘菜刀’賣出去了，并不知道AI會用它來殺人，為什么要為‘賣菜刀’的行為負(fù)責(zé)呢？”

這一觀點(diǎn)遭到了顧金焰的反駁：“平臺不是被動地‘售賣’無差別工具，它不止提供算法模型，還提供生成信息的推送和發(fā)布服務(wù)。菜刀不會選擇主動砍向誰，而基于平臺訓(xùn)練數(shù)據(jù)、算法邏輯和權(quán)重打造的AI卻可以主動砍向每個(gè)人的名譽(yù)權(quán)，這是出廠時(shí)就存在的‘錯(cuò)誤’。”他認(rèn)為，平臺對這一問題采取了放任的態(tài)度，應(yīng)當(dāng)為AI承擔(dān)侵權(quán)責(zé)任。

新京報(bào)記者從多方獲悉，截至發(fā)稿，該案尚未宣判。

2026年1月初，發(fā)現(xiàn)AI搜索生成針對他的“組織賣淫罪”錯(cuò)誤信息后，冀承祥向百度發(fā)送郵件說明相關(guān)情況，并希望得到處理反饋。受訪者供圖

對于長期從事搜索引擎AI開發(fā)業(yè)務(wù)的微軟資深工程師王斌（化名）而言，平臺的技術(shù)設(shè)計(jì)、配套措施和監(jiān)管審核跟不上，這場人與機(jī)器的“戰(zhàn)爭”并不難理解。從技術(shù)層面來看，此類案件中AI的“攻擊”現(xiàn)象屬于“低級錯(cuò)誤”：網(wǎng)頁內(nèi)容語缺乏深度語義分析，無法區(qū)分不同個(gè)體身份，又缺乏了多輪語義校驗(yàn)審核和把關(guān)機(jī)制。

王斌表示：“技術(shù)層面完全可以實(shí)現(xiàn)‘風(fēng)險(xiǎn)信息分級驗(yàn)證’，目前國際上也已經(jīng)有平臺落地相關(guān)機(jī)制。”但是，百度的AI產(chǎn)品服務(wù)或許過于粗糙，這很大概率取決于平臺的取舍平衡：“背后可能是節(jié)省預(yù)算、減輕服務(wù)器負(fù)載的商業(yè)考量，更精細(xì)的多輪校驗(yàn)流程意味著更高的算力和成本投入。”

百度和其他平臺是否可以實(shí)現(xiàn)風(fēng)險(xiǎn)信息分級驗(yàn)證，新京報(bào)記者聯(lián)系包括百度在內(nèi)多家接入AI功能的平臺方人員，截至發(fā)稿，未獲有效回復(fù)。

黃貴耕也試過在其他搜索引擎上輸入“黃貴耕律師”等關(guān)鍵詞進(jìn)行搜索，他發(fā)現(xiàn)，大部分平臺的AI功能并不會將其姓名身份關(guān)聯(lián)負(fù)面虛假信息，甚至?xí)鲃訕?biāo)注“被處罰的黃姓匿名人士不是黃貴耕律師”。他認(rèn)為，AI的形象是“惡”是“善”，仍然由其背后的平臺控制。

多位受訪者指出，被AI“傷害”后，他們先是憤怒，之后便尋找反饋、申訴途徑：“找了半天反饋入口，甚至找上了平臺客服，即使多次投訴，也還得等待好多天，內(nèi)容才可能被下架。”

2026年1月初，發(fā)現(xiàn)AI搜索生成針對他的“組織賣淫罪”錯(cuò)誤信息后，冀承祥向百度發(fā)送郵件說明相關(guān)情況，百度隨后向其致電核實(shí)情況，并將這一問題解釋為“AI抓取有誤，后續(xù)將加強(qiáng)對生成結(jié)果的監(jiān)管”。但截止發(fā)稿，冀承祥發(fā)現(xiàn)，關(guān)于他的錯(cuò)誤信息仍未得到完全更正或刪除。

一位受訪者提供的截圖顯示，她2025年9月反饋的錯(cuò)誤信息內(nèi)容，也至今未得到處理反饋。

新京報(bào)記者以用戶名義咨詢一名負(fù)責(zé)百度搜索AI業(yè)務(wù)線的工作人員，對方表示，自2025年年初推出AI搜索功能，他們便收到一定數(shù)量的用戶反饋，其中不乏負(fù)面、投訴內(nèi)容：“確實(shí)有人指出AI生成了錯(cuò)誤的內(nèi)容，也有不當(dāng)關(guān)聯(lián)信息的情況。”但針對這一問題，對方并未給出“用戶可以進(jìn)行投訴反饋”外的解決方案。

應(yīng)當(dāng)“諒解”AI犯錯(cuò)嗎？

對于傳統(tǒng)的網(wǎng)絡(luò)服務(wù)場景，發(fā)現(xiàn)被侵權(quán)后，用戶向平臺提供舉證材料，平臺核實(shí)后予以刪除。這類“通知-刪除”模式是常規(guī)解決方案。但是，在此前辦理過涉AI侵權(quán)類案件的北京互聯(lián)網(wǎng)法院法官劉承祖看來，相較于傳統(tǒng)的網(wǎng)絡(luò)服務(wù)提供者，人工智能服務(wù)提供者在技術(shù)特征、數(shù)據(jù)內(nèi)容處理和內(nèi)容展示等方面存在顯著差異，這使得“通知-刪除”規(guī)則能否直接類推適用于人工智能服務(wù)提供者的侵權(quán)行為成為實(shí)踐中爭議的焦點(diǎn)。

“人工智能生成內(nèi)容究竟屬于什么？是單純呈現(xiàn)平臺上已有的公開信息，還是屬于平臺創(chuàng)作的作品？換言之，AI在其中究竟只是扮演了被動的信息展示者角色，還是已然成為相對主動的信息生成整合者，其技術(shù)是中立的還是有偏向的？平臺應(yīng)當(dāng)承擔(dān)多少注意義務(wù)？‘通知-刪除’規(guī)則、技術(shù)中立原則是否適用？這都需要根據(jù)AI算法模型背后的訓(xùn)練數(shù)據(jù)、應(yīng)用邏輯綜合判斷，我們也無法下一個(gè)普適性的結(jié)論，需要結(jié)合個(gè)案的技術(shù)細(xì)節(jié)、侵權(quán)場景等綜合分析認(rèn)定。”

他表示，在人工智能生成物引發(fā)的人格權(quán)侵權(quán)糾紛案件中，司法實(shí)踐正面臨“法律適配”與“規(guī)則探索”的雙重挑戰(zhàn)：一方面，現(xiàn)有法律框架難以完全適配AI技術(shù)的快速迭代，法律法規(guī)層面仍存在一定的模糊地帶。另一方面，在現(xiàn)有法律框架下，針對“AI侵權(quán)”案件可供參考的裁判案例數(shù)量并不多，在司法實(shí)踐中仍需不斷探索完善人工智能服務(wù)提供者的權(quán)責(zé)邊界。

對于這場人與機(jī)器的“戰(zhàn)爭”，究竟站在哪方，各方的考量并不相同。

“為保護(hù)技術(shù)創(chuàng)新，社會需要給予AI試錯(cuò)的空間，一定程度上容忍此類情況的發(fā)生。”一位長期研究知識產(chǎn)權(quán)領(lǐng)域的高校法學(xué)教授認(rèn)為，他理解被侵權(quán)用戶的處境，但在當(dāng)前場景下，當(dāng)公民人格權(quán)與企業(yè)技術(shù)創(chuàng)新產(chǎn)生沖突，且平臺過錯(cuò)不明顯時(shí)，應(yīng)當(dāng)適當(dāng)傾斜于技術(shù)創(chuàng)新者：“這是對大模型創(chuàng)新的保護(hù)與激勵(lì)。”

“整個(gè)互聯(lián)網(wǎng)時(shí)代，日本和歐洲因過嚴(yán)的監(jiān)管和過高的要求，阻礙了全球性的創(chuàng)新型互聯(lián)網(wǎng)公司的成長，而中國和美國（這類公司）則不斷涌現(xiàn)、蓬勃生長。”他進(jìn)一步解釋。

“法律與司法在鼓勵(lì)技術(shù)發(fā)展與保護(hù)個(gè)人權(quán)利間尋求平衡點(diǎn)，不應(yīng)簡單要求公眾‘容忍錯(cuò)誤’。”長期研究數(shù)據(jù)法治領(lǐng)域的華東政法大學(xué)刑事法學(xué)院副教授、上海市數(shù)字化轉(zhuǎn)型與數(shù)字法治建設(shè)研究創(chuàng)新團(tuán)隊(duì)研究員房慧穎給出了不同的立場。

她認(rèn)為，當(dāng)技術(shù)應(yīng)用對公民名譽(yù)權(quán)等法益造成現(xiàn)實(shí)且嚴(yán)重的損害時(shí)，法律必須提供有效救濟(jì)。

她告訴新京報(bào)記者，“通知-刪除”這一后端補(bǔ)救機(jī)制難以全面規(guī)制平臺的行為，“應(yīng)當(dāng)升級平臺治理規(guī)則，履行保證人的義務(wù)，而非放任錯(cuò)誤內(nèi)容或有害內(nèi)容生成。”平臺向公眾提供此類服務(wù)，理應(yīng)承擔(dān)更嚴(yán)格的研發(fā)注意義務(wù)。

她提出，“分級管理”或許是破解這一兩難困境的關(guān)鍵。“平臺應(yīng)當(dāng)構(gòu)建精細(xì)化的治理體系：對于普通類別信息，例如生活資訊、娛樂消息，可以適當(dāng)簡化審核流程。但涉及‘違法’‘犯罪’等可能嚴(yán)重影響公民聲譽(yù)的敏感信息時(shí)，必須使用權(quán)威數(shù)據(jù)庫，或要求多重交叉信源驗(yàn)證，確保信息準(zhǔn)確。”

這一方案也得到了資深A(yù)I工程師王斌的認(rèn)可。他強(qiáng)調(diào)，頭部AI企業(yè)作為行業(yè)標(biāo)桿，理應(yīng)承擔(dān)起風(fēng)險(xiǎn)信息多重驗(yàn)證的主體責(zé)任，這既是合規(guī)要求，也是行業(yè)可持續(xù)發(fā)展的基礎(chǔ)。

“隨著技術(shù)迭代，公眾對AI檢索精度和可靠性的期待只會越來越高。”劉承祖認(rèn)為，隨著技術(shù)不斷發(fā)展，AI檢索的精度和可靠性也會逐步提高，他希望能通過典型案例的裁判指引，推動人工智能技術(shù)服務(wù)提供者加強(qiáng)技術(shù)應(yīng)用的風(fēng)險(xiǎn)防控，優(yōu)化平臺算法設(shè)計(jì)，推動人工智能技術(shù)在合法合規(guī)的軌道上健康發(fā)展。

人與機(jī)器的“戰(zhàn)爭”仍在繼續(xù)，兩起訴訟的當(dāng)事人均選擇不“諒解”。黃貴耕表示，除了要一個(gè)道歉，他還希望借此為人類“討個(gè)公道”：人在機(jī)器、大公司面前是弱勢，憑什么要我“諒解”你？

星標(biāo)“剝洋蔥people”

及時(shí)接收最新最熱的推文

━━━━━━━━━━━━━━━

洋蔥話題

你對此事怎么看？

江蘇科大“首席科學(xué)家”郭偉的假面人生

農(nóng)民工劉詩利的體面

80后，等來考公“復(fù)活賽”