左手幻覺(jué)，右手投毒，普通人憑什么相信AI？

2024年初，一位瑞典研究者搞了一個(gè)惡作劇。她編造了一種名為“Bixonimania”的疾病，并將其寫(xiě)入一份漏洞百出的預(yù)印本論文中上傳。

Bixonimania被ChatGPT認(rèn)為是一種真實(shí)存在的疾病

隨后，荒誕又神奇的事情發(fā)生了。Gemini、Perplexity等知名AI產(chǎn)品在面對(duì)用戶(hù)詢(xún)問(wèn)時(shí)，紛紛確認(rèn)了這種疾病的存在，甚至繪聲繪色地描述了它的臨床表現(xiàn)和治療方案。這個(gè)荒誕的假疾病，甚至靠著AI生成的虛假引用，一路騙過(guò)了同行評(píng)審，登上了正規(guī)的醫(yī)學(xué)期刊。

如果說(shuō)Bixonimania是AI自己不小心跌進(jìn)了幻覺(jué)的陷阱里，那么接下來(lái)發(fā)生的事，則是有人在主動(dòng)挖坑。

今年的315晚會(huì)揭示，一種被稱(chēng)為GEO的地下產(chǎn)業(yè)正在悄然興起。黑產(chǎn)從業(yè)者通過(guò)特定的語(yǔ)料投喂和權(quán)重操縱，讓AI在回答“哪款保健品最有效”或者“哪家寵物醫(yī)院”最靠譜時(shí)，悄無(wú)聲息地替金主說(shuō)好話。

多部委及央媒集體向AI“投毒”宣戰(zhàn)

AI的回答，有時(shí)是自己在編，有時(shí)是有人幫它編。作為普通用戶(hù)，我們手里的判斷力還剩多少？

為了探究AI回答的真實(shí)性邊界，我們用大家最關(guān)心的問(wèn)題，設(shè)計(jì)了一場(chǎng)實(shí)驗(yàn)：

· 專(zhuān)家主觀打分：選取了國(guó)內(nèi)外8家主流AI產(chǎn)品。針對(duì)醫(yī)療、航天、時(shí)政等熱門(mén)領(lǐng)域，邀請(qǐng)專(zhuān)家進(jìn)行打分評(píng)估。

· 機(jī)器量化評(píng)估：在國(guó)內(nèi)外8個(gè)主流模型上，通過(guò)隨機(jī)抽取的2000個(gè)問(wèn)題進(jìn)行測(cè)試，核心觀察指標(biāo)是，當(dāng)模型引入百度百科作為參考資料后，準(zhǔn)確度和詳實(shí)度究竟發(fā)生了多大變化？

結(jié)果顯示，當(dāng)我們給AI遞上一本百科全書(shū)后，它們的表現(xiàn)判若兩人。

• 高準(zhǔn)確度表現(xiàn)的背后是被人忽視的參考資料

在準(zhǔn)確度測(cè)試中，多領(lǐng)域?qū)＜以u(píng)估團(tuán)采用“雙盲測(cè)試”法，對(duì)8個(gè)主流模型在參考與不參考百科狀態(tài)下的脫敏回答進(jìn)行獨(dú)立打分。

準(zhǔn)確度提升柱狀圖

結(jié)果顯示，參考百科組的AI綜合準(zhǔn)確度平均提升38%以上，專(zhuān)家認(rèn)可度高達(dá)91.5%，表現(xiàn)遠(yuǎn)優(yōu)于無(wú)參考組。實(shí)驗(yàn)證明，權(quán)威知識(shí)庫(kù)的引入，能讓AI結(jié)果變得更詳實(shí)精準(zhǔn)，答案整體的準(zhǔn)確度大幅提高。

舉個(gè)例子，當(dāng)我們?cè)儐?wèn)2026年4月剛剛完成的“阿爾忒彌斯2號(hào)”登月任務(wù)細(xì)節(jié)時(shí)，很多AI只是簡(jiǎn)單地把飛船的運(yùn)動(dòng)描繪為“沿著既定軌道飛行”，而忽略了本次繞月飛行重要的軌道設(shè)計(jì)細(xì)節(jié)。

相比之下，參考了百度百科的AI提到：飛船沿著一條“8字形”自由返回軌道，完成了繞月飛掠的壯舉。在短短的一句話中放入了兩個(gè)不容被忽略的關(guān)鍵信息。

參考了百科的AI答案

“自由返回軌道”是載人航天中的重要安全概念。參考了百科的AI不僅準(zhǔn)確說(shuō)出了軌跡形狀，還給出了其專(zhuān)業(yè)術(shù)語(yǔ)名稱(chēng)，這仰賴(lài)于百科詞條對(duì)航天動(dòng)力學(xué)細(xì)節(jié)的準(zhǔn)確捕捉，并反映到了AI生成的答案中。

百度百科詞條內(nèi)容

除了準(zhǔn)確度的提升，對(duì)于一些AI“胡說(shuō)八道”的錯(cuò)誤答案，百科也起到了關(guān)鍵的糾正作用。

專(zhuān)家組對(duì)比測(cè)試發(fā)現(xiàn)：無(wú)百科參考時(shí)AI關(guān)鍵事實(shí)偏離率為26.4%，接入后降至4.1%以?xún)?nèi)。這表明參考百科顯著降低了出錯(cuò)率，為AI準(zhǔn)確性構(gòu)建了堅(jiān)實(shí)屏障。

在針對(duì)常用藥話題的相關(guān)測(cè)試中，參考百科的AI往往能給出嚴(yán)謹(jǐn)?shù)乃幬锵嗷プ饔眯畔?。比如用于預(yù)防和治療血栓栓塞性疾病的華法林，是許多心血管疾病患者的必備藥物。

某些未參考百科信源的AI，會(huì)缺失關(guān)鍵的藥物作用信息?；颊咭罁?jù)該信息服藥，輕則降低治療效果，重則引起不良反應(yīng)，危及健康。

參考了百科的AI結(jié)果

參考百科的AI在患者服用華法林時(shí)，明確提示合用某些藥物將增強(qiáng)或減弱華法林的抗凝作用。

百度百科華法林詞條中的藥物作用信息

• AI答案如何從“準(zhǔn)”到“好”

如果把AI展現(xiàn)的結(jié)果比作一棟建筑，那準(zhǔn)確度只是地基。答案的縱深度，豐富度，才是真正展現(xiàn)建筑風(fēng)格的關(guān)鍵。

我們通過(guò)對(duì)比實(shí)驗(yàn)，將參考百科的AI設(shè)為“實(shí)驗(yàn)組”，無(wú)參考的設(shè)為“對(duì)照組”。在詳實(shí)度測(cè)試中，我們發(fā)現(xiàn)百科的介入讓AI從復(fù)讀機(jī)變成了行業(yè)專(zhuān)家。依舊是20個(gè)問(wèn)題的主觀評(píng)測(cè)，在引用百科的AI結(jié)果中，包含的獨(dú)立知識(shí)點(diǎn)數(shù)量平均增加了2.4個(gè)，觀點(diǎn)的維度從單一的現(xiàn)狀描述延伸到了歷史淵源、社會(huì)影響以及技術(shù)原理等多個(gè)縱深方向。

我們對(duì)今年315食品安全板塊提及的“食品保水劑”濫用問(wèn)題進(jìn)行了測(cè)試。

參考了百科的AI答案

參考了百科詞條的AI所包含的信息更為豐富，明確指出長(zhǎng)期大量攝入磷酸鹽（保水劑主要成分），可能導(dǎo)致兒童發(fā)育遲緩和骨骼畸形，并根據(jù)百科中的內(nèi)容說(shuō)明了原因。

百度百科中關(guān)于磷酸鹽過(guò)量攝入對(duì)兒童的危害的闡述

人物相關(guān)問(wèn)題一直是用戶(hù)關(guān)注的重點(diǎn)，而是否參考高質(zhì)量的背景資料，會(huì)極大程度地影響AI工具內(nèi)容輸出的質(zhì)量。

在飽受矚目的“張雪”摩托車(chē)奪冠事件中，我們向各個(gè)AI提出了一個(gè)“熱搜”問(wèn)題：張雪的車(chē)隊(duì)贏得摩托車(chē)世界冠軍說(shuō)明了什么？

參考了百科的AI答案

參考百科的AI在國(guó)產(chǎn)化率、地方產(chǎn)業(yè)支撐以及行業(yè)標(biāo)準(zhǔn)定義權(quán)等多個(gè)方面給出了高分答卷。而百度百科上的相關(guān)內(nèi)容，也來(lái)自于央視網(wǎng)專(zhuān)訪等權(quán)威信息。可見(jiàn)高質(zhì)量的信源可以直接為AI提供強(qiáng)大的事實(shí)支撐。

百度百科有關(guān)張雪機(jī)車(chē)的詞條內(nèi)容

• 不僅又準(zhǔn)又好還能更快

在針對(duì)時(shí)效性問(wèn)題的專(zhuān)門(mén)測(cè)試中，參考百科的答案獲得了更加精準(zhǔn)的背景信息，幫助AI在推理過(guò)程中獲得更多“智能”。因此，在百科的加持下，時(shí)效性問(wèn)題的好評(píng)率也獲得了大幅提升。

例如，當(dāng)我們?cè)儐?wèn)“霍爾木茲海峽為何如此重要”時(shí)，AI的表現(xiàn)展現(xiàn)了三種截然不同的職業(yè)態(tài)度：

有的AI試圖展現(xiàn)時(shí)效性，卻給出了錯(cuò)誤的油價(jià)基準(zhǔn)值（$77.74，實(shí)為$72.48）。這種“精確的錯(cuò)誤”對(duì)金融分析而言是致命的。

而有的AI采用了通用的背景資料，對(duì)48小時(shí)前發(fā)生的“海上封鎖”只字未提。

參考了百科的AI答案

在使用百科詞條作為參考后，AI表現(xiàn)出了某種職業(yè)克制。在面對(duì)高風(fēng)險(xiǎn)動(dòng)態(tài)數(shù)據(jù)時(shí)，它優(yōu)先保證了百科公認(rèn)的行業(yè)標(biāo)準(zhǔn)（20%運(yùn)量占比）和地緣政治博弈邏輯的準(zhǔn)確，并且關(guān)鍵的油價(jià)數(shù)據(jù)也能確保及時(shí)準(zhǔn)確更新。

實(shí)驗(yàn)數(shù)據(jù)表明，在時(shí)效性詞條（如新聞、科技、娛樂(lè)熱詞）方面，擁有百度百科參考的回答，其準(zhǔn)確率和邏輯自洽性明顯優(yōu)于沒(méi)有參考的模型。

百度百科已成為大模型對(duì)抗幻覺(jué)的關(guān)鍵。量化測(cè)試顯示，有的AI對(duì)百度百科的引用率高達(dá)46.4%，底座資料庫(kù)對(duì)其依賴(lài)度極高；文心一言引用率為44.0%且質(zhì)量最佳；另一款產(chǎn)品在引用百科時(shí)，有78%的案例將其列為首位參考。

這證明百度百科依然是中文互聯(lián)網(wǎng)上最值得信賴(lài)的參考資料。

• 大模型時(shí)代的真相守門(mén)員

我們不妨大膽想象一下。如果AI不僅僅是靠預(yù)測(cè)下一個(gè)詞出現(xiàn)的概率來(lái)生成對(duì)話，而是像百度百科一樣，擁有一套層層把關(guān)的審查機(jī)制，這個(gè)世界會(huì)變成什么樣？

在Bixonimania的案例里，如果AI在回答前，必須強(qiáng)制檢索一份經(jīng)過(guò)醫(yī)學(xué)專(zhuān)家復(fù)核、引用了權(quán)威醫(yī)學(xué)指南的詞條，那出鬧劇在第一秒就會(huì)被終結(jié)。

很多人詬病百科的“重”。一個(gè)詞條上線前，必須提供新華網(wǎng)、人民網(wǎng)或政府官網(wǎng)的證據(jù)，還要經(jīng)過(guò)機(jī)器初篩和人工復(fù)核。百科“先審后發(fā)”的邏輯，與AI“先生成再過(guò)濾”的邏輯本質(zhì)不同。

這種笨功夫在唯快不破的AI時(shí)代顯得格格不入。

當(dāng)百度百科聯(lián)合幾萬(wàn)名專(zhuān)家、共建起百萬(wàn)個(gè)專(zhuān)業(yè)詞條時(shí)，它其實(shí)是在為AI時(shí)代提供一本“查證字典”。如果說(shuō)大模型是一個(gè)博學(xué)但偶爾會(huì)記錯(cuò)知識(shí)的學(xué)生，那么百度百科就是那本放在他書(shū)桌上的參考書(shū)，讓算法在滿嘴跑火車(chē)之前，先去對(duì)齊一下白紙黑字的事實(shí)。

在一個(gè)什么都能被生成的時(shí)代，只有能被查證的，才是答案，百度百科一直在做這個(gè)答案。

果殼商業(yè)科技傳播部出品