陳根：大模型值得相信嗎？相信大模型，后果是什么？

文/陳根

當AI胡編亂造遇上人類垃圾知識環境——我們為何正在走向“烏合之眾”？這不是玩笑，而是正在發生的人類危機，很多人正在成為烏合之眾的道路上快速前進。

在2026年的今天，當你打開手機，向某款大語言模型提問“如何快速致富”或“某歷史事件真相如何”，它可能用流暢的語言、看起來很專業的“數據”和非常自信的語氣，給你一套聽起來幾乎完美的答案——但這些內容卻可能是編造出來的。

更糟糕的是，你把這個回答轉發到朋友圈、職場群或者社交平臺，成百上千人和你一樣復制粘貼、繼續傳播，于是慢慢形成一種所謂的“共識”。沒有人去查來源，沒有人去驗證邏輯，大家只是覺得“AI說得挺有道理”。

這不是科幻，而是已經發生的現實：AI大模型的系統性“胡編亂造”，正在和人類長期積累下來的混亂知識環境發生疊加效應。互聯網、媒體、歷史文本以及社交平臺中本來就充滿誤導信息、偏見、謠言和低質量內容，而AI正是從這些材料中學習出來的。

當越來越多的人把AI當作知識來源、工作助手甚至判斷依據時，它正在悄悄削弱我們的獨立思考能力，最后把個體變成容易被暗示、容易被情緒帶動、判斷能力逐漸下降的群體成員——這正是19世紀心理學家勒龐在《烏合之眾》中描述的那種典型狀態。

那么，AI為什么會胡編亂造？人類知識環境為什么越來越混亂？人為什么越來越依賴AI？以及這種變化如何正在制造新的“數字時代烏合之眾”？

一、AI為什么會胡編亂造：這不是故障，而是它的工作方式決定的

很多人以為AI胡編亂造是技術錯誤，其實不是。大語言模型本質上并不是像人一樣思考的系統，它更像一個根據大量文本經驗來猜測“下一句話最可能是什么”的預測系統。它通過分析過去看過的海量文本之間的關系，來推測接下來應該說什么。

這種機制決定了一件事情：它優先保證語言順暢，而不是保證事實正確。

OpenAI在2025年的研究中明確指出：模型在訓練過程中更容易學會“給出一個聽起來像答案的回答”，而不是“承認自己不知道”。因為訓練材料大多數都是正確答案示例，很少包含“我不知道”的表達方式。

Yale大學2025年的研究也發現，如果模型沒有學過如何表達不確定，它就很難主動說自己不知道答案。

在回答問題時，模型是一句一句往下生成內容，它的目標是讓表達自然連貫，而不是確認每句話都真實可靠。所以就容易出現一種情況：聽起來合理，但實際上并不正確。

研究人員通常把這種錯誤分為兩種情況。

第一種，是直接說錯事實。例如模型在介紹《傲慢與偏見》時，把作者說成狄更斯。

第二種，是補充出一些看起來很合理，但現實中根本不存在的信息。例如斯坦福大學研究發現，在法律咨詢測試中，一些模型居然編造出了超過120個不存在的判例，而且連日期和格式都像真的一樣。

2026年的統計數據顯示，目前主流模型的錯誤率大約在3%到20%之間，復雜任務更高。中文模型由于訓練資料來源更復雜、結構更不穩定，錯誤率往往更明顯。

原因主要來自三個方面。第一，訓練材料本身質量參差不齊。互聯網信息本來就存在大量矛盾、過時和錯誤內容。第二，模型生成答案時本身帶有一定隨機性，這讓表達更自然，但也更容易出錯。第三，在訓練過程中，人類更喜歡獎勵那些表達自信、流暢、友好的回答，而不是謹慎表達不確定性的回答。

更值得警惕的是，現在已經出現一種新的循環問題：AI生成的錯誤內容被重新上傳互聯網，然后又被新的模型繼續學習。研究人員把這種現象形象地稱為“模型開始學習自己的錯誤”。

隨著時間推移，模型輸出越來越像復制自己，說話越來越自信，但內容質量卻可能越來越低。

當學生用它寫論文，職場人用它寫報告，普通人用它查資料時，看起來效率提高了，其實可能只是更快地吸收錯誤信息。

二、人類知識環境正在變得越來越混亂，而AI正在放大這種混亂

AI的錯誤并不是憑空產生的，它來自人類原本就存在的問題。

所謂人類知識環境，就是互聯網、媒體、書籍以及社交平臺長期積累的信息體系。但在今天，這個體系已經被大量低質量信息覆蓋。

互聯網內容發布門檻非常低，而傳播速度卻極快。點擊率越高的內容越容易被推薦，而情緒強烈、觀點極端甚至錯誤的信息往往更容易傳播。

研究顯示，在社交媒體上，錯誤信息傳播速度往往是真實信息的六倍以上。

中文互聯網還存在另外一個特點：部分信息被過濾，而推薦算法又不斷強化已有觀點，于是很多人只能看到自己原本就相信的內容。

大語言模型90%以上訓練材料來自互聯網，因此它學習到的并不是“知識本身”，而是“知識環境中的平均表達方式”。

如果錯誤信息出現頻率更高，它就更容易被模型當作“正常觀點”。

更嚴重的問題是，現在已經出現一種新的污染循環。人類用AI寫文章、做視頻、寫評論，再上傳互聯網；然后新的模型又繼續學習這些內容。研究人員發現，這會導致模型越來越像復制自己，而不是學習真實世界。

例如2025年曾發生真實案例：律師使用AI準備庭審材料，結果引用了不存在的判例。類似事件已經在教育、醫療和金融領域不斷出現。

當人們越來越依賴AI篩選信息時，人類原本就混亂的知識環境就變成了我們的認知基礎。

而最危險的一步，就是人們開始不再主動查證信息來源。

三、依賴AI正在改變人的思考方式

心理學研究早就發現，人類一旦長期依賴工具，就容易把思考任務交給工具完成。例如GPS普及之后，人們的空間記憶能力下降；計算器普及之后，人們的心算能力下降。現在，AI正在承擔更高級的思考任務：整理資料、分析問題甚至做判斷。

研究發現，使用AI越頻繁的人，批判性思維能力往往越弱。MIT實驗甚至發現，用AI寫論文的人，大腦負責判斷和規劃的區域活動明顯減少，同時記憶能力和原創能力也下降。

機制其實很簡單。當AI直接給出答案時，人就跳過理解過程。當AI表達得很自信時，人更容易相信它。當使用頻率越來越高時，人就越來越依賴它。

最后形成一個循環：越依賴，越不會思考；越不會思考，就越依賴。

這種變化不僅發生在個人層面，也正在影響整個社會。學生寫作能力下降，職場報告越來越相似，創新能力越來越弱。研究人員已經提出警告：這已經不只是工具輔助，而是思考能力正在被慢慢替代。

勒龐曾經說，人進入群體之后會逐漸失去獨立判斷能力。而今天，AI正在讓這種變化提前發生。

四、數字時代的烏合之眾正在形成

勒龐在《烏合之眾》中指出，當人處在群體環境中時，理性容易被情緒替代。今天，AI和社交媒體正在放大這種變化。AI可以提供統一表達方式，把錯誤包裝成事實，然后通過算法迅速傳播。于是，人類原本就存在的錯誤信息，加上AI流暢表達，就可能形成一種新的集體幻覺。

近幾年已經出現多起典型案例：錯誤醫療建議、股市誤導信息、歷史錯誤解釋，都曾迅速形成所謂“共識”。當個體不再主動思考時，群體就變得非常容易被情緒帶動。

更深層的問題是，人們并不是被強迫接受AI，而是因為方便而主動依賴AI。最后的結果是社會觀點越來越相似，原創能力下降，更容易被引導。

掌握數據和模型的人，只需要微小調整訓練方式，就可能影響公眾判斷方向。

勒龐所說的“群體靈魂”，在今天已經變成算法塑造的信息環境。

社會后果可能包括：創新能力下降；公共判斷能力下降；心理壓力增加；社會面對危機時判斷能力下降。

我們正在逐漸變成新的烏合之眾：不是街頭群眾，而是屏幕前的數字群體。

面對這場前所未有的變化，我們是覺醒還是沉淪？

AI胡編亂造、人類混亂知識環境以及思考外包三者疊加，正在塑造一個被技術引導的時代。

尤其是在中文模型領域，一些模型已經表現出明顯的錯誤生成傾向，但仍被很多人當成可靠工具，這本身就是一個值得警惕的現象。

我們不是變笨，而是在被技術慢慢引導向淺層思考和從眾判斷。

真正的出路，是把AI當作工具，而不是答案本身。理解大語言模型的局限，減少對其結論的直接依賴，是建立獨立認知能力的重要一步。

否則，當我們越來越依賴AI，我們就越來越接近勒龐描述的那種狀態：表面理性，但缺乏獨立判斷能力。

獨立思考，是人類最后的防線。失去它，我們就可能成為AI時代真正的烏合之眾。