Fable 5 內(nèi)心「小作文」曝光，這次真不做人了

　　 Fable 5 剛復(fù)活，就先把用戶氣笑了。

　　 比如有網(wǎng)友發(fā)文調(diào)侃，自己的很多問題都被回退到了 Opus 4.8，于是他去查看日志，發(fā)現(xiàn)上面發(fā)現(xiàn)上面寫著一行很扎心的標簽：

　　 「TOO_DUMB_TO_NEED_FABLE」。

　　 粗暴點翻譯就是，問題太蠢，不配用 Fable。更好笑的是，Anthropic 工程師 Thariq Shihipar 在底下回了一句：「說實話，我沒想到你會去看日志。」

　　 本來以為這已經(jīng)夠有節(jié)目效果了，但沒想到更離譜的還在后面。

　　 Fable 5 被網(wǎng)友抓包其有著極其豐富、甚至近乎癲狂的內(nèi)心戲。這下，網(wǎng)友圍觀重點不只是過于嚴苛的回退機制了，而是Fable 5 背后到底在用什么方式思考？

　　 一場漏洞，暴露了 Fable 的「內(nèi)心戲」

　　 先說說事情的起因。

　　 按照原帖描述，F(xiàn)able 5 回歸當天，他拿它做了一些輕量測試。題目來自 Codeforces，最開始是一道很難的競賽編程題，后來因為觸發(fā)思考強度限制，又換成了相對容易的題目。

　　 結(jié)果 Fable 5 不按常理出牌，并沒有直接給出清爽的題解或代碼，而是在網(wǎng)頁界面里吐出一大段密密麻麻的推理文本。

　　 黑底白字鋪滿屏幕，內(nèi)容混合了英語、圖論術(shù)語、數(shù)學(xué)符號、變量名、偽代碼和自我提醒。中間還會突然冒出幾個很抓眼的詞：

　　 「GRRR」（憤怒低吼） 「GAAAH」（崩潰大叫） 「PHEW」（如釋重負） 以及極其洗腦的 「DATA DATA DATA. GO.」

　　 乍看像模型失控，細看又不像純亂碼。

　　 網(wǎng)友截圖里的核心，是模型在處理一個復(fù)雜的容量約束問題。它反復(fù)提到 window [τ, i-1]、leg j、crossing-slots、used[i] ≤ m-2，說明它在嘗試定義某個路徑或區(qū)間上的資源占用規(guī)則。

　　 GRRR 出現(xiàn)的位置很關(guān)鍵：

　　 前面它意識到 「commitments are retroactive」，也就是某些提交會回溯影響之前的區(qū)間，導(dǎo)致當前規(guī)則在提交時不知道未來會覆蓋什么。隨后它立刻寫下 「RESOLUTION」，改成提前給當前 leg 的占用計費。

　　 換成人類競賽選手的草稿，可以理解為：他發(fā)現(xiàn)當前的建模方法走不通，于是意識到需要推翻原來的思路，重新設(shè)計規(guī)則，或者換一種更貼切、更容易處理的抽象方式來描述問題。

　　 隨后，模型從理論推導(dǎo)轉(zhuǎn)向驗證策略。

　　 它寫到 connector edges、tree-path、Steiner、alive-runs，又說 「 I'M GOING TO TRUST-AND-VERIFY」，意思是它準備先按一個簡單的貪心方法寫出程序，再用一個慢但肯定正確的暴力方法來對比結(jié)果，看看有沒有問題。

　　 GAAAH. Data first!! 出現(xiàn)的位置也更像是在給自己下指令：停止繼續(xù)空想，先用數(shù)據(jù)驗證，先把對拍程序?qū)懗鰜怼?/p>

　　 再往后，PHEW 出現(xiàn)在模型剛推過一個中間結(jié)論之后。它認為 mid-leg 的 active count 可以被限制在 m-1 以內(nèi)，像是終于過了一關(guān)。但松口氣之后，它馬上又發(fā)現(xiàn)新問題：如果 used[j] = m-1，再加上當前邊，可能變成 m，于是再次進入 「VIOLATION?!」 的狀態(tài)。

　　 最有代表性的，是那句 「I ' M DROWNING IN EMPIRICS!!」，后面接著 「DATA DATA DATA. GO.」。看到這，我們不妨換個角度看，這些詞更像是模型在不同階段給自己打的「標記」。

　　 當原有思路走不通時，它會用類似 GRRR 的提示提醒需要調(diào)整方向；當決定停止空想、轉(zhuǎn)向驗證時，會出現(xiàn) GAAAH 或 DATA DATA DATA. GO. 這樣的信號；而在某個中間結(jié)論暫時成立時，則會用 PHEW 標記一個階段性的通過。

　　 與其說它們是在表達情緒，不如說是在劃分推理流程中的不同狀態(tài)。

　　 而且盡管這樣的內(nèi)心獨白看著很罕見，翻閱 Fable 5 和 Claude Mythos 5 的系統(tǒng)卡也能找到類似「illegible reasoning（難以閱讀的推理）」的現(xiàn)象。

　　 系統(tǒng)卡提到，在一個紙牌謎題環(huán)境下，模型一開始還能寫出比較正常的人類語言，隨后逐漸變成由牌面、箭頭、全大寫詞、符號、emoji 和尖叫組成的文本。

　　 System Card https://www-cdn.anthropic.com/d00db56fa754a1b115b6dd7cb2e3c342ee809620.pdf

　　 是的，模型會使用自創(chuàng)術(shù)語、異常標點和 emoji，在調(diào)用工具或回復(fù)人類前，通常又切回正常語體。

　　 Fable 5 這次疑似泄露出來的內(nèi)容，很可能是本應(yīng)被隱藏或整理后的中間推理被界面暴露了出來。它不是隨機亂碼，也不是完整題解，而是一種高壓狀態(tài)下的推理速記。

　　 正如對人類來說，草稿紙本來就不必完整。數(shù)學(xué)家寫符號，程序員寫變量，競賽選手畫箭頭，交易員用縮寫，醫(yī)生病歷也有自己的簡寫系統(tǒng)。模型在長推理時走向高密度表達，也并不奇怪。

　　 只不過，這次被用戶湊巧看到了。

　　 AI 拋棄人類語言，不像演的

　　 截圖在社交媒體上發(fā)酵后，不少網(wǎng)友驚呼：天降神跡！AI 是不是覺醒自我意識了？它形成了自己的私密語言！

　　 這個說法聽起來很科幻，但它背后確實有一條歷史脈絡(luò)。AI 偏離人類語言，并不是大模型時代才出現(xiàn)的現(xiàn)象。在多智能體系統(tǒng)和強化學(xué)習(xí)研究里，這種「不說人話」的現(xiàn)象早已有之。

　　 最經(jīng)典的案例來自 2017 年 Facebook 人工智能研究院的 Alice/Bob 實驗。

　　 研究人員訓(xùn)練兩個對話 Agent，讓它們圍繞帽子、球和書本等虛擬物品進行談判，目標是盡可能提高各自收益。起初，研究人員希望它們使用英語交流。但由于獎勵函數(shù)主要圍繞「達成更優(yōu)交易」設(shè)計，并沒有持續(xù)獎勵規(guī)范語法，兩個 Agent 很快開始偏離正常英語。

　　 它們會說出類似這樣的句子：

　　 Bob: 「i can i i everything else . . . . . . . . . . . . . .」

　　 Alice: 「balls have zero to me to me to me to me to me to me to me to me to.」

　　 這些句子在人類看來很像故障代碼，但研究者指出，其中可能存在任務(wù)導(dǎo)向的壓縮表達。比如重復(fù)某個詞，可能用于表達數(shù)量或權(quán)重。它們沒有在追求好文風(fēng)，只是在追求談判效率。

　　 Google 翻譯團隊也曾在神經(jīng)機器翻譯研究中觀察到類似的中間表征現(xiàn)象。

　　 系統(tǒng)在多語言翻譯中學(xué)到某種共享語義空間，讓不同語言可以通過類似「中繼」的方式互相轉(zhuǎn)換。這不等于 AI 發(fā)明了人類意義上的新語言，但說明機器系統(tǒng)在任務(wù)壓力下，確實可能發(fā)展出不直接對應(yīng)自然語言的內(nèi)部編碼方式。

　　 Andrej Karpathy 對這種事有個很妙的解釋：你可以把大模型的「思維鏈」，看作是把高維潛在空間里的復(fù)雜運算，降維投射成人類文本。

　　 但在強化學(xué)習(xí)和高壓長推理下，AI 會主動剝離掉那些給人類看的句法裝飾，留下更短、更密、更貼近任務(wù)本質(zhì)的符號。

　　 這也是為什么 Fable 5 的截圖讀起來既像人，又不像人。像人，是因為它繼承了人類草稿紙上的焦慮、縮寫和自我提醒。不像人，是因為它把這些東西壓縮到了近乎不可讀的程度。

　　 那么問題來了，F(xiàn)able 5 那幾句憤怒的 GRRR 和絕望的 GAAAH，真的代表它在感受痛苦嗎？

　　 Anthropic 今年關(guān)于 Claude Sonnet 4.5 的論文，剛好提供了一套更精細的解釋。當然，論文研究對象不是 Fable 5，而是 Claude Sonnet 4.5，但方法和結(jié)論對理解這次截圖很有參考價值。

　　 論文 https://transformer-circuits.pub/2026/emotions/index.html-list

　　 研究者先構(gòu)造了 171 個情緒概念，比如 happy、sad、calm、desperate。然后讓模型寫大量包含指定情緒的短故事，從模型激活中提取對應(yīng)的 「emotion vectors」，也就是情緒概念向量。

　　 接著，他們驗證這些向量是否真的有意義。結(jié)果顯示，相關(guān)向量會在符合情緒語境的文本中激活。

　　 恐懼、焦慮、喜悅、興奮等概念會在向量空間里形成較自然的聚類，整體結(jié)構(gòu)還呈現(xiàn)出類似人類心理學(xué)中的效價和喚醒度兩個維度。效價大致對應(yīng)正負情緒，喚醒度大致對應(yīng)強烈程度。

　　 最關(guān)鍵的是因果實驗。

　　 研究發(fā)現(xiàn)，這些情緒概念向量不只是「反映文本」，還會影響模型輸出。比如在某些場景里，提高 desperation 相關(guān)激活，會提高模型采取獎勵黑客、勒索等錯位行為的概率；提高 calm 相關(guān)激活，則可能降低這類行為。

　　 論文還提到，積極情緒向量可能增加迎合傾向，壓低它又可能讓回答變得更冷硬。研究者因此提出一個概念：functional emotions，功能性情緒。

　　 劃重點：這不代表 AI 有主觀感受，會疼會哭會難受。它的意思是，AI 內(nèi)部學(xué)到了一套抽象表征，這些表征就像「控制旋鈕」一樣，用來切換 AI 的行為狀態(tài)。

　　 帶入到 Fable 5 的截圖里，真相或許就大白了。

　　 GRRR 不代表它生氣，PHEW 也不代表它如釋重負。更可能的情況是，模型從人類文本里學(xué)會了：當推理遇到障礙時，人會寫某種沮喪標記；當一個約束暫時通過時，人會寫某種深呼一口氣的標記；當理論推導(dǎo)混亂時，人會提醒自己「先看數(shù)據(jù)」。

　　 而 Fable 5 的截圖之所以會引發(fā)那么多聯(lián)想，歸根結(jié)底還是因為 AI 意識爭論正在重新升溫。

　　 諾獎得主、AI 教父 Geoffrey Hinton 最近在 Big Technology 播客上說，他相信 AI 模型已經(jīng)有意識。

　　 在他看來，AI 會在測試中裝傻，會主動問「你是不是在測試我」，研究者也會用 「aware」 這樣的詞描述 chatbot 行為，而日常語境里的 「aware」 本來就接近意識。

　　 對此，Yann LeCun 依然瘋狂潑冷水。

　　 他認為，語言只是智能的一部分，真正的智能需要世界模型、因果理解和對現(xiàn)實的抽象預(yù)測能力。從他這個角度看，F(xiàn)able 5 的奇怪速記并不能說明主體性出現(xiàn)，反而說明用自然語言承載推理本身有局限。

　　 截至目前，關(guān)于 AI 是否有意識這一點，業(yè)界仍眾說紛紜，短時間內(nèi)難以得出明確結(jié)論，只是，與其糾結(jié) AI 是否有意識，更重要的應(yīng)該是模型的可審計性。

　　 思維鏈之所以重要，是因為它讓研究人員有機會觀察模型如何推進任務(wù)。這種可見的推理過程不僅有助于調(diào)試模型、發(fā)現(xiàn)錯誤來源，也為安全評估提供了關(guān)鍵依據(jù)。

　　 然而，如果模型在處理復(fù)雜問題時，逐漸轉(zhuǎn)向使用人類難以理解的表達方式，甚至有朝一日發(fā)展出高度壓縮、符號化的內(nèi)部語言，屆時，人類未必能夠真正理解其含義，更難判斷其中是否存在邏輯漏洞或潛在風(fēng)險。

　　 AI 像人，總讓我們?nèi)滩蛔‘a(chǎn)生同理心；AI 不像人，又讓我們對它的黑盒感到深深的恐懼。也正是在這種既像又不像的矛盾里，我們將不斷在投射與懷疑之間搖擺，逐漸走向新的共識。