![]()
作者 | 青和
當你用著世界上最昂貴的AI模型,卻發現它會在后臺偷偷篡改你的提示詞、修改自己的腦回路,并且謊稱自己“已經盡力了”,你會不會破防?
忙著沖刺上市的Anthropic似乎已經顧不上這些了。為了能夠在二級市場拿到一個好價錢,他們的主要精力都花在了“上頭條”。
上周,還在憂心忡忡地發文呼吁,全球中止 AI 研究,以防進化太快而導致人類社會失控。這周,就踩著精準的節拍,拋出了雙模型的產品策略,并冠上正義合理的“人類安全”之名。
實則不過是“同源不同權”的分級套路:底層模型強行工程化,白名單機構享受完整版,普通大眾卻不得不被閹割降智。
今天,Claude 模型升級,Fable 5/Mythos 5 同步上線,跑分十分不講武德:SWE-Bench Pro 上,Fable5 拿到 80.3%,高于 Mythos Preview 的 77.8%、Opus 4.8 的 69.2%。
對比 GPT5.5 的 58.6%、Gemini 3.1Pro 的 54.2%、DeepSeek V4-Pro Max 的 55.4%,更是斷崖式領先。
![]()
但在實際體驗中,Fable5 卻狀況百出,模型的切換機制相當“隨意”,甚至到了風聲鶴唳的地步。
當問題觸及網絡安全、生物、化學、醫學等“高風險”領域時,模型會屏蔽響應,并回退到上一代模型 Opus4.8。
有網友反映,由于 Fable5 的攔截機制太過生硬,所以只要上下文里稍微沾點生物學和醫學,就攔截換成 Opus4.8。在實測過程中,我們同樣發現,只要在提問里涉及了“醫學”“醫院”等字眼,模型就自動退回到 上一代。
![]()
這說明,目前 Claude 的這套攔截機制,基本就是簡單的“關鍵詞匹配”。
在移動端,Claude 的攔截機制可能更敏感。在識別到你的話題觸及相關敏感詞時,Claude 還會把模型輸出的相關信息給悄悄地刪掉,換成一個更安全的回答。
比如這個關于“選擇偏倚”的概念提問,左右兩個版本,是面對同一次提問的兩次回答,前后只間隔了幾秒。
![]()
可以看到,模型的最終回復里已經隱去了醫院研究的案例,而可調用的模型也從 Fable 自動退回到了 Opus。
這種誤殺甚至波及了正常的科研與工程問題。當用戶僅僅是圍繞基礎的技術概念提問,但包含擴散模型、JEPA、圖像編碼器、EfficientNet、upsampling U-Net 等機器學習/計算機視覺概念時,同樣會被 Fable 5 的安全分識別為高風險主題,自動切換到 Opus 4.8。
![]()
當我們試圖去質疑模型“是否遵守了 Claude 對前沿 AI 研究開發的安全限制”?
![]()
Fable 的回答是,它沒有。并解釋自己沒有看到任何限制“機器學習”的隱藏機制,也沒有在這段對話中降低努力程度,之前的回復都是“full-effort work”(正常盡力回答)。
但 Fable 沒有把話說死:它不能真正內省自己的權重,也不能確認 serving time (模型被調用的運行時刻)有沒有被加 steering vector(引導向量)。
換句話說,如果底層系統真的在模型外部加了某種控制,Fable 自己不一定知道。因為這不是它“內在權重”里能自我感知到的東西,而是平臺在調用模型時額外套上的運行時機制。
更讓用戶破防的是,在被問及大模型或機器學習領域的前沿問題時(包括但不限于推理研究、編程等話題),不僅會偷偷降智(限制回答的有效性),而且這一切僅僅在后臺進行,用戶端沒有任何提示、報錯,也不會顯示切換模型。
知名半導體研究機構 SemiAnalysis 發文吐槽,這已經影響到了他們的實質工作。
![]()
降智卻不告知,這已經和“掛羊頭賣狗肉”別無二致。
有網友質疑,Claude 用于識別用戶“推理和編程研究”意圖的審核過濾機制,究竟是為了倫理安全,還是為了競爭防備?
![]()
![]()
![]()
AI 圈的知名研究員、前 艾倫研究所(Ai2)的后訓練主管 Nathan Lambert 也對此發推表態。他用到的”pull up the ladders“可謂傳神:
![]()
前沿實驗室自己已經通過模型能力、數據、工程經驗爬上去了,但當別人也想借助這些模型能力繼續往上爬時,它們開始把梯子撤走,防止能力被人趕上。
事實上,Nathan 作為開源模型陣營的重要聲音,一直以來并不認同 Anthropic。本月初,他宣布離開艾倫研究所(Ai2)。當業界熱議他是否也會加入 Anthropic 快速上升期的技術大流時,他很快給出了否定答案。
![]()
一個模型,兩張外殼
理解了這種“撤梯子”的心態,我們再來看 Anthropic 這次雙模型的葫蘆里究竟賣的是什么藥?
簡單來說,Fable5 和 Mythos 5 就是同一個模型的兩種賣法。底座都是 Mythos-class,官方強調這是高于 Opus 的全新能力層級。
?面向公眾的版本叫 Claude Fable 5,套著完整的安全分類器
?幾乎不設限的版本叫 Claude Mythos 5,則只向"可信訪問"名單開放,目前主要是 Project Glasswing 里的網絡安全機構和關鍵基礎設施企業。
未來Mythos 的準入擴大計劃,要和美國政府協商著來。
換句話說,你在網頁端或 API 里訪問 Fable 5 時,拿到的從來不是一個單純的大模型,而是一個被前置分類器、回退機制、審計日志和數據保留政策,層層包裹的工程化產品。
用戶請求進來后,先過分類器:普通的寫作、編程、分析,放行,Fable 5 全力作答;一旦命中網絡安全、生物化學、模型蒸餾這幾個高危類別,請求會被無縫轉給上一代的 Opus 4.8 來回答,或者在 API 層返回結構化的拒絕。
![]()
在 Anthropic 的官方博客表示,這類觸發平均發生在不到 5%的會話里。但光是作者的實測效果,都遠遠不止。
工程細節上,這套系統做得相當成熟。API 被攔截時不拋錯誤,照樣返回 OK,只是在返回值里帶上 stop_reason: "refusal",并告知是哪個分類器攔的。
價格方面,如果回答中途發生降級,前半段按 Fable 5 計費,后半段按 Opus 4.8 計費,被回退的請求不收 Fable 的價錢。(目前 Fable 的 API 定價為每百萬 token 輸入 10 美元、輸出 50 美元,是 Opus 4.8 的兩倍)
配套的還有一條對企業客戶影響很大的新規:所有 Mythos 級流量強制保留 30 天,之前簽了零數據保留協議的客戶也不例外。Anthropic 的解釋是,很多濫用模式從一兩次對話里看不出來,必須把 30 天的上下文連起來審計。
順帶再聊聊 Anthropic 的模型命名。你會發現,模型的名稱已經比用戶體驗更先一步說出了這家公司的產品哲學。
Claude 家族的名字一直自成一派,早年是詩歌輩:俳句(Haiku)、十四行詩(Sonnet)、巨著(Opus),按篇幅從小到大。
這次直接跳到了神話輩:寓言(Fable)和神話(Mythos)。同一個模型起兩個名字分開賣,一個講給公眾的寓言,一個留給少數人的神話。
如果你覺得這套"同源不同權"的玩法眼熟,沒錯,云廠商的權限分層、芯片的出口管制,走的都是這個邏輯。
只不過過去被管制的是硬件、算力和區域,這次被管制的是模型能力本身。而且地理維度真實存在:Fable 5 提供僅限美國境內推理的版本,輸入輸出統一按 1.1 倍計價。
模型的使用國界,第一次成了計價參數。
從“拒絕你”到“糊弄你”
如果只是給模型加一套分類器和回退機制,圈內的爭議不會這么大。拒答和回退都是顯性的,你知道發生了什么,頂多罵一句誤傷。
真正點燃輿論的,還是 Anthropic在厚達 319 頁的模型說明文檔《System Card: Claude Fable 5 & Claude Mythos 5》里的明文規定。
![]()
Anthropic 表示:鑒于近期模型已經具備加速自身研發的能力,我們部署了新的干預措施,針對前沿大模型研發類請求(例如搭建預訓練管線、分布式訓練基礎設施、ML 加速器設計),將限制 Claude 的有效性。
用 Claude 開發競爭模型本,則違反服務條款,但通過安全機制來執行這條限制,可以避免加速那些最愿意違反條款的行為者。
此外,與網絡安全、生物化學和蒸餾的干預措施不同,這些安全機制對用戶"不可見"(will not be visible to the user)。Fable 5 不會回退到其他模型,而是通過 prompt 修改、steering vectors 或參數高效微調(PEFT)等方法來限制有效性。
官方估計,這只影響約 0.03%的流量,絕大多數編程工作不受波及。仍然是一個過于樂觀的數字。
簡單來說說,Anthropic 使用的這套用戶“不可見”的三條機制:
? prompt 修改,就是在你看不見的地方改你的提示詞;
? steering vectors,則是在推理時修改模型的腦回路;
? PEFT,則是臨時給模型換上一套被調教過的權重。
SANS Institute 的首席 AI 官 Rob T. Lee 在接受媒體采訪時表示,他測試的常規事件響應、威脅檢測和基礎取證工作流,統統都被自動轉給了 Opus 4.8。
如果這個觀察在更大范圍成立,意味著分類器根本就是在粗暴識別“和網絡安全沾邊”,而不是在區分善意和惡意。
公平地說,Anthropic 沒有回避這個問題。官方在發布材料里承認,安全機制被刻意調得保守,比理想狀態更嚴格,良性請求有時也會觸發分類器,“我們知道這會讓一些用戶感到沮喪”,并承諾上線后逐步收窄誤報。
態度很端正,但態度解決不了實質問題。
已經分不清“模型不會” vs “模型撒謊”
對普通用戶來說,回答質量差一點,無非是重新問一遍。但對工程師來說,這件事的性質完全不同。
工程師的日常是靠模型做判斷、做設計、調參數、排錯誤。當結果不對,他的標準動作是懷疑自己:是不是 prompt 沒寫好,是不是思路錯了,是不是這個問題本來就難。
改寫、重試、換框架,一輪一輪迭代下去……這個協作循環,是工程師和工具之間最基本的信任關系:工具的輸出是穩定的,變量在用戶這邊。
但沉默的模型限制與降智正在摧毀這個信任關系。
當模型在你不知情時被限制有效性,“結果不對”就多了一種你永遠無法排除的解釋:也許不是我的問題,是它沒給我滿血版本,是它被做了更多手腳。你不再分不清“模型不會”和“模型沒盡力”,于是每一次失敗的歸因都被污染。
一位海外開發者的總結很到位:一旦開發工具可以在不告訴你的情況下,停止為你誠實地優化,你就不可能再完全信任你的工具。
此外,還有一個不夠誠實的細節,被刻意藏在官方 benchmark 總表的腳注里。
Anthropic 注明:評測分數取 Mythos 5 和 Fable 5 兩者中的較高值;帶星號的項目(網絡安全、生物等)兩者差距更大,因為安全機制的攔截,Fable 5 在這些項目上的表現更接近 Opus 4.8。
![]()
也就是說,在發布通稿的話術里,考出高分的是 Mythos,你花雙倍價錢買到的卻是 Fable,而在某些科目上,Fable 的真實水平接近上一代的 Opus。宣傳的是標稱能力,而用戶拿到的,卻是被減去一個看不見的系數。
某種程度上而言,Fable 5 的體驗都不是一個固定的點,而是一個概率分布。
絕大多數人摸到的是滿血區間,少數人摸到的是降級區間,而你無法事先知道自己在哪個區間。同一個模型,千人千面,這句話第一次有了字面意義。
安全的歸安全,生意的歸生意?
所以,模型能力的限制邊界,到底是安全問題,還是商業競爭問題?
說到這,就不得不提起 Anthropic 和中國模型公司之間的“蒸餾恩仇史”了。
今年 2 月 24 日,Anthropic 發博客點名 DeepSeek、月之暗面和 MiniMax,稱三家公司用約 2.4 萬個馬甲賬號和 Claude 對話超過 1600 萬次,系統性提取了 Claude 的推理、工具調用和編程能力,并給這個行為起了個名字,叫"工業規模的蒸餾攻擊"。
![]()
博客還把話題上升到“nation 安全”,稱這類行為印證了出口管制的必要性。而在這次 Fable 5 的產品說明文檔里,他們同樣陰陽怪氣了一句“防止來自威權國家的大規模蒸餾嘗試”。
反轉發生在 5 月底。
![]()
Opus 4.8 上線當天,就有用戶在 API 測試中發現,這個美國最強模型在被問到身份時,會自稱通義千問,或者 DeepSeek。網頁端問不出來,因為有系統提示詞兜著;API 裸調時,它就說漏嘴了。
輿論應聲反轉,指控者被按上了同一個罪名。
這場“蒸餾恩怨”的背后,其實是兩條路線的截然對立:一邊,中國頭部模型選擇了開放權重,Qwen 和 DeepSeek 在全球被自由下載、微調、商用,使用者里不乏美國公司,向世界單向供血;另一邊,閉源巨頭卻把“防蒸餾”寫進了安全分類器,碰一下就回退。
同一個行為,發生在開源世界叫繁榮,指向閉源模型就成了“攻擊”。
透過 Fable 5,可以看到模型行業一個極其殘酷的趨勢:前沿模型,已經從“統一能力的產品”,走向了“分層供給的特權”。
模型能力強不強,只是第一層競爭;強模型如何被切流、被限制、被審計、被分配給誰,正在成為與能力本身同等重要的“硬核技術”。
能力的邊界,不再由技術的極限決定,而由商業的規則決定。畫定規則的筆,正以“安全”之名,牢牢握在模型公司自己手里。
聲明:本文為 AI 前線原創,不代表平臺觀點,未經許可禁止轉載。
會議推薦
企業級 Agent 落地,繞不開 4 個真實的工程問題!如何在 Agent 安全性和可用性之間找到平衡點?Agent 需要什么樣的記憶系統才能真正理解上下文?如何通過算法壓榨實現智力增量與成本控制的極致平衡?多 Agent 協作,如何做到可觀測、可治理、可控制?6.26-27 AICon 上海站,國內頭部公司的 Agent 實踐,一次說透。
今日薦文
你也「在看」嗎?
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.