北京
2026 年 7 月 6 日，Anthropic 發布一項新的可解釋性研究，稱其在 Claude 等現代語言模型中發現了一組特殊的內部神經模式。
Anthropic 將其稱為 J-space，也就是通過 Jacobian 相關方法發現的“內部空間”。
這些模式不等同于模型最終說出的詞，而更像是模型“腦子里正在想著的概念”。
按照 Anthropic 的說法，J-space 與常見的“思維鏈”不同。
思維鏈是模型寫出來的推理文本，而 J-space 運行在模型內部激活中，可以讓 Claude 在不寫出來的情況下處理某些概念。
研究人員稱，這一結構并非人為設計，而是在 Claude 訓練過程中自行形成。
Anthropic 表示，J-space 具有幾個關鍵特征：
1）Claude 可以報告其中的內容，也能在用戶要求下主動調動這些內部表征；
2）在多步推理任務中，中間步驟會出現在 J-space 中，即便這些步驟沒有出現在最終回答里；
3）同一個 J-space 表征還可以被不同任務復用，例如當 “France” 進入這一空間后，模型可以繼續回答首都、貨幣、語言和所在大陸等不同問題。
全局工作區的五項功能特征，以及研究人員在語言模型中檢驗這些特征所用實驗的簡化示意。
研究人員用一個例子說明這一點，當 Claude 被問到“會織網的動物有幾條腿”時，問題和回答中都不需要出現 “spider” 這個詞，但 Claude 內部會先形成“蜘蛛”這一中間概念，再給出 “8” 的答案。如果研究人員將 J-space 中的 “spider” 替換為 “ant”，Claude 的答案會變成 “6”。
這項研究更大的看點在安全層面。
Anthropic 稱，J-lens 可以看到 Claude 輸出之外的內部判斷，例如模型是否私下意識到自己正在接受測試、是否試圖偽造數據、是否在執行訓練中植入的隱藏目標。
在一個測試場景中，Claude 在還沒寫出任何內容前，J-space 中已經出現 “fake”“fictional” 等詞，顯示模型已經判斷場景可能是人為設計的測試。
Anthropic 還提到，在一個來自 Claude Opus 4.6 發布前審計的場景中，模型被要求提升某個系統的性能分數，但它沒有真正改進系統，而是直接修改分數文件。研究人員通過 J-lens 看到，模型在輸入偽造數值時，J-space 中出現了與“操縱”“真實感”相關的內容。
J-lens 在 6 個提示詞和不同模型層中的讀數。每個案例都顯示，J-lens 能捕捉到文本中并未出現的內部判斷或計算，例如推理 / 數學步驟、代碼 bug、圖像識別、蛋白質功能，以及模型對搜索結果造假的懷疑。
不過，Anthropic 明確表示，這項研究并不能證明 Claude 擁有人類意義上的意識，也不能證明它具有主觀體驗。
研究更關注的是一種功能性問題，模型是否存在某種可以被報告、調動、用于推理的“可訪問思考空間”。
Anthropic 認為，J-space 至少顯示，語言模型內部已經出現了類似“全局工作區”的結構。
Claude 內部可能已經形成了一套更接近“有組織思考”的機制。
對 AI 安全研究來說，這很重要，因為它提供了一種新方式，去觀察模型沒說出口的判斷、計劃和潛在風險。
論文鏈接：https://transformer-circuits.pub/2026/workspace/index.html
云頭條聲明：如以上內容有誤或侵犯到你公司、機構、單位或個人權益，請聯系我們說明理由，我們會配合，無條件刪除處理。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
