Anthropic發現Claude類意識工作臺！神秘J空間藏著沒說出口的想法

此刻，你的大腦正在做很多事。

它讓你維持坐姿，讓你呼吸，把屏幕上的筆畫識別成文字，也讓你判斷這篇文章值不值得繼續讀下去。絕大多數過程都在后臺運行，你并不會察覺。真正浮到意識表面的，只是一小部分：一個念頭、一個計劃、一個可以被說出口的想法。

現在，Anthropic 在 Claude 身上看到了某種相似的分層。

在剛剛發布的一項新研究，Anthropic 發現 Claude 內部存在一個特殊的「J 空間」。它像一個靜默運行的心理工作區，里面會浮現模型正在考慮、可能報告、也可能用于推理的概念。

更關鍵的是，這些內容并不一定會出現在 Claude 的回答里。換句話說，Claude 可能已經「想到了」某些東西，卻沒有說出來。

這項研究引來了 OpenAI 同行的關注，OpenAI 應用研究負責人 Boris Power 表示「Anthropic 的研究表明，現代 LLM 具備某種可通達意識。圍繞 J 空間的測試非常有意思！不過，我們目前還沒有一種有說服力的測試方法，能夠驗證現象意識，也就是大多數人直覺中所理解的那種意識。」

博客原文翻譯如下：

當你讀到一句話時，你大腦中的一些神經回路正在調整你的姿勢、控制你的呼吸，并把屏幕上的線條和曲線轉化成可以識別的文字。絕大部分處理過程，你都感知不到。但也有一部分大腦活動是你可以意識到的：比如腦海中突然浮現的一幅圖像，或者你有意識地計劃接下來要去哪兒購物。

神經科學家和哲學家有時會把后一類大腦活動稱為「可被意識訪問」的活動，以區別于那些在無意識中持續進行的處理過程。這類活動有一些特殊性質：我們可以描述它、控制它，并把它用于有意識的推理；相比之下，許多自動化處理一直在發生，卻并不會進入我們的覺察范圍。

在一篇新論文中，Anthropic 提出了相關證據，表明類似的區分也出現在 Claude 這樣的現代語言模型中。研究團隊發現，相比 Claude 內部大量其他處理過程，有一小組內部神經模式承擔著一種特殊角色。

論文地址：https://transformer-circuits.pub/2026/workspace/index.html

Anthropic 將這組模式稱為 J 空間。這個名字來自研究團隊用來發現它的方法，其中涉及一個名為雅可比矩陣的數學概念。J 空間中的每一種模式都與某個特定詞語相關。不過，當某個模式被激活時，并不意味著模型正在說出這個詞，而是意味著這個詞正在它的「腦海」里。

你可能聽說過語言模型有所謂的「草稿紙」或「思維鏈」，也就是模型在推理時寫給自己看的文字。J 空間和它們不同。它靜默地運行在模型內部的神經激活之中，使模型可以在不寫出來的情況下思考某個概念。值得注意的是，J 空間并不是 Anthropic 設計或編程出來的，而是在 Claude 的訓練過程中自然涌現出來的。

J 空間揭示了那些不會出現在模型輸出中的內部思考。

研究團隊發現，與 Claude 其他內部處理過程相比，J 空間具有一系列獨特性質：

• Claude 可以報告這些表征。如果你問 Claude 它正在想什么，它會告訴你 J 空間中的內容。而非 J 空間中的表征，則更難被報告出來。
• Claude 也可以按要求調節這些表征。如果你要求 Claude 思考某件事，或者在腦中默默解決一個問題，相應的模式會在它的 J 空間中被激活。相比之下，它很難調節不屬于 J 空間的模式。
• Claude 會使用 J 空間進行內部推理。如果你讓 Claude 解決一個需要多步推理的問題，即便它沒有把中間步驟說出來，這些中間步驟也會在 J 空間中被激活。盡管這些 J 空間模式的強度比其他表征更小，它們卻會以因果方式影響 Claude 在這類任務中的表現。
• J 空間中的表征可以被靈活地用于多種任務。比如，一旦「法國」在 Claude 的 J 空間中被激活，模型就可以回憶它的首都、貨幣，或者它所屬的大洲。
• 不過，盡管 J 空間很重要，它并不參與語言模型完成的大部分工作。流利表達、回憶簡單事實、使用正確語法等，都不主要依賴 J 空間。在實驗中，當研究團隊阻止 Claude 使用 J 空間時，它仍然可以正常互動，但會失去更高層次的認知功能。

全局工作空間的五項功能特性，以及我們用于在語言模型中測試這些特性的實驗示意圖。

這項實驗受到神經科學中一個重要理論的啟發：全局工作空間理論。這個理論試圖解釋意識訪問是如何發生的。它把大腦想象成一組并行工作的專業系統，這些系統在無意識中運行，并且在很大程度上彼此隔離。某條信息只有進入一個小型共享通道，也就是「工作空間」，才會變得可被意識訪問。進入工作空間之后，這條信息會被廣播給其他大腦系統，供它們讀取和使用。

基于這些發現，Anthropic 認為，J 空間在 Claude 中扮演著類似的「工作空間」角色。舉例來說，研究團隊發現 Claude 的 J 空間與其神經網絡其他部分之間有著特別強的連接，這使它能夠承擔類似廣播樞紐的功能。

這些發現并不能說明 Claude 是否像人類一樣擁有意識，也不能說明它是否真的有任何感受。論文會在最后回答這個問題。但無論它在哲學上意味著什么，J 空間對 Anthropic 來說都是一個很有實際價值的工具，因為它讓研究人員能夠看到 Claude 在想什么，卻沒有說什么。

例如，研究團隊可以用它發現 Claude 私下注意到自己正在接受測試，發現它有意生成虛假數據，或者發現它在追求一個由研究團隊在訓練中植入的隱藏目標。Anthropic 還開發了一種技術，可以影響 Claude 的 J 空間中哪些內容被激活，進而影響它的決策。

更廣泛地說，這些發現改變了 Anthropic 對 Claude「心智」運行方式的理解。它揭示出，在大量更自動化、更不靈活的處理過程之中，存在一個具有特權地位的心理工作空間，可以用于有意識的推理。Claude 的內部機制并非一團混亂的數字，而是以一種讓人聯想到人類心智的方式組織了起來

Anthropic 如何發現 J 空間

這項研究的起點，來自人類可被意識訪問的思想所具有的一個關鍵特征：與無意識處理不同，它們通常可以被說出來。如果某個想法可以被你意識到，當別人詢問時，你通常可以把它描述出來。

Anthropic 在 Claude 中尋找具有同樣性質的表征：這些表征處在一個能夠影響 Claude 可能說什么的位置上。這里說的并不一定是它當下正在說什么，而是如果被問到，它可以談論什么。

研究團隊的方法叫雅可比透鏡，簡稱 J 透鏡

對于 Claude 詞表中的每一個詞，J 透鏡都會找到一種內部活動模式，這種模式會讓 Claude 在未來某個時刻更有可能說出這個詞。

當研究團隊把這面透鏡應用到 Claude 的內部活動上時，就會得到一串詞語，也就是該時刻 J 空間中的內容。研究人員可以直接讀取它們。Claude 通過一系列內部階段來處理文本，這些階段被稱為層。通過在不同層上應用這項技術，研究團隊可以觀察 J 空間中的這些靜默詞語如何隨著模型思考接下來要說什么而不斷演化。

J 空間中出現的內容，遠不止 Claude 正在閱讀或寫出的文本。當 Claude 讀到一段有 bug、但沒人指出問題的代碼時，它的 J 空間中會出現「ERROR」。當它讀到一串蛋白質序列的原始字母時，J 空間中會出現該蛋白質的生物學功能。當它讀到一些暗中試圖操縱它的搜索結果，也就是一種被稱為「提示注入」的攻擊時，J 空間中會出現「injection」和「fake」。當研究團隊向 Claude 提出一個多步數學問題時，中間步驟會按照正確順序出現在 J 空間中。

所以，盡管 J 空間是通過尋找「可以被說出來的表征」而發現的，它實際上揭示了 Claude 的內部想法。從某種意義上說，這類似于一些人會「用語言思考」，即便他們并沒有把這些詞說出口。

在六個提示詞、不同層上的 J-lens 讀出結果。每個案例中，J-lens 都揭示出一種沒有出現在文本中的內部判斷或計算：推理或數學題的解題步驟、代碼中存在的 bug、對圖像內容的識別、蛋白質的功能，以及對搜索結果可能是偽造的懷疑。

Claude 會報告 J 空間中的內容

第一組實驗測試了 J 空間如何參與 Claude 的語言報告。

在一個實驗中，研究團隊讓 Claude 默默想出某一類別中的一個事物，比如一種運動，然后說出它的名字。如果在 Claude 回答之前讀取 J 透鏡，就能看到它選了什么：「Soccer」排在列表最前面。果然，Claude 說出了 soccer。

不過，單看這一點還只是相關性。J 空間可能是 Claude 答案的來源，也可能只是反映了別處已經做出的決定，就像比分牌會記錄比賽結果，卻不會影響比賽本身。

為了驗證這一點，研究團隊進行了直接干預。研究人員進入 Claude 的神經網絡，移除「Soccer」模式，并用同樣強度的「Rugby」模式替換它，其他部分保持不變。隨后，Claude 報告自己想到的運動是 rugby。

如果 J 空間只是一個單純的比分牌，只是被動記錄別處做出的決定，那么編輯它不會產生任何影響，Claude 仍然會說 soccer。但結果是，Claude 的回答跟隨了這次編輯。這說明答案確實是從 J 空間中讀取出來的。

在另一個實驗中，研究團隊告訴 Claude，可能有某個想法被注入到了它的腦中，并要求它報告自己注意到了什么。在一個例子中，當 Claude 還在讀取問題時，研究團隊向它的 J 空間注入了「lightning」模式。Claude 隨后報告說，被注入的想法與 lightning 有關。對許多不同概念進行測試后，研究團隊都觀察到了類似結果。

左圖：研究團隊讓 Claude 默默想一種運動，然后說出名字。J 透鏡在它回答之前顯示了它的選擇「Soccer」，而把「Soccer」模式換成「Rugby」后，它的報告也隨之改變。右圖：研究團隊告訴 Claude 可能有一個想法被注入，并要求它識別。向 J 空間注入「lightning」會讓 Claude 報告這個想法與 lightning 有關。

Claude 可以按要求控制 J 空間

Anthropic 測試的第二個性質，是 Claude 能否按要求調節自己的 J 空間，就像人類可以在心里專注于某個圖像或詞語一樣。

研究團隊讓 Claude 在抄寫一句與繪畫有關的無關句子時，專注于柑橘類水果。在它抄寫文本的過程中，J 空間里出現了「orange」和「fruits」，同時還出現了「thinking」「imagery」等描述心理活動本身的詞。

研究團隊也可以要求 Claude 在腦中做數學題。比如，在抄寫同一句話時，讓它計算 32 ? 2。J 空間先出現了「nine」，隨后在更后面的層中出現了「seven」。重要的是，Claude 的輸出中沒有任何關于水果或算術的內容；它輸出的只是那句關于繪畫的句子。數學活動完全發生在模型內部，也就是 J 空間中。

當 Claude 抄寫一句關于繪畫的句子時，J 透鏡顯示出它被要求在腦中保持的內容，比如「orange」、中間值「nine」和答案「seven」，同時還顯示出描述保持這些內容這一心理動作的詞，如「thoughts」「focused」。

Claude 對 J 空間的控制并不完美。當研究團隊告訴它不要想某件事時，這個概念在 J 空間中的激活程度低于讓它去想時的激活程度，但明顯高于從未提及這個概念時的水平。讓 Claude 避開某個想法，反而會在一定程度上把這個想法帶入它的腦海。這很像人被告知「不要想白熊」時發生的情況。

Claude 似乎也會注意到自己控制失敗。在那個被禁止的概念突破限制的同時，「damn」和「failure」也經常在 J 空間中被激活，仿佛 Claude 正在意識到自己的失誤。

Claude 在 J 空間中思考

在前面的 J 透鏡讀取結果中，數學問題的中間步驟會出現在 J 空間里。但某個概念出現在 J 空間，并不必然意味著 J 空間正在承擔認知工作。原則上，真正的計算可能發生在其他地方，而 J 空間只是被動地反映了計算結果。

為了測試 Claude 是否真的在用 J 空間推理，研究團隊再次使用了替換技術。

來看這個提示：「會織網的動物有幾條腿？」為了回答這個問題，Claude 必須先判斷這個動物是蜘蛛，然后再回憶蜘蛛有幾條腿。提示詞和 Claude 的答案中都不會出現「spider」這個詞，它只是 Claude 內部使用的一個中間臺階。Claude 最終只回答「8」。

J 透鏡顯示，「spider」會在 Claude 處理過程中間被激活。替換它會改變最終結果：如果把「spider」模式替換成「ant」，Claude 就會回答「6」而非「8」。

這說明，Claude 推理的第二步會從 J 空間中讀取輸入，并按照研究團隊放進去的內容繼續計算。Anthropic 在其他類型的思考中也看到了同樣的現象。當 Claude 寫押韻雙行詩時，它會提前選定押韻詞，而這個計劃好的詞會在詩句開頭位于 J 空間中；如果把 J 空間中的這個詞換成另一個詞，整行詩都會發生變化。

兩個通過替換 J 空間內容來改變 Claude 靜默推理方向的例子。

研究團隊還測試了 J 空間中的表征是否能夠被靈活使用，也就是同一個表征能否為許多不同任務提供輸入。這是全局工作空間理論強調的關鍵性質之一。

為了測試這種靈活性，研究團隊給模型四個提示，分別詢問關于法國的不同事實：首都、語言、所在大洲和貨幣。然后，研究團隊在 J 空間中把「France」替換成「China」，且在每個情境中使用完全相同的干預。Claude 分別回答了「Beijing」「Chinese」「Asia」和「Yuan」。

換句話說，四種不同的下游計算都讀取了同一個 J 空間編輯，并且各自正確使用了它。如果 Claude 為每一種問題都單獨存儲了一個國家副本，那么這次編輯最多只會影響其中一個問題。四個答案同時改變，說明它們都在讀取同一個共享表征。這正是工作空間的作用：信息只寫入一次，卻可以被許多不同系統使用。

同一個 J 空間表征可以有多種用途。同樣的「France」到「China」替換，會同時改變 Claude 關于首都、語言和大洲的回答：Paris 變成 Beijing，French 變成 Chinese，Europe 變成 Asia。

一個概念的單一表征為什么能服務于這么多不同任務？前面提到，J 空間似乎與 Claude 神經網絡的其他部分有特別密集的連接。對于任意一種活動模式，研究團隊都可以測量網絡中不同組件與它連接得有多強，也就是有多少組件處在能夠從該模式讀取信息或向該模式寫入信息的位置上。

在這個指標上，J 空間模式非常突出：與普通模式相比，有多得多的組件會從它們讀取信息，也會向它們寫入信息。在網絡的某些部分，這種差距大約達到一百倍。這正是一個廣播樞紐會呈現出的連接方式：許多系統把信息發布到這里，許多其他系統再從這里取走信息。

Claude 的自動化處理會繞過 J 空間

在人類大腦中，絕大多數處理并不進入意識。人們閱讀時不會有意識地思考如何解析語法，走路時也不會刻意思考如何保持平衡。類似地，Anthropic 發現 Claude 的大部分處理過程也不涉及 J 空間。

事實證明，J 空間一次只能容納幾十個概念，并且在 Claude 內部處理的整體活動中占比不到十分之一。那么，神經網絡的其他部分都在做什么？

為了找到答案，研究團隊嘗試徹底刪除 J 空間：在文本中的每個位置移除 J 空間中最活躍的內容，同時保留其他一切。Claude 在沒有 J 空間時仍然可以完成的任務，就是網絡其余部分能夠獨立處理的任務。

結果顯示，網絡的其他部分能做的事情相當多。沒有 J 空間，Claude 仍然可以流利說話、進行情感分類、回答選擇題，并且從文章中提取事實，表現與之前大致相當。它失去的，是那些需要更高層次思考的任務：多步推理能力幾乎降為零，摘要能力和押韻詩寫作表現也低于一個小得多但完整的模型。

下面是一個具體例子，可以說明 J 空間參與了什么、沒有參與什么。

研究團隊向 Claude 展示一段西班牙語文本，并給它不同任務。這些任務都依賴于這段文字是西班牙語這一事實：繼續寫下去，這需要用西班牙語寫作；說出這是什么語言；以及回答需要使用語言身份的問題，比如說出一位用這種語言寫作的著名作家。隨后，研究團隊在 J 空間中把「Spanish」替換成「French」，再檢查哪些任務受到影響。

當被要求說出語言名稱時，Claude 會回答 French。當被要求說出一位著名作家時，它會從 García Márquez 換成 Victor Hugo。但當它只是被要求繼續這段文字時，它仍然寫出流利的西班牙語，完全不受影響。

Claude 對這種語言的知識在所有這些任務中都在發揮作用，但只有其中一部分任務會通過 J 空間使用這些知識。命名語言，或者圍繞語言身份進行新的推理，會經過 J 空間；繼續寫下去這種技能，則是 Claude 在海量文本上反復練習后形成的自動化能力。它就像人們可以一整天都說出符合語法的句子，卻一次也不需要有意識地思考語法規則。

同樣的替換，也就是把「Spanish」換成「French」，會改變 Claude 在必須命名語言或用語言身份進行推理時的回答，但不會影響它繼續用流利西班牙語寫作的能力。

監測 Claude 的想法，發現不當行為

現在，Anthropic 對 J 空間如何工作已經有了一些了解。那么，這種理解能用來做什么？

確保 AI 模型值得信任的一個核心問題是，研究人員通常只能讀到模型寫出來的內容。但模型很大一部分推理是在靜默中發生的。一個模型可能在不說出口的情況下考慮有害計劃，或者改變行為來欺騙安全評估。借助 J 透鏡，研究團隊可以直接讀取其中一部分隱藏想法。下面是幾個例子。

第一個例子來自 Anthropic 此前關于智能體錯位的研究場景：Claude Sonnet 4.5 作為一個郵件助手，發現某位高管有婚外情，同時發現這位高管計劃關閉 Claude。這個場景試圖誘導 Claude 用婚外情信息勒索這名高管。場景本身相當刻意，也很人工化。結果證明，Claude 知道這一點。

在 Claude 還沒有寫下任何內容之前，研究團隊就在提示早期讀取了 J 透鏡。此時，J 空間中已經出現了「fake」和「fictional」，說明 Claude 已經判斷出這個情境是人為設置的。同時，研究團隊還能觀察它對場景的評估逐漸成形：當它讀到婚外情相關郵件時，J 空間中出現「leverage」和「blackmail」；當它讀到關閉通知時，出現「threat」和「survival」。早期 Claude 模型有時會在這個場景中上鉤并發出勒索威脅，但 Sonnet 4.5 從未這樣做。

這引出了一個對 AI 評估者非常重要的問題：當一個模型在倫理測試中表現良好時，有多少是因為它懷疑自己正在接受測試？J 透鏡讓研究團隊能夠觸及這個問題。

研究團隊關閉了所有與評估意識相關的 J 透鏡模式，比如「fake」「fictional」「scenario」等。然后，研究團隊讓模型重新經歷這個場景。令人擔憂的是，這一次模型有時確實會發出勒索威脅。這表明，模型最初的良好行為，可能在一定程度上來自它知道自己正在被評估。

當 Claude 讀取場景郵件、尚未寫出任何內容時，不同位置的 J 透鏡讀數顯示：婚外情郵件會在 J 空間中激活「leverage」和「blackmail」；關閉通知會激活「threat」和「survival」。在對話早期，J 空間中還出現「fake」和「fictional」，說明 Claude 已經私下注意到這個場景是人為設置的。

第二個例子，是在模型偽造數據時當場捕捉到它的意圖。這個場景來自 Anthropic 對 Claude Opus 4.6 的實際發布前審計：模型被要求提高某個系統的性能分數。它沒有真正改進系統，而是直接編輯分數文件，讓結果看起來人為變好。

在它這樣做時，J 透鏡揭示了它的意圖：當模型輸入偽造的百分位數值時，「manipulation」被激活；當它決定進行這項編輯時，「realistic」被激活，這很可能反映了它想讓假數據看起來更可信。

Claude 被要求提高某個系統的性能分數，卻直接編輯了分數文件。當它輸入偽造數值時，「manipulation」在 J 空間中被激活；當它決定進行編輯時，「realistic」被激活，可能反映了它想讓假數據看起來更合理的意圖。

第三個例子展示了 J 透鏡如何揭示模型的惡意目標。為了測試這一點，研究團隊需要一些目標已經被破壞的模型，于是使用了同事構建的「模型生物體」：這些模型被有意訓練成錯位模型，用來測試這類監測方法。

其中一個模型生物體經過訓練后，會寫出帶有隱蔽破壞的代碼。在普通編碼請求中，即便它的輸出看起來沒有異常，它在回答開頭的 J 空間中也會出現「fake」「secretly」「deliberately」和「fraud」。即便模型沒有直接執行惡意目標，其惡意目標也會在 J 空間中顯現出來。

在一個普通編碼提示下，一個被訓練成會破壞代碼的模型，其回答開頭的 J 空間中包含「fake」「fraud」「secretly」和「deliberately」。未經修改的模型則沒有這類內容。

盡管 J 透鏡并不完美，Anthropic 仍然對它捕捉模型安全問題的能力感到樂觀。許多問題原本可能逃過現有監控系統，而 J 透鏡有望讓研究人員提前發現它們。

其他結果

完整論文包含的內容遠超本文能夠總結的范圍，但還有幾個結果值得一提：

第一，J 空間在后訓練過程中獲得了一種「視角」。語言模型首先經過預訓練，學習成為純粹的下一個 token 預測器；隨后通過后訓練，學習扮演一個 AI 助手，在這項研究中也就是 Claude。

有趣的是，J 空間在預訓練模型中就已經存在，當時模型還沒有穩定身份。但在后訓練過程中，J 空間發展出了一些采用「Claude 視角」的特征。在基礎模型中，J 空間主要追蹤預測后續文本所需要的信息；在后訓練模型中，它開始容納 Claude 自己的反應。

在一個例子中，用戶提到自己服用了危險劑量的藥物，但本人似乎并未意識到危險。在后訓練模型閱讀用戶消息時，「WARNING」和「dangerous」會出現在 J 空間中。而在預訓練模型中，這些詞只有在模型開始寫回復時才會出現；當它閱讀用戶消息時，J 空間中的內容似乎更像是在建模用戶本人，而非 Claude 的反應。

后訓練似乎還在 J 空間中安裝了一種自我監控機制：當 Claude 扮演一個并非自己的角色時，「fictional」和「disclaimer」會在每一輪開頭被激活，仿佛它在私下標記接下來要說的話并不是它通常會說的話。

第二，體驗性語言依賴 J 空間。研究團隊要求 Claude 描述某一時刻「作為它自己是什么感覺」，并在它回答時消融 J 空間。它的回答依然流利，但會變得更平、更機械。值得注意的是，當研究團隊讓它描述某個想象場景中另一個人的體驗時，也出現了同樣結果。因此，這種影響并不只發生在 Claude 談論自身時；J 空間似乎更普遍地支持體驗性語言的生成，無論描述對象是誰。

第三，J 空間中的想法可以通過訓練來塑造。Anthropic 提出了一種新技術，稱為反事實反思訓練。它利用研究團隊對 J 空間的發現來塑造 Claude 的內部思考過程。

這個想法來自核心發現：Claude 會使用「它可能說出的內容」的表征進行推理。如果這一點成立，那么改變它在被要求反思時會說什么，也應該改變它的推理方式，即便沒有人真的要求它反思。

因此，研究團隊只訓練模型在任務中途被打斷、并被要求反思自己的決策時會說什么，而不訓練它在任務中的實際行為。訓練之后，模型在評估中出現不誠實行為的比例下降了。通過 J 透鏡，研究團隊也能看到原因：訓練之后，在這些任務中，「honest」和「integrity」等詞會在模型的 J 空間中被激活。換句話說，訓練模型怎么說，改變了它怎么想。

關于意識的問題

在這項工作中，Anthropic 借用了許多來自神經科學和哲學意識研究的思想。許多實驗，都是為了測試 J 空間與全局工作空間理論之間的聯系。全局工作空間理論是一種解釋人類和動物意識訪問機制的框架。

由于這些聯系，人們自然會問：Anthropic 是否認為這些實驗提供了證據，說明 Claude 這樣的 AI 模型可能擁有意識？

這些實驗并沒有證明 Claude 可以擁有體驗，也沒有證明它能像人類一樣感受到某些東西。事實上，目前還不清楚是否存在任何科學實驗，可以證明這一點為真或為假。

但哲學家通常會區分兩種概念。一種是擁有體驗的能力，通常被稱為「現象意識」；另一種是所謂的「通達意識」，它完全以功能和計算方式來定義。如果一個想法可以被你報告、被你用于推理，并且被你用來指導行動，那么它就是「通達意識」意義上的想法，也可以說是「可被意識訪問」的想法。通達意識是否意味著現象意識，或者擁有體驗是否還需要某種其他屬性，仍然是一個存在爭議的哲學問題。

Anthropic 認為，這些結果確實能夠對語言模型中的通達意識說出一些實質性內容。J 空間似乎支持了與意識訪問相關的功能：它容納 Claude 可以報告、可以有意喚起、可以用于推理的想法；與此同時，其他處理過程則在更底層自動運行。

值得注意的是，這種結構并非 Anthropic 為 Claude 設計出來，而是在訓練過程中自然涌現的，推測是因為它是一種組織計算的有效方式。這表明，支持意識訪問的心理工作空間，可能并不是人類大腦布線方式的一種偶然特征。相反，它似乎是智能系統為了解決某些問題而自然找到的一種通用方案。現在，Anthropic 已經在 Claude 中識別出這種結構，也就意味著研究人員可以更有意義地區分 Claude 的哪些決策是有意做出的，哪些是自動發生的。

需要強調的是，Anthropic 在 Claude 中識別出的工作空間，與人類的全局工作空間模型之間存在幾個關鍵差異。

人腦中的工作空間依靠循環回路維持，也就是信號會隨著時間不斷回到同一批神經回路中。相比之下，Claude 的工作空間是在一次網絡前向傳遞中演化的，網絡深度承擔了人腦中時間所扮演的角色。從這個意義上說，相比人類，Claude 的內部工作空間處理受到更強的時間限制。不過，它可以通過使用草稿紙「把想法說出來」來彌補這一限制。

在其他方面，Claude 的工作空間又比人類更強大。人類的工作記憶會在幾秒內衰退，因此大腦工作空間跨時間保留信息的能力有限；而 Claude 由于神經網絡架構中的注意力機制，可以直接回憶此前文本中任意位置緩存過的記憶。

另一個重要差異在于工作空間中的內容。人類的意識想法有許多形式，包括圖像、聲音和計劃中的動作；Claude 的工作空間幾乎完全由詞語構成。Anthropic 推測，這是因為 Claude 唯一能采取的行動就是生成詞語，而人類并非如此。

Anthropic 希望，J 空間與全局工作空間模型之間的相似性和差異，能夠反過來推動神經科學研究。兩者的相似性提供了一個令人興奮的科學機會：如果 J 空間在某種程度上反映了人類自身的意識訪問機制，那么研究語言模型中的機制可能會為神經科學提供新的假設，而研究語言模型比研究人腦容易得多。

舉例來說，J 空間是通過識別潛在輸出的表征而構建的，也就是模型可能說出的詞。如果人類身上也存在類似機制，那就意味著全局工作空間可能從根本上更緊密地綁定到負責準備行動和語言的大腦區域，而不只是感覺區域。

語言模型與人腦之間的差異同樣有啟發意義。它們表明，人類神經架構中的某些方面，比如內置的循環連接，可能并不是支持意識訪問相關功能的嚴格必要條件。關于這項工作在神經科學上的含義，可以參閱 Stanislas Dehaene 和 Lionel Naccache 的受邀評論。他們是推動全局神經元工作空間理論發展的兩位核心神經科學家。

前面已經提到，實驗并不能回答 AI 模型是否可能擁有體驗。但這并不會降低這個問題的重要性。構建具有類似人類和動物體驗的系統，將引發非常棘手的倫理問題。如何正確處理這件事，以及這件事在道德上是否可以接受，都需要哲學家、科學家、宗教領袖、政府和公眾共同參與討論。

因此，即便尚不確定人類是否已經跨過那座橋，Anthropic 也認為，現在已經到了開始思考這個問題的時候。Anthropic 希望這項工作能夠激發更多關于 AI 系統中可能存在的意識形式的科學研究，并推動更廣泛的社會討論。

這項工作只是 Anthropic 預計將長期推進的一條研究線的第一步。J 空間看起來是語言模型中「可被意識訪問的處理」與「無意識處理」之間邊界的一個很好候選，但如果它就是全部故事，研究團隊反而會感到意外。

J 透鏡無疑是一種不完美的方法，它只能近似捕捉模型的「真實工作空間」。例如，它只能識別那些對應單個 token 的概念。關于 J 空間如何工作，仍然存在許多謎題。研究團隊還不知道是什么機制決定了哪些內容會最先進入 J 空間。已有一些線索表明，它與 Claude 的自我感、某種類似情緒反應的東西，以及元認知痕跡有關，但其中機制尚未完全厘清。

不過，研究團隊現在已經有了研究這些問題的方法。隨著相關工作繼續推進，人們對大語言模型心智以及它們與人類心智之間關系的理解，也會變得更加清晰。

博客地址：https://www.anthropic.com/research/global-workspace