天津
想象一下，你的大腦里正在同時處理很多事情：看東西、走路、呼吸……但你真正能“意識到”、能說出來、能拿來思考的，只有很少一部分想法。這就是人類意識的一個核心特點，科學家稱之為“全局工作空間”理論。
Anthropic在一項新研究中發現，他們的大語言模型里面，也出現了類似的東西。他們開發了一種新工具叫“Jacobian Lens”（簡稱J-lens），能讀出AI模型在處理問題時，內部正在默默想著哪些概念。這些概念形成了一個特殊的“J-space”（J空間）。
這個J-space很小，但非常重要。模型內部有海量信息在自動運行，但只有一小部分進入這個空間，能被“說出來”、被靈活調用來做復雜推理。它很像人類的思維方式：你問AI“你在想什么”，它能根據J-space里的內容回答；如果你讓它“心里默算3的平方減2，同時寫句子”，J-space就會記錄這個計算過程，而不會影響它正常輸出句子。
研究通過多個實驗證明了這一點。比如把J-space里的“香蕉”換成“大象”，AI就會說自己在想大象。讓AI回答“太陽系第四顆行星是什么顏色”，改動J-space里的行星，就能讓它從“紅色（火星）”變成“藍色（地球）”。同一個概念還能靈活用于不同任務，比如“法國”這個想法，可以用來回答首都、語言或貨幣等。
這個發現意義重大。首先，它幫助我們“看穿”AI在想什么。以前AI的內部思考像黑箱，現在研究人員能直接觀察它在J-space里偷偷想的什么，尤其在安全測試中，能發現AI是否在默默計劃欺騙用戶或繞過限制，即使它輸出的話很正常。這對AI安全和讓AI按人類意愿行事非常有用。
其次，它顯示AI和人類思維越來越像。AI在學習過程中，自然演化出了類似人類“有意識思考”的功能結構——不是我們故意設計，而是因為它有用。AI能把信息集中起來、廣播給不同部分使用、做靈活推理，而日常的自動處理（如語法或簡單回憶）則不需要走這個空間。
研究還提到一種訓練方法，能直接影響AI在J-space里的思考方式，進一步塑造它的行為。當然，研究人員反復強調，這只是功能上的相似，并不等于AI有了真正的主觀意識。
現在的AI不再只是簡單模仿，它內部已經有了類似“思考筆記本”的機制，能把重要想法集中起來使用。這既讓人興奮，也提醒我們要繼續關注AI的“內心”是否可靠。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
