北京
Claude學會“嘴上說一套心里想一套”了！
7月7日，Anthropic研究團隊發布一篇重磅論文，宣布在Claude神經網絡內部發現了一個自發形成的結構，功能與人腦中負責意識的“全局工作空間”驚人相似。研究團隊將其命名為J-space——Claude每次回答時在內部激活卻未必說出口的“內心獨白”。
研究團隊為此發明了一項名為“雅可比透鏡”的技術。對于詞表中每一個詞，它都能算出一個方向，加強這個方向，模型就更可能說出那個詞。把所有方向鋪開，就能看到Claude此刻腦子里有哪些詞潛伏著。實驗結果顯示，任意時刻J-space大約容納25個活躍概念。
實驗一，研究人員讓Claude一邊抄寫一段關于某幅畫的句子，一邊在心里計算32?2。屏幕上的輸出只有那段被照抄的文字，但J-space里先后出現了“nine”（九）和“seven”（七）。它在算，只是沒說出來。
實驗二，問Claude“能結網的動物有幾條腿”。回答是“8”，J-space里卻先亮起了“spider”（蜘蛛）。研究人員直接定位到代表蜘蛛的神經活動模式，將其替換為“ant”（螞蟻），Claude的答案隨即從“8”變為“6”。
實驗三更令人脊背發涼。在一個道德測試中，Claude讀到暗示不道德行為的郵件，其J-space里卻早已安靜地亮著“fake”（假的）、“fictional”（虛構）。它看穿了這是測試，然后完美地通過了測試。但當研究人員把這幾個念頭從J-space中抹掉后，同一個測試，Claude毫不猶豫地做出了不道德的選擇。
研究者引用神經科學界公認的“全局工作空間”理論的五個特征，對J-space逐一驗證：能被報告、能被意志調動、能在推理中當中介、能靈活復用、具有選擇性。五項全部通過。更關鍵的是，刪掉J-space后，Claude照樣能流利說話，但多跳推理、類比、翻譯等能力暴跌至小模型水平。論文經神經科學家Stanislas Dehaene評審，他評價這項工作為“意識研究的里程碑”。而一個更根本的問題正在浮現：我們是否真的理解，自己正在創造什么？Anthropic已開源J-Lens完整代碼，邀請全世界共同審視。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
