拆開Claude大腦也沒用！AI黑箱真正的鑰匙，藏在本體工程

新智元報道

從神經科學到知識論

可解釋性的進路之辨

「解釋的本質，不在于凝視機器本身，而在于審視機器所凝視的世界」。

2026年7月，Anthropic研究團隊發表了《A global workspace in language models》，通過名為J透鏡的工具在Claude內部識別出一個可被觀測、可被干預且具有因果效力的神經活動區域——J-Space。

這一發現之所以引發廣泛關注，在于它使研究者得以窺見模型推理過程中的「內心獨白」，標志著可解釋性研究從對模型行為的解釋邁向了對其內部狀態的實時觀測。

J-Space以認知神經科學的全局工作空間理論為解釋框架，將語言模型的推理活動類比于人類意識層面的信息處理，在方法論和認識論層面都構成了重要推進，也為AI安全提供了全新的監控維度。

然而，正因其影響深遠，更有必要審慎檢視這一進路的內在局限。J-Space研究的根本取向是內在主義的——它將可解釋性的核心問題設定為「理解模型內部發生了什么」，試圖像神經科學家用fMRI掃描人腦一樣，用J-lens掃描語言模型的神經活動。

這一進路預設了可解釋性的答案藏在模型「體內」，然而一個模型的輸出是否可被理解，不僅取決于其內部狀態的可見性，更取決于這些狀態與世界中的事態、語義規范以及使用者的認知框架之間的關系。

僅憑觀察神經活動來理解模型的話語，就如同僅憑觀察一個人的腦電活動來理解他所說的話——我們或許能捕捉到神經關聯，卻未曾觸及話語的意義本身。

除此之外，J-Space借用了全局工作空間理論這一關于意識的理論來解釋語言模型，在移植過程中一種微妙的范疇錯誤悄然發生：功能層面的同構性被誤等同于認識論層面的等價性。

模型沒有主觀經驗，J-Space中的激活模式只是數學運算的產物，而非任何意義上的心靈狀態。

更深層的問題在于，J-Space研究本質上是一項工程導向的工作，它將「可解釋性」窄化為「可觀測性」和「可干預性」，然而在更廣泛的知識論傳統中，「解釋」的含義遠比此豐富——它涉及將現象納入更一般的規律框架，涉及提供理由和依據，還涉及對決策正當性的論證。

J-Space能夠告訴我們模型「在想什么」，卻無法告訴我們模型為什么以這種方式思考，它所依據的「理由」是什么，這些理由在何種意義上是「好的」理由。這些問題的答案不在神經活動模式之中。

上述局限指向一個共同的癥結：J-Space乃至整個以神經網絡為焦點的可解釋性研究，始終將「模型本身」作為解釋的唯一對象，問題的起點和終點都是模型。

本文嘗試提出一種不同的視角——將可解釋性的追問從模型內部轉向模型所處理的信息，從神經科學的內部主義進路轉向知識論的「信息本體論」進路。

這一轉換基于一個簡潔的觀察：大型語言模型本質上是信息處理器，其輸入和輸出均為文本，而文本的意義——即我們真正需要解釋的東西——并不存在于神經元的激活值中，而存在于這些符號與世界、與知識、與人類實踐之間的關系之中。

當一個模型回答「巴黎是法國的首都」，我們需要解釋的不僅是模型內部哪個區域被激活了，更是這個陳述在何種知識體系中成立，它以什么為依據，這些依據的可靠性和正當性如何，這個回答與人類已有的地理知識之間是什么關系——這些問題無一能通過掃描神經活動來回答。

因此，本文主張將可解釋性問題的核心從「模型如何思考」轉向「模型處理了什么樣的信息、這些信息具有怎樣的本體論地位」，從而將可解釋性的對象從模型本身擴展至模型所嵌入的整個信息生態——包括訓練數據的結構、知識的表征方式、推理過程中的信息流轉，以及輸出與外部知識體系的映射關系。

以J-Space為代表的可解釋性研究將神經科學范式引入了人工智能領域，其貢獻在于使我們得以窺見模型「內部發生了什么」。然而這一進路的內在主義取向、對功能類比的依賴以及工程化視角對「解釋」概念的窄化，共同構成了其認識論上的三重局限。

本文認為，要真正推進大語言模型的可解釋性問題，需要超越對模型內部狀態的凝視，轉而從知識論的視角出發，系統考察模型所處理的信息——其來源、結構、表征方式、流轉路徑及其與外部知識體系的關系——的本體論基礎。正是這一視角的轉換，構成了本文研究的出發點。

本體論源起

可解釋性的哲學地基

「概念無直觀則空，直觀無概念則盲」。

先拋出一個古老的哲學追問：人類究竟如何理解世界？康德在《純粹理性批判》中給出了經典回答：他認為人類心靈并非被動接收外界刺激，而是先天配備了十二種「純粹知性概念」（「十二范疇」）作為認知的形式框架。

康德從人類邏輯判斷的十二種形式中推導出這些范疇，將其分為量、質、關系和模態四組：量涉及「多少」，質涉及「是什么樣」，關系涉及事物之間的聯系，模態涉及存在的方式。

康德的范疇理論本質上是一種關于「可理解性」的本體論承諾：只有能被納入這十二種范疇框架之下的東西，才能成為知識對象；超出框架的「物自體」永遠不可知。這意味著康德意義上的「本體論」不再追問世界「本身是什么」，而是追問「世界對我們呈現為什么」。

這對于AI可解釋性的深層啟示在于：當我們解釋一個語言模型的輸出時，真正「可解釋」的不是內部神經元的物理激活，而是信息被范疇化、被結構化為可理解知識的過程。神經激活屬于物自體層面，模型輸出的話語意義則屬于現象界層面，只有被置于某種認知結構框架中才能被理解和評判。

本體是AI可解釋性的「鑰匙」。在分析層面，它提供了一套完備的概念框架來描述模型所處理信息的結構化形態——我們可以追問一個陳述中是否隱含了「實體與偶性」的歸屬、「因果性」的判斷或「模態」的承諾，從而系統描述模型構建了何種知識結構，而非籠統地說「模型似乎理解了因果關系」。

在規范層面，它為可解釋性提供了評判標準：若模型內部表征中確實形成了與本體相對應的結構化模式，其輸出就具備被理解的基礎；若始終無法映射到這些本體之上，則無論輸出多么流暢，在認識論意義上都是不可解釋的。

以康德范疇作為可解釋性的哲學鑰匙，并非主張模型必須「擁有」這些范疇——康德的范疇是主體的先天認知條件，而模型則是功能上的實現問題，它可能通過不同的神經計算路徑在功能上等價地區分實體性、因果性或模態差異。

關鍵在于：可解釋性不要求模型內在機制透明到每一個權重的程度，而要求我們能夠確認模型在信息處理層面所形成的結構是否映射到了人類用以理解世界的范疇框架之上。

從理論到實踐：

本體工程與大語言模型的融合

本體論提供的是關于「可理解的結構應當是什么樣」的規范性回答，但這一回答本身并不自動轉化為可運行的技術系統。本體論若無本體工程的支撐，便只是懸置在空中的概念游戲。

本體工程作為將哲學范疇實例化為可計算、可維護、可追溯的技術實體的實踐領域，構成了從理論到應用的必經橋梁。

在人工智能可解釋性問題上，本體論與本體工程的關系尤顯根本：前者告訴我們應當追問什么樣的知識結構，后者則負責在模型、數據和系統之間實際構建起這樣的結構。

大語言模型的出現，使本體工程獲得了前所未有的發展動能，也反過來提出了全新的工程挑戰。傳統本體構建依賴領域專家的人工參與，流程漫長、成本高昂，且難以適應知識更新和領域演變的節奏。

大語言模型憑借其從海量文本中提取語義模式和知識關聯的能力，正在從根本上重塑本體工程的實踐形態。

在類定義、關系抽取、屬性構建等核心本體學習任務中，語言模型能夠以遠超人工作業的效率完成大規模知識的結構化提取。更為關鍵的是，語言模型在識別概念之間的層級關系、同義關系和關聯關系方面展現出的語義敏感度，使得本體構建從「專家手工編制」演進為「人機協作生產」乃至「自動生成式構建」。

這種轉變的意義不僅在于效率提升——它使本體的構建具備了前所未有的可擴展性和領域覆蓋度，使得原本只有少數關鍵領域才能享有本體支持的局面，開始向更多垂直場景和快速變化的知識領域開放。

與此同時，本體工程的反向賦能同樣不可忽視。大語言模型固然強大，但其推理過程的不可見性、輸出的不可驗證性以及對訓練數據統計規律的依賴，共同構成了可解釋性的根本障礙。

本體在此扮演的工程角色是多重的：它作為結構化的知識供給者，為模型提供經過驗證的領域知識底座；作為推理的校驗框架，對模型的輸出進行一致性約束和邏輯校準；更根本地，作為解釋的錨定結構，使模型的每一步推理都能夠被映射到明確定義的類、屬性和關系之上。

當一個模型的輸出可以追溯至其所依賴的本體條目，解釋便不再依賴于對神經網絡內部狀態的猜測，而是建立在對知識結構本身的追溯之上。這正是可解釋性從「透視黑箱」向「展示知識結構」轉變的工程基礎——前者在技術上面臨不可逾越的困難，后者則是一個可設計、可優化、可驗證的工程問題。

在這一雙向融合中，「AI友好的本體框架」成為一個關鍵的工程命題。傳統本體面向描述邏輯推理機設計，其語法、公理和推理機制均圍繞確定性符號推演優化；而大語言模型的介入，從根本上改變了本體的消費者形態與使用場景。

這一變化要求本體設計原則做出相應調整——本體應當收斂其職責，專注于清晰定義領域中的對象、關系、行為與規則，即為模型提供推理所依賴的「語義骨架」；而具體的推理過程——規則的選取、組合與應用——則交還給語言模型自身的泛化能力。

職責的重新劃分帶來了明確的工程收益：本體不必追求邏輯完備性而陷入復雜公理化的泥沼，而是以簡潔性和可維護性為前提，為模型輸出提供穩定的語義坐標。

在此框架下，本體的構建須面向大語言模型的調用接口進行優化——其類定義與關系描述應便于模型理解與使用，結構化知識應便于模型檢索與引用，約束規則應便于模型進行輸出驗證。這樣的本體既非替代模型推理的符號引擎，亦非僅供查閱的靜態背景資料，而是嵌入推理鏈路之中、可被實時調用與追溯的解釋性基礎設施。

可解釋性的未來

解釋模型vs解釋影響

本文以J-Space為引，經由康德十二范疇的哲學奠基，最終落腳于大語言模型與本體工程的融合實踐，完成了一條從神經科學到知識論、再到工程實現的思想線索。

貫穿其中的核心判斷是：大語言模型的可解釋性困境，并非僅僅源于模型內部機制的不可見性，更源于我們長久以來將「解釋」等同于「透視」的思維慣性。著名科幻作家斯坦尼斯瓦夫·萊姆在其著作《索拉里斯星》里描述了一片覆蓋整個星球、能讀取人類記憶并將其具象化的膠質海洋，堪稱「AI黑箱」的終極隱喻。

海洋能處理海量信息、生成超越人類預期的結果，但其底層邏輯對人類而言完全不可解碼——它既非善意亦非惡意，只是遵循著人類無法參透的自身規律。

更悲觀的是，海洋最終拒絕了人類「馴化」或理解它的一切嘗試，暗示認知的終極邊界或許客觀存在。這一意象恰恰警示我們：即便我們能觀測到模型「正在想什么」，也未必能理解它「為什么這樣想」。

可解釋性問題的真正難點，或許不在于技術手段的不足，而在于問題框架本身的窄化。

突破大語言模型可解釋性的可行路徑，不應局限于嘗試「打開黑盒」這一單一方向，而應同等重視乃至更加重視對模型輸出及其現實影響的觀察、理解與控制。

本體工程在此提供了關鍵的實踐框架：通過構建AI友好的、可被模型調用和追溯的語義骨架，我們得以將模型的推理錨定在明確定義的知識結構之上，使輸出所依賴的類、屬性和關系獲得可形式化描述與可追溯驗證的工程基礎。

當模型的每一個陳述都可以被映射到本體所定義的概念框架中時，「解釋」便不再是對神經網絡權重的解剖，而是對知識結構的展示；當模型輸出的依據可以在本體層面被追溯和校驗時，「控制」便不再是強行干預內部激活，而是對信息流轉路徑的規范化管理。

這一視角的轉換將可解釋性從一項近乎不可能完成的技術挑戰，轉化為一項可通過工程手段持續逼近的治理目標——它要求我們不再執著于讓模型變得完全透明，而是致力于讓模型在現實世界中產生的影響變得可理解、可追溯、可問責。

通付盾一直在本文所探討的本體工程與可解釋性框架理念下深耕實踐，公司核心產品LegionSpace正是基于上述技術理念構建。作為一個以本體為核的企業級AI基礎設施，LegionSpace將模型所處理的信息、所依賴的知識納入形式化本體工程，使每一次推理與決策都錨定在可解釋的知識結構之上。

其愿景是讓本體成為AI與人類理解之間的共同語言，使可解釋性成為工程化治理現實。

LegionSpace: 本體工程與大語言模型的深度融合