為什么AI的錯誤毫無價值？如何理解AI的理解？

在上篇文章中，主持人Paul Middlebrooks曾與哲學家Henk de Regt從上學時常被問到的一個問題，即你是否真的理解了所學的知識談起，之后談到如何判斷AI大模型是否具有理解能力，科學能否被計算機取代等。介于上篇采訪篇幅較長，話題略有跳躍，本文將之重新梳理簡化，并補充了對應的研究解釋，以饗讀者。

科學理解始終以理論為背景

在AI研究專注于刷分，超越當前最先進水平SOTA時，哲學家Henk de Regt提醒我們注意，與其糾結于機器是否擁有人類般的意識，不如承認AI完全可以像人類一樣，擁有真正的“科學理解”。

因為在他的哲學框架下，理解并非主觀頓悟或知識堆砌。長期以來，人們對“理解”抱有兩大根深蒂固的幻覺：他們認為理解只在心理上的副產品，是一種良好的感覺。大眾腦海中常常浮現出這樣一個極其臉譜化的科學家形象：他的頭頂突然亮起一個燈泡，大呼“哦，對了，我終于懂了！”而另一種極其泛濫的誤讀，則是將理解等同于事實的堆砌。你對某件事情了解得越多，理解也就越深。

?Understanding Scientific Understanding《理解科學理解》和作者Henk de Regt

Henk de Regt認為這兩種說法都是錯的。作為拉德堡德大學（Radboud University）的科學哲學教授，他在2017年出版的《理解科學理解》一書，早已成為該領域的經典之作。他指出理解是一種極其硬核的實踐能力——它死死錨定于主體的技能、所處的語境，以及理論的“可理解性（intelligibility）”。

Regt的哲學覺醒，源于上世紀90年代他對“科學發現”的博士研究。作為一名前物理學家，他將目光投向了：薛定諤與海森堡的世紀之爭。

當年，薛定諤對海森堡矩陣力學（一種量子力學的描述，被證明和薛定諤的波動力學在數學上等價）不滿意，于是提出了替代的波動力學。薛定諤非常強調理解和理論的可理解性。他認為矩陣力學是不可理解的，因為矩陣力學完全由數學組成，非常抽象，全是矩陣，故而無法可視化。

薛定諤相信一個理論應該是可視化的，只有當你能在腦海中形成一個時空圖像，想象一個原子的樣子，它的結構如何，你才能真正理解。這就是科學和物理學的目的，即提供這種理解。

若某人能基于某一理論，構造出對該現象的（理想化）模型，并據此做出（無需完整計算的）定性預測，則可認為他“理解”了該現象。

Regt將這種形而上學的執念，總結成了一種實證法則。在他看來，可視化是是眾多理解工具中的一把趁手兵器，它確實能大幅降低人類心智的認知門檻，人們也可以將其應用于模型，加以使用并發展新的想法。

但他也指出，理解是情境化的，根本不存在放之四海而皆準的理解工具。你究竟能不能理解一個理論，完全取決于你手里握著什么技能，腦子里裝著什么背景知識。

但“可理解性”并不是一種形而上學要求（比如妄言“宇宙必須像鐘表一樣機械運轉”），而是一種實踐可行性（pragmatic usability）。它考察的是這個理論，到底能不能被科學家當作極其趁手的工具，去進行建模與推理？

故而，他區分了科學可理解性（scientific intelligibility）與 形而上學可理解性（metaphysical intelligibility）；后者可啟發研究（如惠更斯的機械論催生波動光學），但也可能阻滯新觀點的接受（如拒斥量子力學中的超距作用）。

隨后，他提出科學理解是“可錯的”（non-factive）。哪怕是那些千瘡百孔、甚至被證明是錯誤的理論（如燃素說），依然能在特定的抽象層級上，為我們提供極其強悍的理解力。

為了將這套哲學法則落地，他在播客中拋出了經典的神經科學案例：我們究竟該如何理解“神經信號的傳遞”？在這個戰場上，存在兩大陣營：

• 主流的生物電范式（以霍奇金-赫胥黎模型為尊）：認為動作電位是由電壓門控離子通道主導的跨膜離子洪流（鈉離子涌入，鉀離子逃離），信號的狂飆靠的是局部電流強行驅動的去極化。

• 熱力學視角：宣稱神經信號根本不是電信號，而是沿著脂質雙分子層瘋狂傳播的非線性聲學脈沖（孤立波）。它源于細胞膜在液態與凝膠態之間的瘋狂相變；電信號、熱效應與機械變形，不過是同一場熱力學風暴在不同維度的殘影。

在這兩個本體論上水火不容的理論面前，Henk de Regt認為，它們仍可協同增進理解——尤其是通過“暴露對方視角中被忽視或掩蓋的假設”。而評判這兩個理論的標尺，絕不是誰掌握了絕對真理；而是去盤點它們各自能回答多少極其刁鉆的反事實問題？例如，霍奇金-赫胥黎模型必須咬住“細胞膜電容恒定”的前提；而熱力學視角則逼迫信徒們發出拷問：“如果膜電容根本不是常量，信號傳播的宏大敘事還會不會瞬間崩塌？”

兩種理論看似是沖突的，但Henk de Regt關于科學理解，強調其是非事實性（non-factive） 的。即使不完全符合事實的理論，依然能夠提供理解。生物電視角，提供高精度機制細節（如通道蛋白結構-功能關系），但忽略動作電位伴隨的熱效應（放熱-吸熱循環）與機械效應（膜膨脹-收縮）；熱力學視角，提供統一性框架，并暴露主流范式的隱含前提與解釋缺口。

兩種理論的碰撞推動提出新問題（如：“膜腫脹對通道構象有何反饋？”“熱波動如何調制神經編碼？”）。科學理解的進步正是源于這種利用視角差異進行相互批判（找出隱藏假設）與問題發現，而非簡單的共識累積。

開發一種操作性測試，

用于評估AI智能體的理解能力

理解并不是一個全有或全無的現象，而是一個漸進的過程。你可以擁有不同程度的理解。在討論轉向Henk de Regt關于人工智能是否具備理解[2]討論之前，需要強調這一點。Henk de Regt的理解理論可以被看作是行為主義的，它不關心理解者是否有心理表征，也不關注實現理解的內部機制或過程。從這個意義上說，只要看某個AI智能體能否以某種方式展示出使用信息所需的技能，就能判斷它是否存在理解。

該問題來源于2017年，Henk de Regt被讀者問起：“如果計算機生成了一個解釋，它是否給我們帶來了理解？”這類似于數學中計算機生成的證明的問題，這些證明對于人類來說過于復雜，以至于無法完全理解，盡管某些猜想已經被證明，但沒有任何一位數學家能夠完全理解整個證明過程。那么，這是否仍然給我們提供了這個猜想為何為真或為假的理解呢？

為此，Henk de Regt提出測試。他設想一個“學生”正在向一位“教師”（無論是人類還是AI）求教。教師的目的是向學生解釋一個科學理論及其定性的特征及影響。另一位人類（裁判）會在暗中獨立評估學生在截然不同的情境下，輸出非平凡解釋的質量。學生先進行初始測試（裸考），再與教師互動，然后進行第二次測試。第二次測試雖然應涵蓋相同的內容或方面，但應包含不同的問題以確保測試的有效性。學生在第二次測試中分數的提高程度，是教師有效向學生傳遞對現象理解的能力體現。

?圖1：根據回答問題的數量，可以將科學理解可以被劃分為不同的層次。一個能夠回答科學界提出的所有問題（包括那些我們尚未有答案的問題）的智能體，表明其具有更高層次的（新的）科學理解。來自[2]

這與圖靈測試不同，圖靈測試旨在解決計算機是否能完成一些我們認為是思考所滿足的標準。

播客中，Henk de Regt還提到他與一位德國科學哲學家Florian Boge的合作[3]，探討人工智能是否能通過某種方式看出它們是否具有概念。文中談到機器學習模型在高能物理實驗數據中檢測異常（潛在的新物理現象），Henk de Regt 承認神經網絡是“黑箱”，但主張理解是可轉移——即使機器擁有的“概念”（找到的異常）初始對人類不可通約，仍可通過解釋性接口實現理解遷移，即圖2提出“人機理解協同”操作路徑。

?圖2： 如何將機器學習的成功應用，轉化為人類可理解的科學理解，分三步。第一步將探測器記錄的原始電信號解釋為粒子相互作用產生的能量沉積，第二步在低層物理數據（如粒子動量、角度）上運行深度神經網絡分類器，并將其輸出解釋為某種統計關系，第三步將統計關系（如異常信號、似然比偏差）重新連接回可解釋的物理理論模型（標準模型或BSM模型），以構建機制性解釋。

科學是否可以被計算機取代，

要回答三類問題

播客還討論了科學是否可以被計算機取代。 Henk de Regt指出有三種問題被用來評估機器的理解能力。

第一種稱為“什么”類問題，這類問題評估機器是否能夠獲取正確的信息，從而給出解釋。

第二種是“為什么”類問題，這類問題考察機器或人工代理是否能夠構建對所關注現象的解釋。

第三種是因果解釋中的反事實方法。如果情況不同會怎樣？你能定性地解釋在這種特定方式下情況改變后，這個現象會有哪些不同或者會發生什么嗎？這些是用來評估機器理解的三種問題類型。當然，你還需要判斷這些問題的答案，這是一個完全不同的問題，在談及這一段時Henk de Regt笑到，這根本不是什么非黑即白的數學題，宇宙的終極答案也絕不會是一個干癟的“42”。

Henk de Regt透露，在一篇尚未發表的后續論文中，他與幾位碩士生在此基礎上擴展了[2]這種的想法，并更詳細地闡述了可以提出的問題類型以及對這些問題的分類。他們邀請專家來評判這些問題的答案，從而建立一個問答集合，這最終構成了我們的基準測試。

主持人對此評論道：“由于“古德哈特（Goodhart）定律”，即一旦你立起了一個靶子，這個基準就會變得過時。它會成為你所評估事物的不良指標，因為一旦你設定了目標，所有努力都會集中在通過測試上。這意味著它不能準確反映你真正想要評估的內容。”

Henk de Regt指出，大語言模型所犯的錯誤，根源在于它們根本就沒有在腦海中搭建過任何“理論”。它們只是在瘋狂的概率預測中，極其詭異地翻了車。比如問大模型單詞“nineteen”包含多少個字母？它可能一開始蒙對了，但當你逼問一句“你確定嗎？”它便會自己糾正答案。

相比之下，人類在科學理解中所犯的錯誤，可能會導向更多的發現。因為科學家是基于某一特定模型或理論去做出預測的。例如牛頓理論，它可以預測行星軌道和許多現象，但在19 世紀，我們發現了水星軌道中的一個異常現象。之后愛因斯坦的相對論給出了正確解釋。你可以認為，這可能是牛頓力學理論輸出中的一個錯誤，但事實上，這樣的錯誤促使了理論的修正。這是牛頓力學理論的一個結果，表明理論本身存在問題，即使事實不正確，它仍然可以有助于理解。

而在大語言模型中，你很難找到錯誤產生的原因。大語言模型展現的錯誤對推進理解沒有幫助，也不具有實用性。也許這是因為它們沒有一個可以理解的理論來支撐其輸出的信息。也許是因為它們只是基于龐大的統計語料庫，對詞語和標記進行下一句預測，從而進行統計性生成，而這并不需要任何可理解的理論。因此，它們所產生的錯誤并不是那種“好吧，我明白你的理論出發點，所以我能理解你為什么這么說，而我的回答是……”的錯誤。更像是一個瑣碎的、無謂的錯誤，比如把紅色說成藍色，或者其他類似的情況。

理解中的可視化

與隱喻-理解的層次與其實用性

在播客的最后，主持人問道：是否存在一種對理解層次的類比？抽象與理解之間有什么關系？畢竟，我們根本不需要去死死追蹤電腦里的每一個原子，就能極其精準地描述它的運轉。我們完全可以在截然不同的抽象維度上，去解剖同一個系統。那么，抽象的深度，是否觸及了理解的靈魂？

Henk de Regt用他書中的一個例子答道：19 世紀的氣體熱力學理論模型中，物理學家極其粗暴地將分子或原子降維成了一個個沒有體積的“點”或完美的“球體”，僅僅關注它們的質量和運動，比如位置、速度等。這是一種暴力的抽象，而實際上這些分子要復雜得多。此外，如果你用模型來表示太陽系，即使是一個物質模型，把所有行星都當作大小略有不同的完美球體，并圍繞太陽在橢圓軌道上運行，這也是一個抽象，因為真實的行星要復雜得多。

當然，這是一個非常好的抽象，因為太陽系在某種程度上是孤立的，幾乎完全按照牛頓定律運行，沒有受到其他干擾。因為在太陽系的宏大尺度上，你腳下的泥土與山脈，對于行星的宏觀軌跡而言，根本毫無意義。太陽系模型之所以極其強悍，正是因為它剝離了所有這些無關緊要的細節。用愛因斯坦的話來說，就是“科學家必須把事情盡可能簡單化，但不能過于簡單。”理想化模型的實用價值在于，使用這些簡單的模型來預測更為容易。

理論本身具有不同層次的抽象和理想化，讓主持人將話題引入了公眾的科學理解上，Henk de Regt指出，專業科學家，他們對某種現象可能有或多或少的理解，但這種理解是科學性的理解。當然，這種理解與他們的數學技能或其他各種技能有關。當我們談論公眾對科學的理解，或者從更廣泛公眾的角度來看，那些沒有專業科學家所具備的專業知識和技能的普通民眾，他們的理解，難道就是另一種類型的次等理解嗎？

這并不是從普通理解到專家理解的單向階梯。兩者非常不同。大眾理解與專家理解，在骨子里流淌著極其相似的血液。真正的理解，從來都不是去像守財奴一樣囤積孤立的事實——比如在街頭去考問大眾“地球究竟有多少歲”。這不過是對瑣碎知識極其無聊的追逐。真正的科學理解，是一種推理能力，是一種能夠極其敏銳地把握整體圖景的認知技能。

緊接著，Henk de Regt談到論文中的比喻[4]。研究表明，比喻不僅被用于大眾化的科學普及讀物，也在科學論文本身中被使用。它們的功能有所不同，但比喻無處不在。

?圖3：專家（左）和非專家（右）科學文章中隱喻比例的平均值和標準差，來自4

例如，基因剪切最初是以一種促進交流的比喻而被提出的，通過談論，產生了諸如“信使 DNA”、“翻譯”等概念，這些概念至今仍然是比喻。但當然，人們只是將它們視為技術術語。對于公眾來說，科學家使用比喻是因為這樣我們就可以用他們能夠理解的、與日常生活相關的比喻方式來講故事，這當然是一個促進公眾理解的工具。傳達理解，本質上就是傳達技能：在這里，隱喻與其說是為了填喂知識，不如說是為了極其暴力地激活大眾的“概念推理能力”。成功的科普，絕不是極其傲慢地去閹割或稀釋知識；而是去重新喚醒那些專家早已內化的認知腳手架。

而對于專家來說，隱喻的作用有所不同，專家之間使用隱喻來描述科學現象時，這種隱喻的使用是封閉的隱喻。它不再被用來將你所談論的現象與作為隱喻的實體進行類比，因為它現在已經成為技術術語，你理解的現象就是這個隱喻本身。

這種意義的滑動，哲學家懷特海曾稱之為“意義滑移（slippage of meaning）”謬誤，如果你按字面理解而不再意識到它其實是一個隱喻，這會成為一個問題。很多科學家會忘記他們實際上是在用隱喻來理解這個事物，因為他們覺得這個事物就是現象，而實際上，它始終只是一個隱喻。

但在發現的過程中，尤其要認識到，隱喻對于專家科學家來說也可以作為理解的工具。它們可以使理論變得清晰易懂。例如，可視化是一種對公眾理解非常有用的工具，而數學則不太如此。曾有這樣一個著名的說法：在通俗科學書籍中，每出現一個公式，就會使一半的讀者失去興趣。

而對大多數科學家來說，可視化也是重要的工具之一。比如費曼，他當然是最杰出的物理學家之一，對數學有深刻的理解，但他同樣擁有一個視覺化的思維，他的視覺想象力極其富有成效。

對此，主持人指出：可視化并不是必須的，并不是每個人都能用視覺圖像來思考。對此Henk de Regt回復道：確實不必要。薛定諤認為可視化是必須的。我不這么認為。但同時我們也可以看到，許多科學家，就像許多普通民眾一樣，使用可視化幫助理解。這也體現在神經科學和生命科學中關于機制的爭論中，如果你有一個機制的圖示，你就能對系統有一個整體的概覽，這會給你更多的洞察。

譯者后記

Henk de Regt的觀點，將科學理解的核心看成“可操作的心智模型”，讓理解從“科學家頭腦中的閃光”變為可分析、可比較、可傳承的實踐能力。而隱喻是構建與傳遞理解的通用工具。專家與公眾的差異僅在于理論的內化程度與使用效率。判斷理解有無，看模型能否獲得正確的信息及解釋，是否支持反事實推理；判斷理解深淺，看模型是否是可在師生之間遷移。理解不必獨屬于人，但必須“可協作、可進步”。科學理解既是個體必須技能，也是促成共同體的規范，科學是人類事業，但人類的邊界，或許正在被我們與機器的共構理解所重新劃定，若AI輸出對人類可理解、可修正、可整合，則其已參與理解進程。

原對話鏈接：

https://www.thetransmitter.org/brain-inspired/does-ai-understand-what-it-produces-henk-de-regt-explores-how-we-might-assess-understanding-in-machines-and-humans/

[1] Holland, L., de Regt, H. W., & Drukarch, B. (2024). Two scientific perspectives on nerve signal propagation: how incompatible approaches jointly promote progress in explanatory understanding. History and Philosophy of the Life Sciences, 46(4). https://doi.org/10.1007/s40656-024-00644-4

[2] Barman, K. G., Caron, S., Claassen, T., & de Regt, H. (2024). Towards a Benchmark for Scientific Understanding in Humans and Machines. Minds and Machines, 34(1). https://doi.org/10.1007/s11023-024-09657-1

[3] https://philsci-archive.pitt.edu/26255/1/MLinPPFinal.pdf

[4] https://doi.org/10.1075/msw.22016.sme

關于追問nextquestion

天橋腦科學研究院旗下科學媒體，旨在以科學追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學的邊界。歡迎評論區留言，或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問，我們將基于追問知識庫為你做出智能回復哦~

關于天橋腦科學研究院

天橋腦科學研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創建的世界最大私人腦科學研究機構之一，圍繞全球化、跨學科和青年科學家三大重點，支持腦科學研究，造福人類。

Chen Institute與華山醫院、上海市精神衛生中心設立了應用神經技術前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學院合作成立了加州理工天橋神經科學研究院。

Chen Institute建成了支持腦科學和人工智能領域研究的生態系統，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫生獎勵計劃、、科普視頻媒體「大圓鏡」等。