<blockquote id="g5mpq"><rt id="g5mpq"></rt></blockquote>

    1. <pre id="g5mpq"></pre>
      <i id="g5mpq"><legend id="g5mpq"></legend></i>
      浪漫女家教主演:黛比地区:台湾 ,日本jiZz,爸爸的种子在线观看,特别的酒店2免费,哇嘎在线,荒野渔夫高清免费观看,新有菜在线免费观看,哇嘎美国
      網易首頁 > 網易號 > 正文 申請入駐

      萬字追問:你以為的理解真的是理解嗎?重新理解理解的四個層次

      0
      分享至



      對談嘉賓

      Henk de Regt

      拉德堡德大學科學院社會科學研究所自然科學教授

      拉德堡德大學科學院社會科學研究所自然科學哲學全職教授。 其專業領域為一般科學哲學、物理學基礎以及近代物理學史。 他的研究領域圍繞“理解”這一主題展開,試圖通過哲學分析和歷史案例研究,研究科學理解的本質。


      主持人

      Paul Middlebrooks

      卡內基梅隆大學的特聘助理研究員

      卡內基梅隆大學的特聘助理研究員,同時是播客“Brain Inspired”的主持人。他主要研究運動皮層和基底神經節神經群體活動如何在自由行為的小鼠中支持自然行為,致力于揭示神經活動與復雜行為之間的關系。

      你真的“理解”什么是理解嗎?

      在日常生活中,我們常把“突然想通了”的靈光一現,或是對某個高頻專業詞匯的眼熟,當作是理解的達成。但在科學哲學領域,這種主觀的燈泡時刻往往只是一種認知錯覺;而另一種極端,認為“掌握的事實越多,理解就越深”,同樣偏離了理解的本質。

      亨克·德·雷特(Henk de Regt)可以說是當今專門研究“理解”的頂尖學者,他的著作《理解科學理解》已成為該領域的經典。亨克提出了一種實用主義理解觀:理解不是你知道多少絕對真理,而是你能否使用它。宣稱理解某一事物,要求你能基于相關理論給出解釋,甚至無需計算就能做出定性預測。

      在本次萬字深度對話中,我們將跟隨亨克的視角,“理解”拆解為層層遞進的4個層次:

      層次一:主觀感受層。 剝開靈光一現與熟悉感的偽裝,直面日常認知中極易陷入的偽理解與自欺欺人。

      層次二:科學實踐層。 從實用技能出發,探討為什么連錯誤的理論,依然能作為強大的工具為我們貢獻真正的理解。

      層次三:抽象降維層。揭示人類如何通過“理想化”的模型與“隱喻”的折疊,對復雜的現實世界進行降維與把握。

      層次四:機器層。 當理解不再依賴碳基生命的主體意識,我們能否用一套行為主義的評測基準,去衡量人工智能的理解水平?


      理解理論的起源——

      從“靈光一現”到科學哲學的核心

      保羅:你在2017年出版了《理解科學理解》這本書。在此之前,你已經就“理解的哲學”這一主題研究多年,也發表過其他著作。在我看來,自那以后,你基本是把自己這套“理解”理論,廣泛應用到了各類問題與現象當中。我的這個判斷對嗎?你涉獵的議題很多,但都貫穿了你對“理解”的哲學定義。我理解得沒錯吧?

      亨克?德?雷特:確實是這樣。書寫完并出版之后,我回頭看才發現這一點。有段時間我甚至想:“好了,我已經受夠‘理解’這個話題了,研究太久了。”但這種想法并沒持續多久。

      首先,我不斷收到相關演講邀請;之后這本書又獲得了拉卡托斯獎,邀請和曝光度就更多了。我自然一直對這個主題保持興趣,一方面也持續參與后續討論,因為“理解”在科學哲學中已經成為一個熱門議題。

      那段時間前后也有更多相關著作出版,出現了不少新討論,尤其是關于:理解是否依賴事實?理解與實在論之間的關系是什么?我們是否只能通過正確、如實描述現實的理論才能理解自然?這些問題在我書出版后成為重要爭論,而書中對此只做了簡短討論。

      保羅:你肯定早就預料到會這樣。一旦在哲學里打開一個缺口,相關的一切問題都會被牽動。它幾乎能觸及所有可能的議題。我對哲學的一點糾結是:它到最后往往會變成語義之爭,可以無休止地辯論下去。而我喜歡你這套 “理解”理論的一點,就在于它帶有實用主義色彩,這點我們后面會談到。

      亨克?德?雷特:你說得對。它確實觸及大量問題,是一個非常基礎的議題,既關系到科學哲學中的傳統問題,也可以更廣泛地應用到與科學、乃至科學與社會相關的其他問題上。這也是我在出書之后想要走的路線——也就是你一開始問的:把我的觀點應用到新的問題上。我當時(現在也依然)感興趣的一個方向,就是“公眾科學理解”這一概念。整本書都在討論:專家科學家如何理解自然與世界,他們又如何進行交流。

      而我們同樣需要把“理解”傳遞給更廣泛的公眾。“公眾科學理解”這個概念里本身就帶有 “理解”一詞。它到底是什么?要如何實現?如何起作用?這是我出書之后想做的方向之一。這多少有點巧合:2018年,也就是七年前,我在阿姆斯特丹的哲學系工作了很長時間之后,看到了一個教職招聘——同樣是自然科學哲學方向,但在我現在所在的奈梅亨大學理學院。

      這個職位隸屬于社會科學研究所,是理學院的一部分,里面既有科學哲學家,也有社會學家等社科研究者,更側重研究科學與社會之間的互動。這一點本身就吸引了我。我申請了這份工作,他們也認可我的思路與申請。之后我進入了一個新環境,也能更多地關注這些議題。

      保羅:或許我們可以先從整體上概述一下你的 “理解”理論,以及它在當前科學哲學中的定位,然后再結合你后續的具體研究展開細節。在很長一段時間里,這個領域的核心都是科學解釋。我并不掌握完整的學術史,我們都是站在巨人的肩膀上。

      但在我看來,你當時像是獨自在一個小島上研究“理解”——一個比“解釋”更進一步的概念。當年做這方面研究的人是不是很少?你是孤軍奮戰嗎?為什么會走上這條路?

      亨克?德?雷特:現在回想起來確實很有意思。我大概是在世紀之交,也就是2000年左右開始做這方面研究的。這倒未必有什么特殊巧合,開個玩笑而已。對我個人而言,這項研究的靈感來自我90年代的博士工作。我當時研究的不是“理解”,而是科學發現,以及一線科學家的哲學觀點對他們工作的影響。我主要研究的是物理學家——我本身就是物理學出身,擁有物理學碩士學位。

      我研究過麥克斯韋、玻爾茲曼、薛定諤、尼爾斯?玻爾等著名物理學家。其中薛定諤是特別有意思的人物,他的觀點極具魅力,受教育背景非常廣泛,對哲學等諸多領域都有興趣。他的傳記很值得一讀。

      保羅:哦,他的傳記是嗎?正好,我剛和丹?尼科爾森(Dan Nicholson)錄了一期節目——他剛出版了一本小書,重新探討薛定諤的《生命是什么?》。他對科學有一套過程式的視角。他的核心觀點是,現代生物學家、神經科學家,以及我們所有人之所以會持有這種明確的機械論解釋觀,認為這才是好的解釋,根源都可以追溯到薛定諤。我很推薦你去看這本書。如果你對薛定諤感興趣,一定要讀讀丹的這本書。但你可能原本更感興趣的是量子物理部分。

      亨克?德?雷特:并不會。那是他后來的工作了,是在1940年代。我剛才說的是他1920年代的研究:當時他對量子理論不滿,提出了替代的波動力學。他非常強調理解與理論的可理解性。他認為量子理論是不可理解的。他相信理論應該是可可視化的,只有在腦海中能形成圖像,形成關于原子樣貌與結構的時空圖景時,才算真正獲得理解。而科學與物理學的目標,就是提供這樣的理解。這在當時很難做到 ——

      我研讀了他與泡利、海森堡、玻爾等人的討論,并把這些材料用在博士論文里,用來分析背后不同的哲學預設與觀念。在我完成論文后,其實是我的一位導師建議:“后續的博士后課題,你可以專注研究薛定諤和他關于可理解性的觀點。”我的研究就是從這里開始的。這真的是一個巧合,是從之前的工作自然延伸出來的。之后我才慢慢……沒錯,在那之后的幾年里,我開始嘗試構建一套更一般的理解理論。

      一開始,我確實感覺自己不是唯一一個做這個的,但要說服其他人,比如論文審稿人,讓他們相信這是個有意思的話題,非常困難。當時的科學哲學似乎還沒準備好接受這個主題。

      保羅:那個時候,學界滿是關于解釋哲學的各種爭論。按你的說法,是不是大家覺得“理解”這個問題沒那么重要?傳統上,我們可以把對“理解”的看法分為三類。第一類是主觀感受,也就是理解的感覺,我想這是普通人對理解的看法。第二類是把理解等同于事實知識:知道得越多,理解就越深。第三類就是你的理論,我們需要把它和前兩類放在一起對比說明。

      你覺得當時人們是不是執著于這樣一種想法:“理解沒法被嚴肅研究,因為它只是我們的主觀感覺,就是那個靈光一現的‘啊,我懂了’時刻?”是不是這類反對聲音?

      亨克?德?雷特:一點沒錯。你說得完全正確。你剛才的劃分方式,我現在講課或教學時也會這么用。也就是兩種觀點:要么理解只是感覺,要么只是知識。而我想要表達、想要論證的是:理解比這兩者都更多。之后我從技能等角度展開了這套理論。最初,研究解釋的傳統科學哲學家把理解僅僅看作是解釋帶來的心理副產品,一種愉悅的感受。就像大眾印象里科學家頭頂突然亮起燈泡:“啊!找到了!我懂了。”

      保羅:是像亨普爾(Hempel)那批人嗎?

      亨克?德?雷特:正是。亨普爾是最具代表性的人物。他開啟了解釋的討論,提出了影響深遠的覆蓋律模型,對解釋結構進行邏輯分析。這套理論在1950到60年代占據主導,甚至可以說被普遍接受。之后出現了一些批評,也有了替代方案,尤其是因果解釋。但所有這些哲學家依然沿襲亨普爾的思路:“這些解釋或許會帶給我們理解,但那更多是主觀感受。”這對他們來說并不重要。

      保羅:也就是把它當成一個副產品。

      亞歷克斯:就是副產品。它對哲學分析而言無關緊要,對理論辯護也沒有意義。

      保羅:哦,對,因為它只是個副產品。那這些“守門人”到底是誰?你得點名啊。我說到亨普爾的時候,腦子里都能浮現出他寫信給編輯:“這篇沒法發,價值不夠。”

      亨克?德?雷特:亨普爾應該是1997年去世的。我還記得在研究早期,我自己準備得也不夠充分,觀點也沒那么成熟,做報告時甚至收到過非常尖銳的反對意見。尤其是那些執著于邏輯分析的學者,他們覺得“理解”這個概念太模糊,沒法用純粹的邏輯方式分析。

      保羅:但實用主義呢?抱歉打斷一下。我想說的是,哲學里其實有很深厚的實用主義傳統。我猜你早期可能還沒把理論扎根在這一傳統里,畢竟當時還比較年輕。我感覺實用主義正在回歸,說實話,也多虧了你這樣的學者。

      亨克?德?雷特:這抬舉我了。不過在相關討論里,實用主義確實在回歸,而且是在很多領域。比如菲利普?基切爾(Philip Kitcher)在這方面做了很多工作;和我研究更接近的,還有劍橋的張夏碩(Hasok Chang)。現在可以說隨處可見。還想補充一點:現在回頭看,25 年前,我確實覺得自己在探索一條很多人認為是死路、或者沒意義的路。但后來發現,我并不是一個人。當時其實有不少人都在思考類似問題,算是一種時代趨勢吧。

      不僅在科學哲學領域,尤其在知識論領域也是如此。我當時對知識論的進展不太了解,但后來兩個領域靠得越來越近。比如哈佛大學的凱瑟琳?埃爾金(Catherine Elgin),就試圖在知識論和科學哲學之間搭建橋梁。事實證明,差不多同一時期,知識論學者也在討論理解,至少開始重視這個問題。

      保羅:那你對理解的定義到底是什么?我知道你可能已經解釋煩了。但我前面鋪墊了那么多歷史視角,區分了那種主觀的“懂了”的感覺,而你的理論不是這個。本質上,你的理解觀接近行為主義。這一點我們后面聊人工智能體如何能擁有理解時也會涉及。就基于我剛才說的,你的理論算不算徹頭徹尾的行為主義?你可以先回答:在科學的語境下,理解到底是什么。

      亨克?德?雷特:我先把范圍限定在科學理解上,這一點很重要。

      保羅:為什么?

      亨克?德?雷特:因為理解有很多種。而我的理論框架,是建立在“用理論解釋現象”這一基礎上的。我不會主張這套定義適用于所有類型的理解。前面提到的20世紀20年代量子力學之爭,正是我靈感的來源,也是我這套觀點的起點。事實上,我還受到了海森堡在不確定性關系論文中對“理解”的定義的啟發,后來這成為我判斷理論可理解性的標準,用來檢驗一個理論對科學家而言是否可理解。

      它的核心思想是:科學家想要理解現象,就需要構建能夠解釋現象的模型。模型介于理論與現象之間,用理論對現象做出理想化描述,讓理論可以被應用。順便一提,這個思路我借鑒了南希?卡特賴特(Nancy Cartwright)和瑪麗?摩根(Mary Morgan)等哲學家的觀點——他們討論的是建模,而非理解,但構建這類模型本身就帶來了理解。

      我的核心論點是:要構建這樣的模型、獲得對現象的理解,就必須擁有可理解的理論。理論始終在后臺,需要被應用到模型與現象上,而這個理論必須對科學家來說是可理解的。這聽起來像是一句廢話,但這恰恰是薛定諤與海森堡爭論的焦點:量子理論到底可不可理解?薛定諤認為不可理解,因為它無法被可視化。


      如何判斷“理解”?

      可理解性的歷史、工具與形而上學

      保羅:因為全是矩陣,是這個原因嗎?

      亨克?德?雷特:正是。海森堡等人最初的理論完全是數學化的,高度抽象,全是矩陣等形式化工具。而薛定諤持有這樣一種哲學立場:我們必須通過可視化才能實現理解,甚至可以說,可視化本身就是人類理解的形式。我把這一點改造成了更偏向實用主義的表述:可視化是理解的工具。如果一個理論可以被可視化,對很多人來說,就更容易使用它。可視化是把理論應用到模型、開展研究、提出新想法的工具。

      “可理解性”與理論的可使用性相關,這成為我理論的核心,也是它屬于實用主義進路的原因。同時,它顯然也是語境化的:因為它依賴具體情境。對不同科學家、不同人而言,有效的工具并不相同,這取決于他們擁有的技能、背景知識等。些就是我理解理論的核心觀點,我也結合科學史對其進行了完善。

      我是通過考察科學史、考察物理學史上哪些理論被認為可理解、哪些不可理解,才得出這套觀點的。我的博士論文本身也是科學哲學史。這種歷史進路一直吸引著我。我認為,回顧歷史能讓我們對科學有更深入的認識,尤其能看到其中的變化與語境差異,而這正是我希望用我的標準與通用理論所捕捉的內容。

      這里幾乎從一開始就存在一種張力:一方面,我試圖提出一種普遍、通用的觀點;另一方面,我又要承認其中存在差異,不同學科、不同歷史時期的標準各不相同。

      保羅:而這種差異性本身,就是普遍觀點的一部分。當你回到歷史文獻中,需要去推斷什么是可理解的。我的問題是:你是怎么做到的?你必須從字里行間去解讀,人們是如何描述理論、現象與解釋,從而判斷——對某位科學家而言,基于他的技能,他是否認為某個理論可理解。你是怎么判斷的?

      亨克?德?雷特:你是說通過具體歷史案例?這當然并不容易。首先,你可以從科學家之間的爭論入手,比如薛定諤與海森堡的那段爭論。幸運的是,過去的科學家更愿意在論文中加入哲學思考甚至個人評論。比如薛定諤的論文里就有一條腳注,他直接抱怨甚至指責海森堡提出的理論完全不可理解。

      保羅:哈哈,確實。

      亨克?德?雷特:這很有意思。類似的例子還有不少,比如我書里有一章專門討論牛頓與惠更斯關于引力理論的爭論。在他們的書信和往來文獻里,也能找到大量這類直接表述。

      保羅:說白了就是有人明說:“我完全看不懂你在說什么。”

      亨克?德?雷特:正是如此。當然,從一開始就要格外謹慎。比如惠更斯用法語寫作,薛定諤用德語,他們使用某些術語時,必須仔細辨析其真實含義。

      但你提到的可能是另一個更關鍵的問題:既然理論和技能有關,我們可以讀到科學家對自己或他人理論的評價,但要判斷他們到底具備或不具備哪些技能,就沒那么簡單了。

      保羅:沒錯,這一點要怎么判斷?如果是牛頓,那他肯定具備相當水平的技能,至少是數學技能,才能寫出《原理》。

      亨克?德?雷特:牛頓和惠更斯之間的較量就是個很有意思的案例。牛頓當然擁有發展其理論所需的全部技能,他在1687年發表了《原理》。惠更斯比他年長一些,他對此不滿,并批評牛頓的引力理論。惠更斯同樣具備相應技能,數學上他完全能讀懂牛頓的工作。但惠更斯明確表示,牛頓的理論是不可理解的。

      我不知道他法語原文具體用了什么詞,但大意就是“無法領會、無法把握”。這就說明,惠更斯所說的“不可理解”是另一回事——不是他不會用這個理論,而是他無法接受世界是這個樣子的。這是一種形而上學層面的不可理解。

      正是這個案例啟發我做出區分:形而上學可理解性與科學可理解性。我認為兩者可以相互作用、存在重疊。惠更斯在形而上學上非常保守,他是笛卡爾主義者,不愿放棄機械論的宇宙圖景,而引力并不符合這幅圖景。你可以說這是一種教條,但他的笛卡爾式形而上學同時也被他當作理解的工具,并以此做出成果,比如波動理論,這些都是非常重要的成就。形而上學與科學就是以這種方式相互影響。

      保羅:物理學家常常因為自己的形而上學執念去批評別人的理論。而被批評的人常用的一種辯護就是:批評者根本不懂我的理論,他們的批評就站不住腳。這里的區別在哪?批評在理解中扮演什么角色?

      我是想說,在科學里有同行評審。如果審稿人不懂你的理論,對你而言它不具備可理解性;或者他們抱有某種形而上學執念,認為“這不可能,因為我信奉機械論,而你根本不談機制”,于是從本體論、形而上學的立場提出反對——

      按你的說法,這就是形而上學可理解性的問題。他們可能連理論細節都沒真正理解。我就是突然想到:批評真的太容易了,我經常有這種感覺,創造卻難得多。

      亨克?德?雷特:你關于批評的觀點很重要,而且把它和我的理論聯系起來也很有意思。我自己并沒有明確討論過這一點,但我想起一篇論文,你應該也看過,因為你之前問過的視角主義和神經科學中的不同視角,就出自那篇文章。這其實不是我獨自完成的研究,是我的博士生琳達?霍蘭(Linda Holland)做的工作。我們和神經科學家本杰明?杜卡德(Benjamin Dukard)一起合作發表了論文。這個案例里,存在以霍奇金–赫胥黎模型為代表的、占主導地位的生物電范式。

      保羅:對,就是霍奇金–赫胥黎的動作電位理論。

      亨克?德?雷特:就是動作電位。但這個范式無法解釋熱膨脹、熱與力學相關的一些現象。近年來出現了另一種熱力學范式。琳達那篇文章的核心觀點是:如果我們從理解的視角、而不是從真理與實在論的視角去看待這些不同框架——不去問哪個才是真理,而是把它們看作能夠提升我們對整個系統解釋性理解的不同視角——就會發現:那些支持熱力學視角的學者,能夠對傳統進路提出有效批評,指出其中的某些預設問題。具體細節我就不展開了。

      保羅:我剛讀過那篇文章,可以直接說。霍奇金和赫胥黎在解釋離子電導如何產生動作電位時,有一個前提假設:細胞膜電容是恒定的。而來自熱力學和統計力學視角的學者指出:大多數人根本沒意識到這只是一個假設。如果從膜的熱力學性質來看,尤其是神經信號沿膜傳播時,膜會隨離子流動發生膨脹等變化,電容很可能是變化的。

      這就是對霍奇金–赫胥黎理論的直接批評。這一點對我沖擊特別大,因為霍奇金–赫胥黎模型是神經科學的基礎,是我們入門就學的、堪稱典范的經典成果。但看了你們的論文,我才知道還有神經信號傳播的熱力學解釋,我當時就想:天吶,一切都還可以被質疑,沒有什么是絕對安全的。

      亨克?德?雷特:沒有什么是絕對安全的,這就是科學。

      保羅:這就是科學,太棒了。

      亨克?德?雷特:這也和批評有關。你提到批評時,我還想到一點:一方面,如果僅僅因為某個理論和你接受的形而上學沖突就去批評它,這在某種意義上是教條主義。比如你是決定論者,就排斥量子物理。

      在引力的例子里,惠更斯就是這么做的,可惜了。他當時年紀也大了,或許可以理解。這種批評不是建設性的。但另一方面,基于不同視角對理解與可理解性的爭論,可以催生出富有成效的批評,就像剛才動作電位的例子,以及更普遍的其他案例。

      我想到恩斯特?馬赫(Ernst Mach)的一段論述,我在書里也提到過。馬赫是19世紀實證主義科學哲學家。他也是在討論引力相關的歷史時提出:他作為極端實證主義者,只相信事實、可觀測現象,理論只是工具,不用管真假;科學不負責解釋,只負責預測和測量。他在一本書里回顧了牛頓與相關可理解性爭論,然后說:這些爭論都沒意義,應該拋棄。

      某個理論在某個時期顯得不可理解,比如牛頓時代的超距作用引力,人們習慣之后,就會接受并認為它可理解。可理解性不過是習慣使然,僅此而已。我們不應該用可理解性支持或反對理論,只是習慣問題。

      在某種意義上,我同意歷史上確實存在這種變化:17世紀不被接受的超距作用,后來慢慢被接受。但可理解性還有更積極、更具建設性的一面:對可理解性的討論,可以成為相互批評的基礎,也可以激發創新。惠更斯的形而上學既有保守的一面,也有積極的一面,它同樣可以帶來啟發。對可理解性的看法,不只是一種事后的被動反應,比如那種“我懂了”的感覺;它同時是積極、主動地引導科學研究的力量。

      保羅:這幾乎就是熟悉度理論:習慣了、熟悉了,就接受了。

      亨克?德?雷特:這是馬克斯?玻恩(Max Born)的觀點。

      保羅:這種看法相當消極。


      AI能理解嗎?——

      從哲學僵尸到行為主義評測基準

      保羅:我一直有個想法:有些新概念剛出現時,你必須去學習,它們非常陌生、讓人不適、很不直觀。但久而久之,比如在論文里反復看到同一個術語——我舉個神經科學里的例子,比如流形(manifold)。第一次看到時完全不懂,但僅僅因為反復接觸,你會覺得更熟悉了。可從某種意義上說,你可能是在欺騙自己以為理解了,其實只是看習慣了這個詞,慢慢腦補出一幅圖景,但你根本沒法確定自己是不是真的懂。最后你會懷疑:我真的理解這個概念嗎?然后才發現,很多東西其實并沒有真正理解。這種熟悉感帶來的偽理解讓我很在意。

      亨克?德?雷特:確實如此。但在我看來,理解一個概念,關鍵在于能否使用它。如果你只是在文本里反復看到這個詞,開頭稍微解釋過,然后你覺得“我見多了,我懂了”,但實際上什么也做不了,那你依然沒有理解。通常來說,不管是好書還是好課,在你反復接觸一個術語的過程中,你也會同時學會在腦子里用它做事:用它推理、用它分析……盡管有時很難明確說清到底是什么。

      你舉這個例子時,我想到自己作為物理學出身的背景。雖然很久沒啃前沿物理,只看科學史,但聽到相關報告時,我依然對基本概念有直觀把握。可當我聽生物或神經科學時,思維方式完全不同,很多概念沒有反復接觸過,就很難真正抓住。比如生物學里的通路(pathway),我一度始終沒明白它到底指什么。流形在數學里也有,應該是相關的。

      保羅:流形來自動力系統理論。在哲學里,表征(representation)也是個大頭。我們似乎可以討論一千年。每個人對表征的理解都不同,但只要他們能在自己的研究框架里使用這個詞、幫自己把握研究對象,這就算一種理解,哪怕視角不同。可以這么理解嗎?

      亨克?德?雷特:可以。

      保羅:再說回熟悉感。某種意義上,反復看到同一個詞,你確實會獲得一點點理解。這也讓我想到,你的研究里提到:理解不是全有或全無的現象,而是一個梯度,可以有不同程度的部分理解。我想確保我們聊到你最近的工作:開發一套用來評估人工智能體理解能力的測試。

      我之前用過“行為主義”這個詞,因為你的理解觀在某種意義上就是行為主義:它不關心內部有沒有心理表征,不關心實現方式、內部機制,只關心實用層面——只要它能展示出使用信息所需的技能,能完成相應操作,就可以認為它具備理解。在這個意義上,宣稱某個AI具備理解是完全沒問題的。

      你最近就在做一件事:開發一套可操作的測試,用來評估人工智能體的理解水平,并且這套測試要和人類理解的評估保持一致,同樣的測試既能用于人,也能用于AI,也可以作為AI理解程度的基準。跟我多聊聊這部分。顯然AI在你學術生涯里爆發式發展,這是你做這項研究的原因嗎?具體在做什么?

      亨克?德?雷特:這是我目前研究中很重要的一部分。因為行政事務和教學,我能用于研究的時間比以前少,但我仍在推進,而且是和別人合作完成的。

      幾年前,我們理學院希望鼓勵跨學科合作,我就和一位物理學家、一位計算機科學家開始合作,拿到了啟動資金,做機器學習與AI系統中的理解問題,項目就是這么開始的。我們招了一位博士后,克里斯汀?巴爾曼(Kristian Barman),他是我們所有論文的第一作者,目前已經發了三篇,他做了大量工作。

      保羅:他是哲學家還是科學家?

      亨克?德?雷特:他是哲學家,現在去了根特大學,任科學哲學方向的研究員。他的博士論文寫的就是機制解釋。

      他同時懂AI、也感興趣,所以我們招了他。這個課題現在占了他研究的很大一部分,他仍在和我們合作。這種合作研究有趣也有挑戰,因為大家視角不同,尤其在哲學里很容易出現分歧,但我們取得了不錯的成果。

      至于我為什么會做這個——在這個項目開始之前,我在做關于理解的報告時,偶爾就會被問到:那計算機呢?科學家也用計算機,如果計算機生成一個解釋,它是不是帶來了理解?

      這和數學里的計算機輔助證明很像:證明太復雜,人類無法全盤掌握,但某個猜想被證明了,卻沒有一個數學家能通覽整個證明。它還能帶給我們“為什么這個猜想為真/為假”的理解嗎?當然,那時候還沒有這波AI熱潮。

      保羅:這和圖靈測試不一樣。圖靈測試是看計算機能否做出滿足“我們認為它在思考”的行為,而不是計算機真的會不會思考。自圖靈以來,機器能否思考就一直是個懸而未決的問題。你之前被問到這類問題也很正常。

      亨克?德?雷特:沒錯。約翰?塞爾不久前去世了,就是提出中文屋思想實驗的哲學家。很巧,我幾周前剛讀到他1984年的一本小書,40年前的講稿。他在里面討論心靈與機器,機器能否思考,并解釋中文屋論證。我重讀時的感受是:40多年過去了,我們還在糾結同一個問題。計算機科學和AI當然有巨大進步,AI在50年代就誕生了。

      保羅:他當時說的是符號主義AI。

      亨克?德?雷特:對,完全不同。他當時就認為,未來技術會極大進步,但句法和語義之間的鴻溝、與理解之間的鴻溝,永遠無法彌合。

      保羅:因為要有意義,才有理解。

      亨克?德?雷特:這就是關鍵。直到今天,這依然是個核心問題。我認為在當下關于大語言模型的討論里也是如此:它們是真的理解,還是只是在鸚鵡學舌、預測下一個詞?我必須承認,我自己也不完全確定,對此持保留態度。

      但在我們的論文和這個基準評測項目里,我們確實采用了行為主義的思路。我們嘗試建立這套評測標準,只看系統的能力表現,比如能否回答反事實問題,以及各類可以被看作理解度量的問題。

      但我仍然猶豫,不愿說這就是真正的理解。在這個意義上——你剛才把我的方法稱作行為主義——

      保羅:它可以被解釋為行為,和行為主義有相似之處。

      亨克?德?雷特:沒錯,確實如此。

      當然,我原本的理論里,也明確包含了這樣一個核心觀點——無論是科學家,還是任何一個認知主體,要實現理解,都必須擁有一套可理解的理論。你要知道,我當初寫書、做相關研究的時候,壓根就沒考慮過AI這個領域。我滿腦子想的都是人類科學家,尤其是從科學史的角度去審視他們:我不把科學家看作是某種純粹的理性系統,而是把他們當作真實的歷史行動者——他們身處特定的歷史語境之中,和普通人一樣,有著各種各樣的認知局限,諸如此類。

      這種對人類科學家的關注,也是我們整個研究項目的大背景。我們延續了科學史學家、或許還有科學社會學家們的研究傳統,想要證明的是:科學是一項人類的事業,在某種意義上,它完完全全是屬人的。而這一點,幾乎從定義上就排除了“機器理解”存在的可能——因為人們會自然而然地認為:“只有人類才有大腦、有心靈,才能進行表征活動;或許我們可以把理論看作是一種心理表征,而只有擁有這種心理表征的人類,才有可能擁有真正的理解。”

      當然,這也不是絕對的,或許事情并非必然如此,但至少人類是一定能夠擁有真正的理解的。我也說不好,或許我當初的想法有些天真,或許是我那時候根本沒考慮過行為主義,也沒想過要在心靈哲學或認知科學的某個陣營里站隊。但當我們開始認真思考“機器理解”這個問題,開始探討人工智能系統是否也有可能擁有理解能力時,我們嘗試采用了這樣一種研究思路:我們確實是通過不同層級的指標來衡量理解水平的,而這些層級,正好對應著系統能夠回答的不同類型的問題。

      緊接著,我們在論文中明確提出并論證了這一思路,還直接將其稱為“行為主義路徑”。我們的核心觀點很簡單:“如果這就是衡量理解能力的有效方式,那我們憑什么要去區分回答問題的是計算機還是人類呢?”

      我猜想,約翰?塞爾要是還在的話,肯定不會贊同我們這種想法。但我們就是這么推進這項研究的。就我個人而言,我雖然是這個研究團隊的一員,但我私下里并不確定,這種研究思路是否完全契合我最初的理論——因為在這個過程中,我們舍棄了我自己理論里一個相當關鍵的要素,也就是“理解必須依賴理論”這一核心觀點。當然,這一點也正是我們后續可以深入研究的方向,目前很多人工智能領域的哲學家也正在圍繞這個問題展開研究。

      事實上,我目前還在和一位德國的科學哲學家弗洛里安?博格(Florian Boge)合作,他在人工智能領域做了大量的研究工作,還主持著一個大型項目,手下有不少博士生和博士后。他目前正在深入探討的問題包括:擁有深度神經網絡的人工智能系統,是否真的在進行表征活動?我們能否判斷它們是否擁有概念?比如,他提出過這樣一種觀點:“或許人工智能系統并沒有真正意義上的概念,但它們擁有某種我們可以賦予其意義的東西,這種東西就相當于‘功能性概念代理’——也就是說,它雖然不是真正的概念,卻能起到和概念一樣的作用。”

      保羅:問題在于,理論層面是否也可以這樣:AI也能擁有可理解的理論?

      亨克?德?雷特:沒錯。我提到這一點,是因為這正是下一步研究方向:我們能否找到、或論證AI系統在某種意義上也擁有理論。

      保羅:你最終或許不必放棄“理論”這一條件。

      亨克?德?雷特:也許最終確實不用。你怎么看?你本身是認知神經科學家。大腦和神經網絡的類比 —— 我們組里有些人,比如克里斯蒂安,態度更直接,就是把大腦比作…… 當然,神經網絡和深度學習的初衷,就是類比大腦,認為大腦也是這么工作的。

      如果人類大腦可以理解、可以表征、擁有理論,那AI里的深度神經網絡或許也可以。我們并不知道AI里這些“理論”存在于哪里,就像我們也不完全清楚理論在人類大腦里是怎么編碼的。我在這方面算是外行,了解不多。

      保羅:這是一個哲學問題。要說 “我這樣一個有機體,擁有一個對我而言可理解的理論”,你首先要厘清這句話到底是什么意思。直接說 “一個系統擁有一個可理解的理論”,本身就很奇怪。 在這個意義上,我用 “緊縮” 這個詞應該是對的:你的理解理論是一種緊縮式解釋。

      我覺得自己至今仍然放不下理解中的主觀層面:比如,我要判斷“我是否擁有一個對我可理解的理論”,這本身是一種主觀判斷。在這個意義上,它是主觀的。

      我還是放不下那種古老的、心靈層面的東西,也不會把它賦予機器。有機體的理解是某種更崇高的東西;但如果接受緊縮版解釋,把理解歸給機器就完全沒問題,只是它沒那么“特殊”了,含義和我直覺里的理解不一樣,不知道你能不能明白這種感覺。

      亨克?德?雷特:我能明白。這是一種可行的思路。

      保羅:舉個例子,查默斯的哲學僵尸。大衛?查默斯的僵尸可以擁有理解,因為它不依賴意識、不依賴主觀性。但如果我們做個調查,先解釋什么是哲學僵尸,再問:這個僵尸真的理解它要過來…… 比如過來“吃你”嗎?它真的理解自己需要營養之類的嗎?還是它只是像機器一樣行動?

      我們甚至能提出“它只是像機器一樣運作、沒有理解”這種區分,就已經暴露了我們日常語言里對“理解”的直覺用法。我很驚訝你也會猶豫,不愿輕易把理解歸給機器。但在你的理論里,這是完全可能的,只是“理解”會帶上一層不一樣的色彩。

      亨克?德?雷特:是的。我這種猶豫,也來自之前說的:當我研究科學理解、寫書和論文時,我腦子里的圖景是——從事科學的是人類。要理解科學是什么、科學理解是什么,就必須看真實實踐,而不是坐在扶手椅里做理性建構,搞一套形式上正確、卻和現實無關的系統。

      現實中的科學,是人類在實驗室里做實驗、在桌前計算、思考、創造。

      保羅:是行動。

      亨克?德?雷特:對,是行動。在這個意義上,我過去、現在依然會猶豫,也很難直接說:“這些都可以被計算機取代。”

      保羅:那么,其他關于機器理解的理論有哪些,你的理論又和它們有什么不同?我直接明確說吧,目前有三類問題被用來評估機器的理解能力。第一類是是什么問題(what questions),用來檢驗機器能否獲取用于做出解釋的有效信息。第二類是為什么問題(why questions),看機器或人工智能體能否對相關現象構建解釋。第三類是反事實問題(counterfactual),源自伍德沃德(Woodward)的因果解釋理論:假如情況發生變化,會怎樣?能否定性地解釋,如果某個條件以特定方式改變,現象會出現何種不同、會發生什么?

      這三類問題被用來評估機器的理解。當然,之后還要對這些問題的答案進行評判,這可能又是另一個問題了,因為答案并不是數學題,沒有一個問題的答案會是簡單的“42”。

      亨克?德?雷特:沒錯,這只是我們的基本框架。

      保羅:你是否會和其他理論產生爭論?畢竟人們很關心機器的能力與本領,尤其是在這波AI熱潮之后。我知道你在寫相關內容時會參考其他理解理論,也稍微提到過圖靈,那么有沒有其他理論是你不認同的,或者對于你所采用的這種處理方式有自己想法的論述嗎?

      亨克?德?雷特:首先,在出發點和哲學預設上,我認為會有很多哲學家直接表示反對,因為他們主張不能把理解歸屬于機器。這是最主要的分歧。

      保羅:是形而上學意義上不可理解的那種分歧嗎?

      亨克?德?雷特:是的。在這個意義上,我們的立場已經算是有些非主流。而開發評測基準的想法——目前雖然算不上傳統,但已經有很多針對機器語言理解等各類理解的基準。我們只是在此基礎上,嘗試專門為科學理解,尤其是物理學領域,建立一套基準,因為這是我們團隊最熟悉、希望聚焦的領域。

      我們有一篇尚未發表、但已放在預印本平臺的后續論文,是和幾位碩士生一起完成的。我們在《心靈與機器》(Minds and Machines)已發表論文的基礎上,更詳細地闡明了可以提出哪些問題,并對問題進行分類。我們搭建了一個網站,計劃邀請專家對問題的答案進行評判。我們希望邀請人們提交問題、給出答案,逐步構建一個問答集,最終形成這套基準。

      有些問題確實最簡單的方式就是像你說的,用一個能直接給出數字的計算,或者只有一個正確答案的選擇題。這種方式當然好用、容易實施,但我們也希望納入更多開放式問題,或是系統需要完成的其他任務與問題,這部分難度更高。事實上,我們目前仍在構建這套基準。


      理解的實用主義本質——

      錯誤理論、理想化與抽象的價值

      保羅:在傳統機器學習里,評測基準占據主導地位,但通常都是用準確率百分比來衡量。只有在答案非黑即白、非常清晰的時候才適用,比如選擇題之類的。但這里存在古德哈特定律的問題:一旦你設定了目標,這個基準就會失效,變成一個很差的衡量指標。因為大家所有努力都會集中在通過測試上,而不是真正提升你想評估的能力。做研究時也必須考慮這些問題。

      你現在試圖把理解給操作化,這可能是你之前沒想過的——用這種方式去量化理解。我記得在你之前的書里,其實并沒有真正談論如何量化理解,更多是在奠定理解這個概念的概念基礎,對嗎?

      亨克?德?雷特:沒錯。正如你剛才提到的,這可以追溯到我最初那本書。我確實承認理解是有程度之分的,在這個意義上它是可以測量的。最開始研究這個問題時,書里也體現了這一點,我并沒有展開細說,甚至在表述上更接近“要么理解,要么不理解”的二分法。但在研究過程中我逐漸意識到,從科學史來看,理解顯然是分程度的。

      舉個有點顛覆性的例子,這個觀點不在書里,而是我后來另一篇論文中提出的。我研究過化學革命,也就是從燃素說過渡到拉瓦錫的氧化學說,現代化學由此開端。18世紀的燃素說現在已經被遺忘,我問過一些化學專業的學生,他們甚至都不知道燃素是什么。

      保羅:這樣啊。

      亨克?德?雷特:哲學家們會說,燃素說是典型的錯誤理論,燃素根本不存在,所以這個理論不可能帶來任何理解。

      保羅:而你認為:它可以。

      亨克?德?雷特:沒錯,確實如此。至少在18世紀的語境下,它能夠帶來理解,甚至在今天也能給我們一定的理解。這部分觀點可能比較有爭議。當然,我也承認,拉瓦錫的氧化學說比燃素說能帶來更多的理解。這就意味著我們必須對理解進行比較,也就意味著理解存在程度差異,因此需要一種衡量方式。

      不過我本人并不喜歡過于形式化的哲學進路,可能也不是我的專長,所以我從來沒有自己嘗試去建立量化方法,但已經有其他學者在做相關工作,比如關于理解程度的論文等。

      保羅:所以你是有點被動地被拉進這條智能體理解的研究路線里的?

      亨克?德?雷特:你是指AI這個方向嗎?

      保羅:對。

      亨克?德?雷特:完全不是。我是真的想弄明白,想去思考、去探索這個問題。在我意識到其中存在張力之后,也并不想先驗地直接否定 “AI系統或機器可以擁有理解” 這一可能。在某個時刻我意識到:我依然沒有確切答案。但或許更重要的是,我們在機器理解這個項目上最初想回答的問題——“機器能理解嗎?機器能思考嗎?”——可能本身就沒那么有趣。

      更有意義的問題其實是:我們人類科學家該如何與機器合作?AI系統能為科學做些什么?你可以把它們只當成工具,也可以把它們當作合作者、當作可以交流互動的主體。在這種視角下,它們是否真正擁有理解,也許就沒那么重要了。就像你之前說的:“真正擁有”到底是什么意思?

      此時,行為層面就變得更重要:機器的輸出是什么?對我們人類而言是否可理解?我們如何一起推進科學理解?諸如此類。

      保羅:我想大家心底里還是習慣把“合作者”等同于人類。在期刊俱樂部或是其他學術場合,我和其他人互動、交流想法、互相批評,來回碰撞。而現在人們把AI當作工具使用時,經常會感嘆:“哇,這個我沒想到。”然后就會忍不住想:機器內部到底發生了什么?于是一夜之間,就有人開始把意識歸給機器。

      在你的理論里,理解是緊縮的,偏向行為主義,所以我們可以說某個東西擁有理解,卻不用認為它能感受痛苦。關掉它的時候也不會有心理負擔。可如果它有意識,關掉它就會讓人不安,對吧?

      亨克?德?雷特:是的。

      保羅:在這個意義上,接受“理解并非只是人類的專屬”,其實是可以接受的。

      亨克?德?雷特:你是把理解和意識這些東西區分開了?

      保羅:不不,我并沒有刻意區分。

      亨克?德?雷特:我現在的立場,可能正在轉向更樂觀、或者說更少猶豫的方向。現在我們有了ChatGPT,顯然每個人都在用,我自己偶爾也會用。人們和它互動的方式,就像在和另一個人說話一樣。ChatGPT總是很客氣,你也會禮貌地說 “請告訴我……”“謝謝” 等等。有人會說這很荒唐,但一旦建立起這種互動,人們就會自然而然地把感受、意識之類的東西歸給和自己互動的系統。

      然后你就會問:區別到底在哪?我現在和你對話,看著屏幕,我當然相信遠處房間里有一個真實的你,一個有大腦、思想、和我一樣有意識的人。但這也涉及他心問題。懷疑論者甚至可以質疑這一點。那么,懷疑你的意識與理解,和懷疑機器的意識與理解,最終差別在哪?

      保羅:出于某種原因,我們很在意生命與非生命的區別。我不想因為關掉一臺機器而感到內疚,我也確實不會——但是。

      亨克?德?雷特:是啊。我可以把“你”(指機器)關掉,但你(真人)還在。我相信就算我拔掉插頭,你本人也還好好的。

      保羅:沒錯。你看,你和我就不存在這個問題。你這是把我“點燃”了啊,亨克。

      我想回到剛才你簡短提到、但我們還沒細聊的一個觀點:理論可以是錯的,但依然能增進理解。即便事實搞錯了,也依然可以對理解有貢獻。這很像喬治?博克斯(George P. Box)的那句名言:“所有模型都是錯的,但有些是有用的。”在你的理論里,即便一個東西在事實上不正確,它依然可以貢獻理解。

      但現在的大多數大語言模型,從人工智能這邊來看,它們出錯的方式往往是瑣碎、無意義的,這些錯誤對推進理解沒有任何實用性幫助。也許是因為它們并不基于一套可理解的理論來輸出內容,只是基于海量文本、做統計性的下一個詞預測,這一過程不需要任何可理解的理論。

      所以它們犯的錯,不是那種“我懂你的理論來源,雖然結論錯了但思路有價值”的錯,更像是低級錯誤,比如把紅色說成藍色之類的,對吧?

      亨克?德?雷特:是的。

      保羅:我的問題是:我不知道你們目前做了多少評估,但如果AI只是以這種瑣碎的方式出錯,因而無法貢獻理解,那你是不是會認為:真正的區別,在于它們能否以“有用的方式”出錯或提出批判性看法?

      亨克?德?雷特:是的。我非常喜歡你這個問題,因為這是我還沒有思考過的角度。我還沒有把 “模型可以錯誤但有用” 的討論和機器理解聯系起來。我之后會繼續沿著這個思路想。

      因為確實,關于事實性的爭論——我稱之為 “理解是否依賴事實”——核心問題就是:理論必須為真或近似為真,才能帶來理解嗎?

      在這場爭論里,我站在非事實主義這邊。我認為理論出錯完全沒問題。燃素說顯然是錯的,但所有理論都是錯的。牛頓理論也顯然是錯的,我們依然能用它來理解。關鍵在于表征和模型的用處,而不只是真值或精確度。高度理想化的模型,只要可用,依然非常有用。

      但在機器理解的討論里,我還沒見過有人從這個角度切入。所以我覺得你的建議非常有原創性,也希望是有價值的。大語言模型犯的錯,不是表征意義上的錯誤,它們甚至可能根本沒有表征,只是在預測時出一些奇怪的錯誤。

      比如我想到一些例子:它們連簡單的算術都算不對,或者給出前后不一致的答案。我記得最近看到一個例子:問它“nineteen”這個單詞有多少個字母,它一開始答對了,大概是8個。然后問它“你確定嗎”,它反而改錯了,就是這種錯誤。

      保羅:好吧,其實人類也會干這種事。這點也許沒錯。系統在輸出、在預測中出錯,這類錯誤,在我看來,對應到人類的科學理解中,就像是科學家基于某個模型或理論做出的預測出現了偏差。比如牛頓理論,可以成功預測行星軌道和大量現象,但到了19世紀,就出現了水星軌道的異常。

      亨克?德?雷特:就是水星進動問題。

      保羅:沒錯,后來愛因斯坦的理論給出了正確解釋。你可以說,這是一種輸出上的錯誤,但它恰恰推動了理論的修正。這種錯誤本身是理論帶來的結果,也揭示了理論的問題。但在機器身上——很多時候我們完全找不到它出錯的原因,就是毫無來由地錯了。

      亨克?德?雷特:是的。現在已經有一大批人在專門研究這個問題。

      保羅:對,涉及模式識別、底層機制等等。如果能把這兩類錯誤拿來對比,會非常有意思。

      亨克?德?雷特:順著這個思路,我們其實又繞回了之前的問題:神經網絡或機器,到底有沒有表征。

      保羅:這和人類的錯誤是兩回事,對吧?

      亨克?德?雷特:你必須分析這些錯誤的來源。你剛才的觀點就是,這是不同類型的錯誤,沒錯吧?

      保羅:沒錯。我想再往前推一步。我們剛才說到,所有模型都是錯的,因為模型都是理想化的。理想化必然會忽略細節、進行抽象。

      我想把這個和理解聯系起來:既然模型存在抽象程度的梯度,那理解是不是也有對應的抽象梯度?抽象和理解之間是什么關系?我不需要知道電腦里所有原子的狀態,才能描述它怎么工作,我可以在不同抽象層次上描述它。

      抽象程度和理解的本質之間有沒有關系?你有沒有思考或寫過這方面內容?如果我在你書里漏掉了,不好意思。

      亨克?德?雷特:我沒有專門寫過這個問題,但我確實寫過理想化。理想化和抽象相關,但并不完全一樣。理想化本身也是一種抽象,因為你會撇開特定細節、省略細節。在這個意義上,理想化是一種抽象。

      按照我的理論,理想化能夠促進理解、幫助理解,因為它提升了可理解性。如果你用極其精細的方式去描述一個系統——

      保羅:能不能舉一個能提升理解的理想化例子?一下子能想到的那種。

      亨克?德?雷特:我書里有一章專門講19世紀氣體動理論的模型。比如原子模型:最開始把分子或原子當作質點,或者簡單的小球,只考慮質量、運動、位置、速度等。這就是一種抽象,而真實的分子遠比這復雜。

      再比如太陽系模型:即使是實物模型,把行星做成大小不同的完美球體,沿橢圓軌道繞太陽運動,這也是抽象,因為真實行星復雜得多。但這是非常成功的抽象,因為太陽系在宇宙中相對孤立,幾乎可以完美用牛頓定律描述而不受干擾。行星上的山川湖海、我們在地球上生活這些細節,對于太陽系尺度的運動來說全都無關緊要。把這些細節去掉,就是抽象。

      你剛才問到的梯度或層級,這里有一句愛因斯坦的名言,我記不太清原文,大概意思是:科學家要讓事情盡可能簡單,但不能過于簡單。你也可能過度理想化,省略掉太多關鍵東西。在我的理論里,關鍵在于理想化的實用價值:對我們而言,使用這些簡單模型更容易預測系統行為。

      保羅:這一點能不能直接對應到理解的實用價值上?

      亨克?德?雷特:我會說,這就是理解的實用主義本質。

      保羅:我在想的是抽象是有層次的。既然理解存在梯度,那是不是也存在不同層次的理解?梯度只是“多與少”,但抽象層次上,你可以在不同層級看到涌現性質。我的問題大概就是:理解現象本身,是否也存在類似的涌現性質?

      亨克?德?雷特:層次化的理解。你是說,更高層次的理解會有某種東西涌現出來。

      保羅:也不一定非要說是理解本身的涌現性質,而是類似的結構:抽象程度越高,你就越能濃縮解釋,不用追蹤氣體里每一個分子,而是直接描述分子的統計性質,這很有用;研究太陽系時,不用管山脈和真實地形,直接把地球當成球體。這些都是有用的涌現性質,可以用簡潔的語言有效描述。

      而理論本身就有不同的抽象與理想化層次,我只是想知道,理解能不能和這些抽象層次干凈地對應起來。我也不確定這個問題本身夠不夠清晰。

      亨克?德?雷特:問題很清楚,我只是不確定該怎么回答。我還不確定,這和我之前說的理解的程度——比如燃素說比氧化學說理解程度更低——是不是一回事。你這個提法,其實是在說理解存在不同維度,對吧?

      保羅:啊,對,這個詞好。

      亨克?德?雷特:也許關鍵就在這里。

      保羅:對,用“維度”就很合適。這也是我一直想問你的,很高興你提出來了。


      隱喻、公眾理解與AI合作的未來

      亨克?德?雷特:到目前為止,我還是堅持理解有程度差異,但并不是從一種理解變成另一種完全不同的理解。我其實在公眾科學理解的相關討論中思考并寫過這一點。我們之前簡單提過,你也可以對比:物理學等領域的專家科學家,對現象擁有或高或低的理解,但那是科學理解,和他們的數學技能等各種能力相關。

      而我們說的公眾科學理解,是面向沒有專業技能的普通大眾的。

      你可能會想說:這是不同類型的理解,不是從外行到專家的連續梯度,而是本質不同。但我目前更傾向于后者:二者只是程度不同,并非本質不同。它們的相似之處在于,技能都很重要,只是技能類型不同。

      真正的外行/公眾理解,不只是記住一堆事實。傳統測量方式就是做問卷調查,地球年齡多大之類的,像知識問答一樣,看你知道多少。但真正的理解不止于此,它還包括推理能力,以及把握整體圖景的能力,而不只是零散事實。所以在我看來,這并不是完全不同的理解。

      說到這里,我和一個碩士生合作過一篇關于隱喻的論文。我們的結論是:隱喻不僅出現在科普作品里,也出現在專業科學文獻中,作用略有不同,但隱喻無處不在。

      保羅:而且出現頻率差不多,對吧?

      亨克?德?雷特:完全正確,只是用法不一樣,可以是封閉的,也可以是開放的。比如最開始作為交流隱喻的概念,后來發展出信使 RNA、翻譯等術語,現在都成了專業概念,雖然源頭仍是隱喻。我們的結論是:對公眾使用隱喻,是因為能和日常生活經驗聯系起來,讓他們聽懂故事,這是促進公眾理解的工具。

      保羅:道理是這樣的:當你用隱喻向外行解釋時,他們可以借此形成直觀想象——因為他們沒有對應的專業概念,必須把陌生事物和熟悉事物聯系起來,才能抓住你想表達的核心意思。而我想讓你接著說說,隱喻在專家之間是怎么被使用和理解的,對吧?

      亨克?德?雷特:是的。在這一點上用法確實不同,但重要的是:即使對專家科學家而言,隱喻在科學發現過程中也可以充當理解的工具,能夠讓理論變得可理解。比如說,可視化對公眾理解來說是非常有用的工具,數學則不是。有句很有名的說法:科普書里每多一個公式,讀者就會少一半。

      這可能是真的。但我對科學理解的研究表明,對大多數科學家來說,可視化同樣是重要工具。比如費曼,他是極富數學洞察力的頂尖物理學家,但他同樣擁有視覺化思維,他的視覺化想象能力帶來了極強的創造力。

      保羅:不過我得說,可視化并不是必需的,因為有些人——我忘了專業術語——并不是所有人都用視覺意象思考,對吧?

      亨克?德?雷特:它不是必需的,這正是我的觀點。我同意。薛定諤認為可視化是必需的,我不這么認為。但我們同時也能看到,很多科學家,就像很多普通人一樣,會使用可視化,也偏愛可視化。

      再說到神經科學、生命科學里的機制解釋爭論,機制解釋也是和可視化綁定在一起的,對吧?基本想法就是:如果你有一張機制的示意圖,就能對系統有整體把握,從而獲得更深的理解。

      保羅:對,是這樣。我更愿意把它看作是因果如何運作的故事。你看那些巨大的連線圖,節點用線連起來,那就是一種機制化的描述,對吧?

      亨克?德?雷特:是的。

      保羅:我想說的是,在你那篇關于隱喻使用的論文里,專家在科學領域內部使用隱喻時,它會變成你們所說的封閉隱喻:它不再是把研究對象和喻體聯系起來,而是封閉了這種外部聯系,因為隱喻本身已經變成了專業術語,直接等同于你要理解的現象。

      這里會出現意義的錯位。阿爾弗雷德?諾斯?懷特黑德(Alfred North Whitehead)把這種情況稱為誤置具體性謬誤——如果你把隱喻當真,忘記它只是個隱喻,就會出現這種問題。這在很多科學家身上都存在:他們忘了自己是在用隱喻理解對象,反而覺得隱喻就是對象本身,就是現象本身,但實際上它永遠只是隱喻。

      總之,區別就在這里:在科學使用中,隱喻變成封閉隱喻,并對理解起到重要作用;而面向大眾科普時用的是開放隱喻,喻體和要表達的概念之間始終存在來回對照。但在科學領域內部,隱喻已經封閉,它直接就是要表達的概念。我這個描述準確嗎?

      亨克?德?雷特:非常準確,總結得特別好。我還要補充一點:開放隱喻與封閉隱喻的區分并不是我們提出的,我們是借鑒了蘇珊娜?克努森(Susanne Knudsen)的一篇論文,她最早提出了這個劃分。我們在研究中也驗證了這一點,并把它和理解聯系起來。

      你總結得非常到位,這也讓我重新思考:或許我們確實可以認為,專家使用隱喻和公眾使用隱喻之間,存在某種根本性差異。在這個意義上,我們之前討論的理解的維度、種類、層次,也可以用這一點來區分。

      對談鏈接見:

      https://www.thetransmitter.org/brain-inspired/does-ai-understand-what-it-produces-henk-de-regt-explores-how-we-might-assess-understanding-in-machines-and-humans/








      關于追問nextquestion

      天橋腦科學研究院旗下科學媒體,旨在以科學追問為紐帶,深入探究人工智能與人類智能相互融合與促進,不斷探索科學的邊界。歡迎評論區留言,或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問,我們將基于追問知識庫為你做出智能回復哦~

      關于天橋腦科學研究院

      天橋腦科學研究院(Tianqiao and Chrissy Chen Institute)是由陳天橋、雒芊芊夫婦出資10億美元創建的世界最大私人腦科學研究機構之一,圍繞全球化、跨學科和青年科學家三大重點,支持腦科學研究,造福人類。

      Chen Institute與華山醫院、上海市精神衛生中心設立了應用神經技術前沿實驗室、人工智能與精神健康前沿實驗室;與加州理工學院合作成立了加州理工天橋神經科學研究院。

      Chen Institute建成了支持腦科學和人工智能領域研究的生態系統,項目遍布歐美、亞洲和大洋洲,包括、、、科研型臨床醫生獎勵計劃、、科普視頻媒體「大圓鏡」等。

      特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      相關推薦
      熱點推薦
      香港演藝人協會會長田啟文說:“謝賢在7月16號就去世了,過了幾天才公布。”
為啥呢?他還原了當時細節

      香港演藝人協會會長田啟文說:“謝賢在7月16號就去世了,過了幾天才公布。” 為啥呢?他還原了當時細節

      無處不風景love
      2026-07-23 10:43:43
      CBA記者:朱芳雨已完成交接工作,與廣東隊說再見

      CBA記者:朱芳雨已完成交接工作,與廣東隊說再見

      體育哲人
      2026-07-23 20:53:02
      中國女排3-2美國晉級四強 球員評價:7人優秀,2人及格,3人低迷

      中國女排3-2美國晉級四強 球員評價:7人優秀,2人及格,3人低迷

      籃球資訊達人
      2026-07-23 22:04:57
      謝賢御用醫生公開生前居家照 摘掉墨鏡眼神渾濁 一年前已認不得人

      謝賢御用醫生公開生前居家照 摘掉墨鏡眼神渾濁 一年前已認不得人

      麓谷隱士
      2026-07-24 00:15:03
      熱議!滔搏回應暴力打折甩賣耐克庫存,造成巨大負面影響

      熱議!滔搏回應暴力打折甩賣耐克庫存,造成巨大負面影響

      西昆侖Bruce
      2026-07-23 18:23:22
      烏軍新總參謀長,也是員猛將!西爾斯基上將繼續留在總司令部

      烏軍新總參謀長,也是員猛將!西爾斯基上將繼續留在總司令部

      鷹眼Defence
      2026-07-23 21:03:19
      投資超萬億美元發展軍備,為何革命衛隊打不下以色列一架戰機?

      投資超萬億美元發展軍備,為何革命衛隊打不下以色列一架戰機?

      高博新視野
      2026-07-23 18:23:09
      演員寇占文被法院懸賞,曾出演《春光燦爛豬八戒》《鏢人》

      演員寇占文被法院懸賞,曾出演《春光燦爛豬八戒》《鏢人》

      韓小娛
      2026-07-23 15:30:22
      阿根廷6萬球迷請愿重賽世界杯決賽:并更換腐敗裁判;哈蘭德、亞馬爾身價漲至2.2億歐,成為歷史唯二

      阿根廷6萬球迷請愿重賽世界杯決賽:并更換腐敗裁判;哈蘭德、亞馬爾身價漲至2.2億歐,成為歷史唯二

      極目新聞
      2026-07-23 09:10:26
      擊敗強敵!中國女排3比2勝美國女排,闖進世界女排聯賽四強

      擊敗強敵!中國女排3比2勝美國女排,闖進世界女排聯賽四強

      澎湃新聞
      2026-07-23 21:46:28
      三峽大壩收支出爐了:運行20余年,總投資近2500億,如今回本了嗎

      三峽大壩收支出爐了:運行20余年,總投資近2500億,如今回本了嗎

      阿訊說天下
      2026-07-23 12:26:28
      膈應啊!一老人帶著逝者骨灰乘動車返鄉,全程在車廂撐著一把黑傘,引發熱議

      膈應啊!一老人帶著逝者骨灰乘動車返鄉,全程在車廂撐著一把黑傘,引發熱議

      火山詩話
      2026-07-23 10:55:57
      拉夫羅夫:俄不再支持半島無核化呼吁

      拉夫羅夫:俄不再支持半島無核化呼吁

      新浪財經
      2026-07-23 15:19:37
      王虹、鄧煜獲2026菲爾茲獎:兩位北大同屆生的數學之路

      王虹、鄧煜獲2026菲爾茲獎:兩位北大同屆生的數學之路

      DeepTech深科技
      2026-07-23 22:20:29
      社保倒查全面鋪開!十年記錄逐一核對,終身追責絕非說說而已

      社保倒查全面鋪開!十年記錄逐一核對,終身追責絕非說說而已

      李博世財經
      2026-07-23 13:48:07
      Coco悼念謝賢爆出分手真相:沒給2000萬,但賣了謝霆鋒的勞斯萊斯

      Coco悼念謝賢爆出分手真相:沒給2000萬,但賣了謝霆鋒的勞斯萊斯

      曉肂愛八卦
      2026-07-21 19:29:37
      國際體育誠信機構發預警:美加墨世界杯7場比賽有被操縱嫌疑

      國際體育誠信機構發預警:美加墨世界杯7場比賽有被操縱嫌疑

      全景體育V
      2026-07-23 20:13:54
      事發上海市區!黃鼠狼頻繁出沒,專往私家車里鉆,發動機蓋板被咬出大洞,還啃斷線路、放臭屁

      事發上海市區!黃鼠狼頻繁出沒,專往私家車里鉆,發動機蓋板被咬出大洞,還啃斷線路、放臭屁

      新民晚報
      2026-07-23 11:48:56
      50多斤的馬犬被洪水沖走十余天后自行回家,只剩20斤 主人:喂養幾天現在眼睛有神了

      50多斤的馬犬被洪水沖走十余天后自行回家,只剩20斤 主人:喂養幾天現在眼睛有神了

      紅星新聞
      2026-07-23 18:19:21
      王虹獲獎后感言:很幸運能夠在合適的時間遇見合適的人,得到正確的引導

      王虹獲獎后感言:很幸運能夠在合適的時間遇見合適的人,得到正確的引導

      澎湃新聞
      2026-07-23 23:16:27
      2026-07-24 02:15:00
      追問Nextquestion incentive-icons
      追問Nextquestion
      科研就是不斷探索問題的邊界
      820文章數 41關注度
      往期回顧 全部

      藝術要聞

      人物繪畫步驟 | 美國當代畫家布萊斯·利斯頓

      頭條要聞

      女副部王峻被處理:大搞權錢交易 泄露工作秘密

      頭條要聞

      女副部王峻被處理:大搞權錢交易 泄露工作秘密

      體育要聞

      勇士24歲的MVP,也是個勒布朗?

      娛樂要聞

      梁朝偉湯唯19年后境遇反轉

      財經要聞

      梁文鋒當不成賽博圣人

      科技要聞

      中國數學家王虹、鄧煜獲菲爾茲獎

      汽車要聞

      滿配華為乾崑六件套 東風奕派M8限時權益價16.58萬起

      態度原創

      藝術
      時尚
      旅游
      數碼
      軍事航空

      藝術要聞

      人物繪畫步驟 | 美國當代畫家布萊斯·利斯頓

      我花40萬追的老公,被公司親手毀了

      旅游要聞

      離宜賓不遠!這片湖泊林海少有人知,走進里面像闖入世外天地

      數碼要聞

      蘋果未來產品路線圖曝光,大量新品等待發布

      軍事要聞

      "鎬山"之后美再威脅襲伊基礎設施 伊朗:將以牙還牙

      無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 言情片《邻家女人:丈夫不在的日子》HD无字免费高清在线观看完整版_tvb云播 | 功夫熊猫3 电影| 日剧卖房子的女销售| 小鹏奇啪行| 经常请吃饭的姐姐| 《初体验8》在线观看完整免费版电视| 暗算全集| 一起嗟嗟嗟免费观看30分钟电视剧 | 那些花儿王菲| 奔腾年代在线观看| 大秦帝国之纵横| 剑在弦上| 人体蜈蚣1电影| 法国空乘5免费高清原声满天星 | 韩剧 白雪公主| 我是刑警第一集| 台版1987渔夫荒淫史| 电影辛亥革命| 头脑特工队2国语版免费播放| 白雪公主韩剧| 地狱宝贝| 义子乱的电影在线观看| 玉莆团在线观看| 熊出没之怪兽计划3| 冰雪之名电视剧免费观看| 战狼六欧式少女| 功夫熊猫四| 巨茎挺进李淑芬的夜猫IV| 冰湖行动全集观看| 甜蜜蜜电视剧| 热浪滚汤在线观看| JIZZ学生妺| 维修工的绝遇3| 复仇者联盟4豆瓣| 狂乱家族| 和喜玉兰免费观看全集播放| 蜜桃成熟时1997 下载| 香港版红楼梦免费看| 老公上司来我家做客| 亚欧精品在线| 水电维修工的绝遇2| 从结婚开始恋爱电视剧免费| 嘎哇在线观看高清电影免费| 星兽猎人2| 老婆6免费完整高清电视剧| 广场舞豆芽菜的爱| 吴健版农民伯伯免费看 | 人生电影高清在线观看| 蛇妖1988满天星| 方糖映画| 真实处破疼哭在线播放| 保罗芭芭拉3| 今生有你电视剧在线观看| adn-018| 輪姦搜查官秘密| 东山学堂| 仙武传动漫免费观看| 斯巴达2未测减除版免费| 东北告别团队2| 做aj的免费大全电视| 国家命脉| 公之浮手中字40| 速递惊魂| 白峰美羽 在线| 阿盖尔神秘特工免费高清观看| 西虹市首富 电影| 《需要爸爸播种子》HD免费在线播放 - 全集电影 - 金鸿影视 | 战狼6高清国语版免费观看在线播放| 向往的生活第六季| 华丽的外出视频| 荫道BBWBBB高潮潮喷| 《用武之地》| 高清尼诺未删减| 唐朝好男人下载| 壮志凌云女版电影在线观看| 儿子与情人免费播放| 柯淳的短剧| 韩剧后宫| 伸冤人3 在线观看| 青梅竹马第二季未删版| 高清《怦然与你》电视剧| 女运动员1980完整版| 81号档案| 与部长出差中文电影| 十七岁电影完整版| 野花香电视剧剧情观看| 1985版电影《干草堆》| 感受大海的时刻电影| 晚娘2012高清完整版| 天若有情第一部| 秘鲁人向普京求救| 汉莫拉比小姐| 大唐玄奘 电影| 赤身跳舞全集免费观看| 将军家的小娘子免费观看影视大全| 女版战狼6免费观看高清下载| 高清《判处勇者刑》电视剧| 代号麻雀| 电影《美容院的特殊待遇》3演员表| 晚娘1在线观看| 朱之文星光大道初赛| 儿媳的味道| 欢迎来到实力至上主义教室| 火山口电影完整版免费| 中字HD丈夫的下属中字| 闺蜜的朋友3线观高清| 月宫宝盒电影完整视频免费观看| 察隅县| 警戒线 电视剧| 劳拉婬欲护士中文在线观看| 安哲罗普洛斯| 罗丽星克莱尔成人版HD版| 都市剧集在线电视剧免费观看| 《需要爸爸播种美国》爸爸是谁扮演的| 追在线观看| 社长夫人的美貌电影完整版在线观看| 暖春小花电影版| 枯骨之余猜生肖| 爱我几何完整版免费观看原声在线播放| 时光代理人第二季| 陈观泰电影| 美国式保罗2| 满清禁宫奇案 快播| 甄嬛传65集| 失恋33天mp4下载| 电影《觉醒年代》| 白鹿原全集免费播放| 缠论教你炒股票108课| 麦乐迪《家庭矛盾》4在线免费观看 | 夏家三千金2| 动漫小公主| 布兰迪 罗伯斯| 女子炸部队第一部| 埃博拉前线电视剧免费观看 | 厕所花子vs倔强的驱魔师| 庆余年第二季免费观看西瓜| 巨人族的新娘免费观看动漫| 棍勇的回复术士全集免费观看| 魔都精兵的奴隶 第二季全集观看| 传颂之物二人的白皇| 壮云凌志在线观看满天星| 倚天屠龙记 邓超| 星界的战旗| 美国电影《需要爸爸播种2》在线观看| 前进巴格达| 杨丽萍凤凰造型如涅槃重生| 麦乐迪女超人HD版在线观看| 父母儿女媳妇一起来玩的说说| 法国空乘2中字| 妻子6免费完整版| 全球禁播的电影| 战锤40k电影在线观看完整版| 一起愁愁愁免费看全集| 生化危机终章| 香坂美优| 阿瓦提县| 普法栏目剧女囚的自白| 恩娇韩剧电影完整版免费观看| 高清《明珠奇谭》电视剧| 生死决断秋瓷炫电影完整版在线 | 电影《需要爸爸播种美国》在线观看 | 需要爸爸的| 爱在有情天| 濑户之花嫁| 黛比浪漫女家教第6集剧情简介| 爸爸的朋友2免费中字翻译木瓜 | 韩剧《隐形的帽子》| 吸血鬼夫妇| 了不起的夫人第一季全集| 玄女心经2免费观看完整版高清| 我的妈妈动漫版免费观看第一季| 武媚娘传奇范冰冰| 安吉拉·怀特| 肉写得很好的糙汉文| 隔壁邻居很美味免费观看电视剧| 周秀娜的电影| 《特殊游泳课》免费观看| 鼓楼外短剧全集免费视频播放| 监狱学园无删减| 要爸爸的精液免费观看| 小唐璜情史完整电影免费观看高清| 处女夜记| 《水润人生2》刘志贤| 我的老婆是小学生| 《功夫熊猫2》| 1986《牙医姐妹》| 清落电视剧免费观看高清完整版| 重生之商业帝国| 你是我的氧气| 《水野朝阳之出差电影 | 恶之花在线播放| 苍蓝战士奥特曼电影免费观看| 《女销售的销售秘密2》 | 镖行天下之至尊国宝| 兔子帮19| 水暖工韩国伦理电影| 男子不用洗发水从秃顶到满头黑发| 桃色新闻| 《水电工的艳遇》电影观看| 新月电影| 豪情3d字幕| 歼灭天际线1~80集| 春秋乐队| 曹查理《怒警狂花》电影版| 诡水怪谈电影免费版在线播放| 《示范销售避孕套》2| 信仰电视剧免费观看完整版| 电视剧热爱| 迷幻学院| 需要爸爸播种籽英文| 吗吗朋友| 新还珠哥哥| 需要爸爸种子免费观| 梁小菊的春天全集| 宝洁回应香皂嵌刀片| XL司令真人版第一季全集 | 迦楠大人的白给是恶魔级| 女超人麦乐迪无删减版免费观看全集| 女人不容易 电视剧| 鬼宿舍电影| 诡秘之主动画第一季| 纵横四海粤语| 《进击的巨人》第四季| 化学女老师| 妈妈爱上儿子同学在线播放| 许双军案是啥情况呀| 《圣特罗佩姑娘们1982》在线观看 | 新上海滩国语| 聊斋艳谭3| 陪你到世界的尽头| 美国一级父女播种视频中文版| 姐姐的朋友在完整5视频带翻译| 科幻电影沙丘2免费观看| 斑马影街| 小皮匠登基| 沉香如屑60集全免费看| 金银悔1至5集免费普通话| 女人花梅艳芳mv| 禁忌4美国禁忌3完整版中文| 柯南日语版| 酒店1-90集高清免费观看 | 长夜开拓者动漫免费观看完整版 | 精忠岳飞电视剧全集| 电影《峡谷》| 爸爸的种子免费全集电视剧| 李佳琦杨幂| 罪色 百度影音| 最后一班地铁电影| 龙族动漫第一季免费观看| 美国伦理《性暴行》| 霍元甲黄元申粤语| 特激外卖员| 无所畏惧40集免费观看| 《二十一世纪爱情指南》免费观看俄| 日韩无遮挡伦理片:按摩大胸妹子 《卖豪车女销售》在线观看 | 魔法留学生国语版全集| 恶魔搬进来了| 需要爸爸播种子三级在线观看| 新乌龙山剿匪记免费观看完整版| 酒店1-80集全集免费观看| 咒术尸战电影在线观看| 海豚爱上猫结局| 爱可以重来电视剧全集| 后宫露营 第一季 未增减 0.0.0.| 农家小媳妇全集免费| 扫黑风暴连续剧| 酒店1—60全集观看在线看| 高海拔之恋2| 幸得相遇离婚时短剧免费观看| 法医王妃:验尸无敌全集免费| 姐姐的男友2| 电视剧乐意为人| 我以后帮你扣哦| 卖保险的女销售| 《谍战深海之惊蛰》电视剧| 周杰伦林俊杰合唱稻香| 绿岛电影海报堂| 十九岁大学生免费观看电视剧| 《楼梯间的秘密》结局电影| 战狼9加拿大版高清版 | 云南省| 对江先生念念不忘短剧在线免费看| 高达00第二季国语版| 需要爸爸播种手机在线观看| 哈利波特与密室电影原版| 保姆用废弃尿垫给老人擦嘴被判刑| 空前绝后满天飞在线观看| 坎贝奇第二部曲《无憾》完整版 | 亲爱的朋友们| 渔夫的荒野史记高清海报| 韩剧没有你活不下去| 他母亲的房子| 日本小妞| 传说中的七公主全集| 和部长出差的日子在线观看| 哭悲资源| 命运印度电视剧| 卢克凯奇在线观看| 权力游戏第一季| 女生男生一起愁愁愁视频| 大工匠2| 白峰电影在线播放免费播放第19集| 无忧天堂| flowover在线观看完整| 电视剧青盲在线观看| 和老板一起出差| 北北北砂云缨巡街免费观看 | 日本jizz视频| 怪谈餐馆优酷| 小姬无人宠| 银河护卫队3超清完整免费观看| 农场主的三个女儿| 让子弹飞 电影| 电视剧白银谷| 屠龙战场| 猫和老鼠在线观看| 人儿何处归全集| 亲爱的妈妈5在线播放| 小城大爱电视剧| 江湖情电影| 兔子先生第一季第8期| 白化农场| 《忠者无敌》| 雾蓝色的雨后晴天| 电影需要爸爸播种子| 五福临门电视连续剧剧情 | 宫河家的空腹| 91密桃| 英雄本色3电影完整版免费观看| 奥斯汀里弗斯| overflower第1集到第8集免费观看| 傲骨贤妻第二季下载| 高清《朱音落语》电视剧| 还珠格格大结局| 双人天堂按摩在线观看| 杨门虎将全集| 亲爱的自己48集免费观看完整版| 鹊刀门传奇免费观看| 瓜达卢佩的玫瑰电影在线| 奥巴马最后一次演讲| 安徽庐剧| 站着再来一次30集全免费| 女版斯巴达免费观看| 人猿泰山hr版1995意大利版免费观看| 名侦探柯南电影版| 村上沙兽皇电影免费观看高清版下载 | 女生刘海两边的头发叫什么| 电影丝袜会所| yellow视频免费观看| 僵尸叔叔1| 008电影网| 传闻中的七公主中文版| 哇嘎嘎电影高清免费看| 《狙击手-斯莫希军官》| 斯嘉丽 梯震门| 迷雾电影在线观看免费完整版全集 | 维修工的艳遇HD2| 风起的日子笑看落花| 风骚邻居| 老舅1-27集免费看| 我的青梅竹马是消防| 邻居漂亮的妻子5| 曲剧清风亭全场| 墨玉县| 监狱高压2在线观看免费| 战狼10女版国语高清无广告 | 《和部长一起去出差旅》韩剧丈夫不 | 云水怒电视剧全集免费播放| 本乡爱电影高清免费观看| 再来一次吧| 还好 璀璨人生| 某科学的超电磁炮2| 妈妈爱上我的男朋友| 难忘今宵舞蹈| 艾克赛德| 铃木杏里ed2k| 男女愁电视剧高清在线观看| 韩国女主播艾琳| 电影《红色角落》完整版免费观看| 无人区国语高清电影免费| xl司令第一季全集| 赛车总动员1 QVOD| 高清《现在不行》电影免费播放| 血恋在线播放未删减完整版| 张云熙电影在线观看| 亲爱的妈妈5韩国高清| 礼物电影完整版在线看| 女战狼6免费高清版999加拿大版| 金牌销售最后一集| 美版《卻望》在线观看| 女武神第3季免费观看高清| 男生女生愁愁愁电视剧在线观看| 曹查理电影全集在线观看| 守护解放西2季全集免费观看 | 冷暖人生路| 17se视频| 郑中基宣布退圈| 私人女护士| 正在播放:丈夫不在家的5天之间,被命令禁欲直到初夜为止的我身心都被性豪的公 | 哥布林洞窟在线观看免费带翻译| 李大霄:今天A股行情不太正常| xl司令动漫第一季无马赛免费观看高清在线看 | 妈妈再爱我一次电影下载| 命中不注定免费观看| 孟州市| 韩国售楼小姐电影免费观看高清版| 租一个女友回家过年| 情色姐妹| 1995版人猿泰山hr意大利版本演员表| 瓜达卢佩的玫瑰电影在线看免费版 | 末日崩塌 电影| 黑衣女人百度影音| 《麦乐迪女超人| 呼啸青春| 高清生命树| 姐妹淘心话 甄嬛传| 时间静止器电影完整版| 尸城在线| 有你真好天堂飘雪| 狙击之王在线观看| 安吉拉主演的《透视》电影免费观看 | 不忠在线观看免费全集电视剧高清| 代替不孕的丈夫HD中字| 欧美人 zooskool| 糊涂的爱小品| 王牌贱谍| 女版《壮志凌云》| 月上柳梢头的下一句是| 破产姐妹 第三季| 菲梦少女第三季| 《荒岛女儿国》在线观看完整版中文| 甄嬛传45| 游击兵工厂全集| 特种兵之火凤凰共多少集| 美国荷尔蒙在线观看| 男生女生免费完整版在线观看| 招待外卖员电影| 寻找前世之旅第二季| 男同桌含着我的奶边摸边做l| 免费网络电视| 美国爱情片真爱禁区片段| 女版战狼6在线观看免费 | jordan大战黑人| 不屈的媳妇| 交换年长的麦子哪里能看| 大生意人40集免费播放最新章节| 甄嬛传32集| 金钱之味电影完整版| overlower第一季在线观看完整版 罗丽星克莱尔在线观看免费全集 女版战狼10什么时候上映 | 乌贼娘第一季| 西西GOGOGO高清在线完整版| 束缚游戏免费全集在线看| 完美真相优酷| 理疗丰胸按摩院| 魔侠传好玩吗| 神秘博士第二季| 釜山行2:半岛电影| 魔界王子第二季| 北京爱情故事高清完整版| 黑白配hd1080完整版在 | 鸣梁海战电影免费观看国语| 《特殊游泳教练| 我的绝色女房客| 我的邻居老婆电影完整版免费观看| 甄嬛传第64集| 《迷宫1997版》星克莱尔| 睫毛膏2中文版色大师| 潘多拉 永远的生命| 我是特种兵之火凤凰36| 我要变坏3| 横冲直撞的游泳教练在线观看| 台湾金马奖2018完整版| 武林风全球功夫盛典| 纯白之恋全集| 惊蛰电视剧| 插曲的痛60集全集完整版 | 日本电影牙医姐妹| 妈妈的朋友3电影在线观看| 疯狂外星人| 星汉灿烂电视剧高清免费观看全集| 1987渔夫荒野史记免费观看最新章节列 | 随唐英雄全集| 酒店1—80全集免费完整版| 血仍未冷| 闪婚顶流全集免费| 星际迷航1百度影音| 灭火宝贝4美版法国航空| 假面骑士revice在线观看免费| 高清盐沼之下| 花宵道中在线免费观看| 爱丫爱丫在线观看免费高清电视剧有 | 昆明动物园消失1天的猫现身| 金装鬼打鬼未删减版观看| 资溪县| 色戒未测减除版怎么恢复2007| 剑雨在线观看| 生化危机3 电影| 她热辣的秘密在线观看全集免费| 婉通夫人| 隋唐演义多少集| 日本空姐2019年上映的电影 | 半斤八两主题曲| 全职高手第三季免费观看动漫| 顶楼第三季第一集| 金银悔5一1手机| 佐罗满天星版| 贞淑的推销2024韩剧| 美丽姑娘免费观看高清| 进击的巨人第四季最终季| xi司令真人版全集免费播放| 爱情公寓3未删减版| 51vv视频社区福| 豹女完整在线观看| 酒店激战 第1-5集 免费观看李丽珍| 香港金瓶梅| 南海归墟16集在线播放免费| 鬼哭狼嚎的意思| 简阳市| 黑桃视频| 哈尔滨爆炸事故初查系人为| 《楼梯间的秘密》结局电影| 忍者一时| 97在线播放免费观看全集电视剧| 言承旭 ella| 麻雀春天全集在线观看| 战狼6在线观看免费播放下载| 八零军嫂全集免费| 凶宅处理专员在线全集观看| 《特殊的治疗》中字| 高清炽热吸引| 仙逆在线观看全集完整版高清| 能听到我的心吗| 房奴试爱截取的一段感情原声罗仲谦| 《我们的爱》泰剧免费播放全集| 夺取电视剧免费观看全集高清| 宫锁连城电视剧全集| 《特殊保险销售员》| 《美容院:特殊待遇》6| 三边坡是哪个国家| 东京妓院| 没有工作的一年| 高压监狱2019法版完整版| 保拉的诱惑| 俩6岁孩子33层扔下推车水桶| 漂亮的儿媳妇在线观看| 古墓丽影满天星在线观看完整免费高清 | 人民的名义18集| 交换的温度4| 沙城到北京| 吴亦凡不服一审提起上诉| 锹里奏鸣曲| 战狼10高清国语免费播放西瓜影院视频| 如虎添翼| 了不起的盖茨比 高清| 武直15| 法国电影《农场保卫战》在线观看| 《贝拉》电影在线观看完整| 疯狂汉堡| 一枝红杏入墙来| 人民的名义全集bt资源| 双人按摩| 隋唐英雄传电视剧| 哈起码电影| 撞邪电影| 同盟国语版全集免费观看| 特殊外卖员| 掌门的烦恼| 姐姐的朋友16| 斯大林格勒2013高清| 爱我几何在线观看完整版免费高清 | 麻栗坡县| 战狼6少女版完整版| 《浴血黑帮:不朽传奇》| 施金驰灭蚊灯| 飘渺尊之旅| 黑白配中文高清完整版| 《乳房》特殊按摩电影| 动漫《家访的老师》| 那金花的女婿| 如懿传全87集免费播放| 黑白配免费观看全集高清| 強暴處女在线播放| 骨肉相连麦片儿捞| 红壳的潘多拉| 《偷窥:妻子出轨》| 台湾土著版酋长的女儿| 谢孟伟《无主之城》在线观看 | 哇嘎电影在线看免费| 带帽檐帽子编织教程| 神探蒲松龄电影| 台湾版《棘手狂情》演员薛惹,恋狂情| 咒怨1 日版| 一起来看流星雨35| 夺帅电影| 新版娃娃脸9在线观看 | 美发店的待遇2| 不戴套交换系列17部分吴琴| 隔壁的邻居很美味免费观看| 完美世界全集免费| 山寨小萌主在线观看| 《overflower》真人版动漫全集免费! | 《歼灭天际线》免费观看高清| 钟丽缇演过的三影片| 骄阳伴我 电视剧| 梦想成为魔法少女全集免费观看| 丰胸沙龙治疗3| 《法国空乘4》免费韩国小嫂子 | 独立日 电影| 残骸电影免费观看完整版| 麦乐迪家庭矛盾在线播放| 陈玉莲《豪门圣女》| 银翼杀手2049 电影| 旺达幻视| 让子弹飞国语版字幕1080p| 电视《金悔瓶》免费观看2008样| 讽刺澳军漫画作者:有空再画一张 青梅竹马是消防员第一季未增删看 | 沧元图51| 女大学生特殊按摩在线观看| 特殊诊所韩国| 食人鱼3dd快播| qingchunqi| 来自星星的你电视剧全集| 美国式的家庭忌讳| 女朋友的妈妈双字ID | 乐在其中 途我自在| 《女律师的堕落》高清 _正在播放_爱情片 - 如如影视 | 蒋玲玲版《渔夫的荒野史记》完整版 | 下一站说爱你| 良医第一季| 按摩店的特殊待遇在线免费观看| 上流社会电影在线未删减| 错点鸳鸯电视剧全集爱奇艺| 1—5集普通话版免费播放下载 | 怪奇物语第五季在线观看完整版| 樱花动漫免费看妖神记第五季 | 渔夫荒野史1988版在线观看免费 | 私密按摩师电影免费完整版| 善待自己学会快乐| 爱丫爱丫兄妹在线影院电视剧,声声入 | 与狼共舞全集| 玻璃先生| 双瞳电影| 《驯服小峓子2》丽卡在线观看 | 《加勒比海盗1》(女版)| 《最高の爱人诏三上》在线观看| 美人心计35集| 不扣纽扣的女孩qvod| 北京青年36| 美版娃娃脸4免费观看| 人猿泰山意大利| 侦探成旭3| 高清望向太阳未删减| 超级飞侠动画片| 《房屋销售的秘密》| 义姐不是不良妈妈免费看| 一见你就笑全集| 1980版《小女孩们》| 好运来电影在线观看| 正在缩小的男人电影| 月里二嫂猪肉换米| 都市风水师全集| 欲望之屋2:甜美情事| 北辙南辕电视剧在线观看| 她们的爱| 国风按摩院在线观看| 凌云壮志(法国)满天星| 康熙秘史全集| 侏罗纪世界重生| 新乌托邦免费完整版| 想要爸爸的种子| 《需要爸爸播种子》电影无删减完整版免费在线播放-如意影院 | 爱死机第4季完整版全集在线观看| 唐红的恋歌| 《法国少女农场》| 《不好笑就露宿街头》| 策驰影院电视剧免费策驰电影| 苹果范冰冰无删减| 鼓手王澜| 女版西游记大波唐三藏 | 借兵粤语| 再见十八班| 需要爸爸播种孑伦理电影| 父亲我要你的种子电影免费观看| 放飞旅行团全集观看| 险恶绣感完整版在线观看| 《法国空乘4》成人版| 双探电视剧在线观看| 关山暮雪| xl司令全集在线观看完整版高清 | 体感预报日剧免费观看| SONE-367本乡爱在线观看| 韩国A片巜善良的秘书的目的| 超凡蜘蛛侠3在线观看完整免费版| 我是余欢水免费全集在线观看高清| 混血女大学生私密按摩电影免费 | 奔跑吧兄弟第二季最后一期| 韩国大尺度电影上司与妻子电影在线观看| 葡萄成熟时免费观看| 正月十六的讲究| 电视剧天大地大| 爱我几何电影无减版电影在线看| 奇怪的美容院,2| 孤舟电视连续剧免费收看| 远方快递原型| 白雪公主满天星| 黑蝎诱惑| 坎贝奇品味人生免费观看| 品味人生无憾在线观看| 阿童木 电影| 道德的火焰| 高清《红字》| 古田县| 韩国电视剧办公室的秘密| 极限挑战第三季免费播放| 绝对权势电影在线观看| 长安三万里免费完整看| 混血大学生精油按摩电影| 怀玉传奇| 另一个贝内特家的姐妹未删减| 小蜜蜂3美丽人生| 高清《反叛的鲁路修》动漫| 《反击》在线观看完整版| 三眼神童主题曲| 《驯服小峓子2》| 陪部长一起出差电影| 美少女战士中文版| 电视连续剧锅哥警察| 让媳妇变成花痴2电视剧叫什么名字啊| 欧美黑白配视频在线免费观看| 喋血双雄国语| 恶魔少爷别吻我电视剧第二季| 麻雀电视剧全集| 门徒在线观看| 《除却巫山》邓家佳| 贤妻下载mp4| 婚词离曲第四季全部16集| 三叉戟2在线观看| 小蜜桃四| 妻子8免费全集高清观看在线播放 1996年杨敏思版电视剧第三回合 欧美版战狼9电影免费观看 | 再次我的人生第二季| 酒店1-50集| 快乐方程式| 落水狗qvod| 《聊斋艳谭8陆判性经》| 丰满的女学生在线观看| 满分追爱公式| 公公与媳妇高清免费版电视剧| 西班牙《掌中之物》| 女保险公司推销员4| 西施伦理完整版| 命中注定我爱你剧情介绍| 麦子交换3普通话版本在线观看| 有效期限爱上你全集| 第八号当铺电视剧| 恋爱的发现 电视剧| 八尺夫人意大利满天星| 韩国电影修车艳遇| 孙静雅 快播| 《露营地》宋孝敏| 郝板栗千金小姐在线观看| 热辣滚烫免费观看| 国产刑侦剧《盲点》在线播放| 酒店激战第1-5集免费观看李丽珍| 回心转意伴奏| 肥胖女人免费观看连续剧| 烈火情人 百度影音| 粉红大白菜岑梦凡版| 超人大变身全集| 木府风云主题曲净土| 横空出世电影| 《女学生的滋味》| 大道通天电视剧全集| 僵尸伯伯国语版在线播放| 出轨的女人电影| 后厨激战1到5集免费观看| 盖欧扎克| 鬼吹灯之怒晴湘西在线观看| 圣经创世纪| 6680影院在线观看免费播放电视剧性感演算法 | 纯真时代| 依然闪亮| 《最高の爱人诏》解说| 赛仑奇葩诊所在线观看| 高清《高压监狱2》完整版在线| 千古玦尘49集全集免费观看 | 双生之我妹妹谁敢动短剧免费观看| 如来神掌国语| 僵尸道长1高清| 堕落的律师电影完整版剧情| 扎职粤语高清完整版| 咒怨1日版| 强者风范电视剧免费观看| 《小小诊所》完整版免费观看| 快乐再出发免费观看| 爱逢时短剧免费播放| 二战电影大全国语版| 浮之手HD版免费观看了| 南开大学通报3名教师被举报| 桃谷绘里香 ed2k| 反黑先锋国语版全集在线观看 | 按摩男技师电影| 剃须然后捡到高中生| 三星手机广告曲| 去有风的地方电视剧免费观看 | 迷惘的爱| 现在正在分手中免费全集观看| 封神榜2高清免费观看| 少儿拉丁舞教学| 女超人满天星版麦乐迪夸克| 正在播放:【夏晴子&温芮欣】国风按摩院_年节双飞俏佳丽 | 聊斋之奇情异恋| 大过年的电视剧免费观看全集| 《浪漫女家教》-电影-电影时期| 坎贝奇最经典的4部电影| 无眠之境电视剧免费观看| 新潘金莲电影| 闪婚老公竟是顶头上司电视剧免费 | 地狱解剖 电影| 鬼吹灯之昆仑神宫电视剧免费观看 | 苍老师电影大全免费观看电视剧 | 京城四少| 徐少强新版金银瓶2008第2集| 唐伯虎vlog免费观看全集1446| 纯情罗曼史第一季全集在线| 燃冬电影高清在线观看| 《美丽妻子替丈夫还债》| 女员工的付出中字5| 乡村爱情小夜曲片尾曲| 蜡笔小新国语高清| 不离婚的男人完整版| 日剧《太想被你爱了》百度云| 农业部长| 姐姐睡着高清免费观看电视剧全集| 姐姐的朋友在线视频| 需要爸爸播种子在线免费观看| 千金驾到短剧免费观看| 双子星公主第3部| 乌云之上全集在线观看| 《家庭矛盾4》麦乐迪观看视频| 大珍珠电视剧全集免费播放| 乔家大院全集| 高清《探子阿坚:无头奇案》电影| 美妙发型屋韩国完整版| 温柔的谎言 杨桃| 踏血寻梅电影完整观看| 终于轮到我恋爱了电视剧| 儿子同学的妈妈卖保险| 月上重火电视剧全集免费观看| 毒战韩国版未删减版在线观看| 玫瑰的故事电视剧在线| 真爱一生|