<blockquote id="g5mpq"><rt id="g5mpq"></rt></blockquote>

    1. <pre id="g5mpq"></pre>
      <i id="g5mpq"><legend id="g5mpq"></legend></i>
      浪漫女家教主演:黛比地区:台湾 ,日本jiZz,爸爸的种子在线观看,特别的酒店2免费,哇嘎在线,荒野渔夫高清免费观看,新有菜在线免费观看,哇嘎美国
      網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

      萬字追問:為什么大模型離人腦仍然很遠(yuǎn)?意識不是規(guī)模化出來的

      0
      分享至


      大語言模型越能言善辯,關(guān)于它們是否已經(jīng)擁有意識的討論就越熱。神經(jīng)科學(xué)家揚(yáng)·阿魯(Jaan Aru)的判斷卻近乎相反:“如果你是一個(gè)神經(jīng)科學(xué)家,那么這些系統(tǒng)具有意識的先驗(yàn)概率,基本上接近于零。”

      但阿魯并不認(rèn)為,機(jī)器原則上永遠(yuǎn)不可能擁有意識。他反對的,是另一種更常見的想象:只要人工系統(tǒng)不斷擴(kuò)大規(guī)模、增加參數(shù)、補(bǔ)上若干類似大腦的功能,意識總有一天就會自然出現(xiàn)。在他看來,這種推斷混淆了智能與意識,也把大腦過度簡化成了一張神經(jīng)網(wǎng)絡(luò)。

      真正可能與意識有關(guān)的,并不是同一種計(jì)算被做得越來越大,而是發(fā)生在分子、細(xì)胞、樹突、神經(jīng)環(huán)路和行為之間的跨尺度過程。


      對談嘉賓

      Jaan Aru

      愛沙尼亞塔爾圖大學(xué)副教授

      他試圖把底層那些細(xì)密而具體的生物學(xué)細(xì)節(jié),與更高層次的認(rèn)知功能聯(lián)系起來。

      他希望理解這些現(xiàn)象在腦中的基礎(chǔ),并嘗試把問題解決過程中那些較為日常的頓悟,與神秘體驗(yàn)和迷幻體驗(yàn)中更深刻的領(lǐng)悟聯(lián)系起來思考。


      主持人

      Paul Middlebrooks

      卡內(nèi)基梅隆大學(xué)的特聘助理研究員

      卡內(nèi)基梅隆大學(xué)的特聘助理研究員,同時(shí)是播客“Brain Inspired”的主持人。他主要研究運(yùn)動皮層和基底神經(jīng)節(jié)神經(jīng)群體活動如何在自由行為的小鼠中支持自然行為,致力于揭示神經(jīng)活動與復(fù)雜行為之間的關(guān)系。


      智能越來越強(qiáng),不等于意識越來越近

      保羅:你寫過很多關(guān)于意識的文章,也研究過人工智能。現(xiàn)在有一種很流行的討論是:人工系統(tǒng)會有意識嗎?它們可能有意識嗎?

      你之前的很多文章都在比較生物系統(tǒng)和人工系統(tǒng),試圖找出它們的異同,以此來判斷我們到底該不該相信AI會有意識。而且看你的表達(dá),每當(dāng)有人說“人工意識”或者“AI已經(jīng)有意識”的時(shí)候,你好像都會特別不爽。為啥這么反感呢?

      揚(yáng):我先給一個(gè)簡短的回答。很多人,甚至很多非常聰明的人,都會說:我們現(xiàn)在知道得還遠(yuǎn)遠(yuǎn)不夠。比較中間的立場會認(rèn)為,它們也許有意識,也許沒有,我們在這個(gè)問題上應(yīng)該保留一定的開放性。但如果你是一個(gè)神經(jīng)科學(xué)家,那么這些系統(tǒng)具有意識的先驗(yàn)概率,基本上就是零。什么都沒有,就是零。每當(dāng)我聽到那樣的說法時(shí),就會感到一種很強(qiáng)的沮喪。

      保羅:其實(shí)我也同意你的直覺。但當(dāng)你真正開始深挖那些細(xì)節(jié)的時(shí)候,懷疑的種子就種下了。甚至在你自己的論文里,你也會寫:“當(dāng)然,它現(xiàn)在顯然沒有意識;但也許未來有一天,如果我們加上這個(gè)、實(shí)現(xiàn)那個(gè),情況可能就不一樣了。” 那AI圈的人就會說:“好啊,那我們就把這些功能都寫進(jìn)代碼里,砰!它就有意識了。”

      可這條路的盡頭到底在哪?這簡直是個(gè)無限套娃。所以我也不知道到底劃在哪條線上,我們才能心滿意足地說:“啊,它有意識了。” 我和你一樣,直覺上覺得先驗(yàn)概率是零,但我又覺得這樣顯得我像個(gè)糟糕的科學(xué)家,因?yàn)檫@終究是我的偏見和先驗(yàn)立場。

      揚(yáng):它當(dāng)然也不是真正意義上的零。但我總是說,既然其他所有人都在往錯(cuò)誤的方向夸大——覺得“哎呀這東西可能有意識”,那我就干脆往另一個(gè)極端去拉扯一下。順著你的話說,我們在論文里也提過,這里面有所謂的“容易問題”(easy problems)。比如,我們認(rèn)為大腦中某種特定的架構(gòu)是產(chǎn)生意識所必需的,像丘腦啊、樹突啊。當(dāng)我們思考這些問題時(shí),腦子里確實(shí)會冒出一個(gè)明確的答案:這些其實(shí)都是“容易問題”,因?yàn)槟阃耆梢栽诖a里把這些結(jié)構(gòu)實(shí)現(xiàn)出來,然后指著它說:“看,有意識了!”

      所以從2022年開始,我一直在追問:有沒有更好的回答?有沒有一個(gè)更復(fù)雜、也更站得住腳的回答?我想,到現(xiàn)在為止,我們至少已經(jīng)有兩篇文章,把這個(gè)想法說得更清楚了一些。一篇是2023年發(fā)表在Trends in Neurosciences上的論文,另一篇是2025年底剛發(fā)表在Neuroscience and Biobehavioral Reviews上的文章。最簡短地說,我們在這些文章里想表達(dá)的是:意識可以是一種計(jì)算,但那是一種極其復(fù)雜的計(jì)算,而且只發(fā)生在生物組織之中。它和大語言模型里正在發(fā)生的一切,相距實(shí)在太遠(yuǎn)了。所以,大語言模型具有意識的先驗(yàn)概率,仍然接近于零。

      Aru, Jaan, Matthew E. Larkum, and James M. Shine. "The feasibility of artificial consciousness through the lens of neuroscience." Trends in neurosciences 46.12 (2023): 1008-1017.

      Milinkovic, Borjan, and Jaan Aru. "On biological and artificial consciousness: A case for biological computationalism." Neuroscience & Biobehavioral Reviews (2025): 106524.

      保羅:你剛提到的那篇25年底的長文,真的深入到了許多非常細(xì)的層面,比如計(jì)算機(jī)究竟是怎樣運(yùn)作的、軟件和硬件是如何區(qū)分的、存儲又是怎樣被單獨(dú)劃分出來的,等等。那篇文章其實(shí)是在很具體地說明,為什么生物系統(tǒng)中那種跨尺度整合的計(jì)算,更應(yīng)該被認(rèn)真看待。而這也帶來了更高程度的復(fù)雜性。

      如果我換一種說法來概括你剛才的意思,那就是:生物系統(tǒng)中的復(fù)雜性比現(xiàn)在的AI高出太多太多了,兩者根本不在一個(gè)量級,所以“AI有沒有意識”這個(gè)問題一開始就不成立。核心就在于“復(fù)雜性”嗎?還是我漏掉了什么?


      我們研究放電,

      可能只是因?yàn)樗钤缒軌虮粶y量

      揚(yáng):“復(fù)雜性”這個(gè)詞,聽上去其實(shí)有點(diǎn)把問題說輕了。但我想,這至少已經(jīng)是重要的第一步。因?yàn)樵谝庾R研究領(lǐng)域里,確實(shí)有很多非常聰明的人,來自認(rèn)知科學(xué)、認(rèn)知神經(jīng)科學(xué)和心理學(xué),可他們對大腦的理解,往往還停留在一個(gè)相當(dāng)基礎(chǔ)的層面。在他們眼里,大腦好像沒啥特別的,無非就是神經(jīng)元和突觸嘛。但你作為神經(jīng)科學(xué)家肯定知道,這只是對大腦極其粗糙的抽象。事實(shí)上,我們研究得越深,就越發(fā)現(xiàn)那些底層的死磕細(xì)節(jié)至關(guān)重要。

      所以第一步就是先承認(rèn):沒錯(cuò),如果你只在“網(wǎng)絡(luò)層面”做抽象,大腦看起來確實(shí)和AI系統(tǒng)挺像的。如果意識僅僅是由網(wǎng)絡(luò)層面決定的,那AI也許有戲。但大腦的復(fù)雜程度遠(yuǎn)超于此。你想想,在人工神經(jīng)網(wǎng)絡(luò)里,一個(gè)“單元”(unit)算什么?不過就是一行代碼,極其簡單的一段代碼。但如果我打開你的頭蓋骨,從你腦子里挑出幾個(gè)神經(jīng)元放在培養(yǎng)皿里,它們可是活生生的,不僅能存活,還在持續(xù)運(yùn)作。如果你往細(xì)胞內(nèi)部看,那里每秒鐘都在發(fā)生著數(shù)以十億計(jì)的生化反應(yīng)。

      也就是說,僅僅在單個(gè)單元這一層面,大腦就存在著人工神經(jīng)網(wǎng)絡(luò)根本無法捕捉的巨大復(fù)雜性。所以有些人說“人工神經(jīng)網(wǎng)絡(luò)已經(jīng)快逼近人腦或鼠腦的復(fù)雜性了”,這簡直太天真了,只能說明他們根本不懂大腦。這說的還只是“復(fù)雜性”這一面。而我們在那兩篇論文里提出、并且在我和Borjan Milinkovic那篇文章里講得更充分的一點(diǎn)是:問題不僅僅在于復(fù)雜,更在于大腦里存在著多個(gè)彼此很不相同的加工尺度。網(wǎng)絡(luò)層面,只不過是其中的一個(gè)切面。

      大腦真正迷人的地方在于,一個(gè)極其微小的事件,比如某個(gè)分子層面的變化,可能一路跨越不同尺度,進(jìn)入網(wǎng)絡(luò)層面,甚至影響行為;而行為反過來又會改變分子層面的狀態(tài)。真正讓我感興趣的復(fù)雜性,恰恰就發(fā)生在這些不同尺度彼此交匯、相互作用的地方。

      我在那兩篇文章里一直想強(qiáng)調(diào)的是:作為科學(xué)家,我們其實(shí)并不理解那些跨越不同尺度發(fā)生的計(jì)算,也并不真正理解這些尺度之間的相互作用。如果我們能把這些弄明白,也許就會離理解意識更近一步。真正的復(fù)雜性就在這里。它不是把同一種東西不斷堆上去,越來越多、越來越多。在AI領(lǐng)域,人們常說的是“把規(guī)模做大”。但問題不在于規(guī)模變大,而在于這種復(fù)雜性本身。

      保羅:也就是說,他們其實(shí)只是在同一個(gè)尺度上不斷把系統(tǒng)做大,對吧?

      揚(yáng):如果你放大的只是網(wǎng)絡(luò)層面,那確實(shí)是這樣。但問題就在于,大腦并不只有網(wǎng)絡(luò)這一層。當(dāng)然,你可以討論網(wǎng)絡(luò)層面到底有多重要;但就我對大腦的研究和思考來說,我們其實(shí)越來越清楚地看到:研究得越深入,就越不得不去理解細(xì)胞層面的效應(yīng)。

      拿記憶,或者工作記憶來說,就是一個(gè)很好的例子。很長一段時(shí)間里,人們都以為,它依賴的是神經(jīng)元持續(xù)不斷的放電活動。但在過去十年、十五年里,我們開始意識到,記憶其實(shí)也可以是“靜默”的,根本不需要放電。這還只是個(gè)例子。如果你把目光放到更廣闊的記憶研究領(lǐng)域,情況也是一樣的。以前大家總覺得,哦,記憶無非就是某種放電模式嘛。可現(xiàn)在,當(dāng)我們聊到“記憶痕跡”(engram)時(shí),關(guān)注的早就不僅是放電模式了,更核心的問題是:底層到底發(fā)生了哪些分子級別的改變?我覺得,意識研究最終也會走到這一步。

      保羅:對我來說,跨尺度的理解幾乎是這個(gè)領(lǐng)域最理想的目標(biāo)之一。很多只在某一個(gè)尺度上工作的人會說:“哎呀,反正我們連這一層都還沒徹底搞明白呢。”所以最安全的做法就是茍?jiān)谧约旱氖孢m區(qū)里,說:“我們得先把這一層研究透了,再去聊什么跨尺度結(jié)合、整合或者互動吧。”這種挫敗感,很大程度上也是因?yàn)槲覀兪掷锔緵]有現(xiàn)成的概念工具或數(shù)學(xué)工具。

      真正能用來研究跨尺度問題的工具,其實(shí)并不多。這是一個(gè)極其困難的問題。我和你一樣,都覺得真正關(guān)鍵的部分恰恰就在這里,因?yàn)樗械膹?fù)雜性正是在這里發(fā)生的。而這也正是最難的一點(diǎn)。說到底,如果我們連單一尺度上的問題都還沒理解清楚,又怎么可能去理解不同尺度之間的相互作用呢?

      揚(yáng):但這恰恰就是我心目中的科學(xué)啊!你不能總挑軟柿子捏,你得去啃那些最硬的骨頭。當(dāng)然啦,我完全理解那些有一整套穩(wěn)妥研究計(jì)劃的人。他們順風(fēng)順?biāo)刂粭l路子,一篇接一篇地在《自然-神經(jīng)科學(xué)》上發(fā)頂刊。我尊重這種做法。但就像我一開始說的,我自己的想法不太一樣。人這一輩子其實(shí)很短的——不是咒你啊,我是說所有人。你真正能干成點(diǎn)事的機(jī)會,其實(shí)就那么幾次。

      所以從我科研生涯剛起步那會兒,我就在想,我要不斷調(diào)整方向,去做那些我覺得足夠復(fù)雜、但又確實(shí)能推進(jìn)一點(diǎn)點(diǎn)的事情。我也真心希望,能有更多科學(xué)家像我們這樣看待這個(gè)問題:沒錯(cuò),它確實(shí)很難;沒錯(cuò),我們?nèi)惫ぞ撸粵]錯(cuò),我們還需要全新的數(shù)學(xué)方法。但也正因?yàn)槿绱耍抛屓藷嵫序v啊!這也正是為什么我們現(xiàn)在、立刻、馬上就得去做這件事。


      真正的復(fù)雜性發(fā)生在尺度之間

      保羅:你剛才那段話里,有很多點(diǎn)都可以繼續(xù)往下說。咱們先順著“尺度”這個(gè)話題往下走一步。按你剛才的說法,好,沒問題。我們可以去研究細(xì)胞層面是怎么和神經(jīng)元群體層面互動的,也可以看看群體活動是怎么反過來限制細(xì)胞活動的。但這說到底,也只是在兩個(gè)尺度之間打轉(zhuǎn)。

      很多人會覺得,一旦你跨到“心理”這個(gè)層面,姑且也把它叫作一個(gè)層面、一個(gè)尺度吧,至少在心理學(xué)語言里常常會這么說,由于涌現(xiàn)之類的問題,那里似乎就會出現(xiàn)一道邊界,而你永遠(yuǎn)無法真正跨越心理與物理之間的鴻溝。

      你剛才聊的那些,本質(zhì)上全都是物理過程(電場、動作電位、細(xì)胞信號傳導(dǎo)等)。在你看來,從物理到心理的這道分水嶺,也能被平滑地整合進(jìn)你的“跨尺度”框架里嗎?還是說,它確實(shí)應(yīng)該像很多人主張的那樣,屬于一個(gè)截然不同的層級?

      揚(yáng):先澄清一下哈,估計(jì)我的一些合作者已經(jīng)在心里罵我了,怪我怎么沒早點(diǎn)把這話說清楚。從某種意義上講,我們甚至?xí)叩酶鼧O端一點(diǎn),直接說:大腦里根本就不存在什么涇渭分明的“層次”。

      把大腦劃分成一個(gè)個(gè)層次,純粹是我們?yōu)榱烁憷碚撚矞惓鰜淼摹?/strong>事實(shí)上,如果你自己就是一個(gè)神經(jīng)元,你接收到的信號本質(zhì)上就是各種分子。你哪知道這玩意兒到底是個(gè)“網(wǎng)絡(luò)級”的信號,還是神經(jīng)遞質(zhì),還是別的什么鬼東西?所以某種程度上,大腦里這些所謂的層次,其實(shí)比大家想象的要糾纏得深得多。

      當(dāng)然了,如果是為了具體操作,比如你說“我們在這個(gè)尺度上做個(gè)測量”,那用“尺度”來思考是完全OK的。但從大腦真實(shí)的運(yùn)作來看,一切都是高度流動的,有時(shí)候你甚至?xí)X得,你根本沒辦法把這些尺度硬生生切開。

      保羅:對,但我們總得切開它們,不然都沒法給咱們研究的東西起名字了。在你和博爾揚(yáng)最近的那篇論文里,我記得你們常用的一種表述是:“不存在某個(gè)享有特權(quán)的尺度,仿佛計(jì)算只發(fā)生在那兒。”但你剛才說的好像又往前邁了一步,你的意思是“根本就沒有層次”。因?yàn)楦鱾€(gè)尺度早就融為一體了,所以我們必須把它看作一個(gè)流動的、跨尺度的整體過程。這么總結(jié)對嗎?

      揚(yáng):對。再說一遍,大家做研究的時(shí)候說“我研究的是這個(gè)尺度”,這沒毛病。但如果回到真實(shí)發(fā)生的神經(jīng)加工過程,只要你仔細(xì)想想一個(gè)神經(jīng)元到底在干嘛、在感受什么,你就會發(fā)現(xiàn),這些尺度真的沒那么涇渭分明。真實(shí)情況其實(shí)要有意思得多。你面對的既有分子層面的東西,也有來自其他神經(jīng)元的電場影響。

      理論上講,電場似乎應(yīng)該比飛過來的分子高出一個(gè)層級吧?但對那個(gè)具體的神經(jīng)元來說,真的有這種高低之分嗎?總之,真實(shí)情況絕對要好玩得多。我覺得這里的核心洞察是:如果你能意識到,“尺度”也許只是我們?yōu)榱朔奖阊芯扛愠鰜淼某橄蟾拍睿谡鎸?shí)的大腦里根本沒那么界限分明,那你的思考視野一下子就被打開了。

      保羅:在我現(xiàn)在的研究里,我經(jīng)常會有種……怎么說呢,挺別扭的感覺。其實(shí)我很喜歡我做的事,也覺得挺好玩的。我每天都在分析神經(jīng)元群體的放電計(jì)數(shù)。但很多時(shí)候我會突然覺得,天吶,我是不是也像那個(gè)笑話里一樣,只是在“路燈底下找鑰匙”?

      我們所有人都在干這事兒:盯著動作電位,數(shù)它們放了多少次電,分析它們之間的統(tǒng)計(jì)學(xué)規(guī)律。這真的是一個(gè)極其狹窄、極其局部的視角,可整個(gè)神經(jīng)科學(xué)界就這么在這個(gè)假設(shè)上狂奔了許多許多年。“哦,放電了!這就是我們該看的東西。”我完全同意你說的,真正重要的是去觀察跨尺度的互動。神經(jīng)元放電也許根本不是核心,它只是一個(gè)很小的切面,但我們卻把所有的資源都砸在了這里。我這可能更像是在發(fā)牢騷,不太像是在提問了。

      揚(yáng):不,你說得很對。如果有人對這種現(xiàn)狀感到奇怪,不妨想想:我們把“放電”作為研究核心,到底有多大程度僅僅是因?yàn)闅v史遺留問題?僅僅是因?yàn)榍拜厒兦『冒l(fā)明了測量放電的方法,于是它就成了一把現(xiàn)成的科學(xué)錘子。假設(shè)在一個(gè)平行宇宙里,人類最先掌握的不是測量放電,而是能干凈利落地測量鈣離子活動。那我們今天關(guān)于大腦如何運(yùn)作的整套理論,絕對會是另一副模樣。

      保羅:這就好比你去研究一片熱帶雨林,剛好有個(gè)人站在林子里拍手,而你唯一能聽見的就是這拍手聲。于是你一拍大腿:“啊!我只要搞懂了這個(gè)拍手聲,就能理解整片雨林了!”這聽起來多少有點(diǎn)荒謬。

      揚(yáng):太對了!完全就是這樣。這個(gè)比喻好。現(xiàn)實(shí)中發(fā)生的事情差不多就是如此。再說一遍,研究放電本身沒問題,但也許我們不該把全部精力都押在上面。我們至少得承認(rèn):我們一直在研究放電,僅僅是因?yàn)闅v史慣性,這并不意味著放電就是智能或意識的核心“硬通貨”。

      保羅:我剛才之所以會岔到那個(gè)話題上,其實(shí)是因?yàn)檫@里有一個(gè)區(qū)別:一種說法是,并不存在某個(gè)享有特殊地位的尺度;而按你的說法,更進(jìn)一步,似乎是根本不存在那種清晰劃開的層次。或者換句話說,正因?yàn)椴煌叨戎g存在復(fù)雜的相互作用,它們之間本來就沒有明確邊界。我也不知道還能怎么更準(zhǔn)確地表述這個(gè)意思。再往前一點(diǎn),我其實(shí)還問過你另一個(gè)問題,像細(xì)胞、神經(jīng)元群體、亞細(xì)胞過程這些實(shí)現(xiàn)層面的細(xì)節(jié),和我們所說的心理現(xiàn)象、心智現(xiàn)象之間,到底是什么關(guān)系?在你看來,它們也都屬于同一條連續(xù)譜上的不同部分嗎?

      如果我們的心理世界是從這種跨尺度加工中涌現(xiàn)出來的,或者至少與之緊密相關(guān),不管你愿意怎么表述,那你覺得這里真的有一道清楚的分界嗎?還是說,它其實(shí)也只是這一連續(xù)過程中的一部分?

      揚(yáng):這是個(gè)非常好的問題。我有一位很聰明的同事也吐槽過我:“你看,你當(dāng)然可以說萬物都是糾纏在一起的,但‘意識’本身,難道不是和大腦里的其他過程分得清清楚楚嗎?”我得承認(rèn),這個(gè)反問一針見血。至少就目前的表象而言,從我們的直觀感受來看,我確實(shí)沒法硬說意識和其他物理過程是完美交織在一起的。對于這個(gè)難題,我現(xiàn)在還沒有一個(gè)拿得出手的答案。

      保羅:那如果咱們現(xiàn)在已經(jīng)灌了三杯啤酒,我非要把你逼到墻角問一句:你覺得是大腦“產(chǎn)生”了意識,還是說意識本身就是某種更基礎(chǔ)的存在?你會怎么回答?當(dāng)然,我也知道,這并不是僅有的兩種選項(xiàng)。

      揚(yáng):這又繞回我一開始說的了,我一直挺引以為傲的一點(diǎn)就是,我心態(tài)很開放,隨時(shí)愿意改變想法。在很長一段時(shí)間里,尤其是我早年的時(shí)候,我會毫不猶豫地說:是大腦產(chǎn)生了意識。

      保羅:我們剛學(xué)神經(jīng)科學(xué)的時(shí)候,聽到的基本就是這一套。

      揚(yáng):對。不過現(xiàn)在,我會承認(rèn)像托諾尼(Tononi)、科赫(Koch)這些人說的確實(shí)有道理——意識也許真的是某類過程的一種基本屬性。不過,他們后面延伸出來的那些論證,我可能就不敢茍同了。如果意識真的是一種基本屬性,那我更傾向于認(rèn)為,它是一個(gè)“不同尺度相互作用的系統(tǒng)”所具備的基本屬性。

      保羅:還有一點(diǎn)我想再回過頭來說。你剛才提到,人工系統(tǒng)本質(zhì)上只是用數(shù)字方式實(shí)現(xiàn)了“網(wǎng)絡(luò)層”。我舉雙手贊同。但AI最讓人細(xì)思極恐的一點(diǎn)是:在剝離了所有生物學(xué)細(xì)節(jié)——不僅是單細(xì)胞層面的細(xì)節(jié),還包括群體動態(tài)、跨尺度、跨層級的復(fù)雜互動之后,它們在執(zhí)行某些功能時(shí),居然還能表現(xiàn)得如此“智能”。

      我不知道你怎么看,你覺得“智能”和“意識”是完全正交(互不相干)的兩個(gè)維度,還是說它們之間有某種聯(lián)系?我目前的直覺是,它們是完全正交的。不管怎么說,AI在缺乏這么多生物學(xué)實(shí)現(xiàn)細(xì)節(jié)的情況下,居然還能完成這么多功能,這本身就夠嚇人的了。就這一點(diǎn)而言,你是怎么理解智能和意識之間關(guān)系的?

      揚(yáng):首先,這些系統(tǒng)居然能解決這么多任務(wù),確實(shí)已經(jīng)非常驚人了。但有一點(diǎn)我們必須時(shí)刻牢記——這也是我經(jīng)常拿來敲打我學(xué)生的——這些AI系統(tǒng)消耗的能量,可能比咱們這顆三四十歲的人類大腦高出幾百萬倍都不止啊。考慮到這一點(diǎn),是的,目前我非常支持阿尼爾·塞思(Anil Seth)一直在傳達(dá)的觀點(diǎn):就像你說的,它們可以是正交的。我們不確定它們是不是絕對意義上的100%正交,也許多少有點(diǎn)聯(lián)系,但意識和智能,絕對不是同一回事。如果有人覺得,“哦,這些系統(tǒng)越來越聰明了,所以總有一天它們會自動涌現(xiàn)出意識”,那問題就大了。不,它們不會的。

      保羅:這實(shí)在太天真了。

      揚(yáng):對。我剛才也稍微提到過,現(xiàn)在的問題是,這幫人里有不少拿著天價(jià)高薪,被大家奉為大神。可他們壓根兒就沒花時(shí)間去搞明白大腦到底有多復(fù)雜。正因?yàn)椴欢麄兩踔炼家庾R不到自己的想法有多天真。這真的很可悲。我經(jīng)常覺得,在現(xiàn)在這種大環(huán)境下,神經(jīng)科學(xué)的聲音根本沒人聽。大家一聊起意識,全憑自己的腦洞瞎猜。這也是研究意識最讓人心累的地方。所以我有時(shí)候會刻意跟這個(gè)圈子保持點(diǎn)距離,因?yàn)槊總€(gè)人都在往里塞私貨,而我現(xiàn)在只想安安靜靜做點(diǎn)實(shí)打?qū)嵉目茖W(xué)。

      保羅:這點(diǎn)挺有意思的。我剛開始做這檔播客的時(shí)候,見誰都問意識問題。結(jié)果大概有75% 的嘉賓會說:“哎呀,我手頭的活兒都干不完呢。意識這玩意兒水太深了,我現(xiàn)在研究的課題既有趣又重要,所以對意識我真沒啥可說的。”說實(shí)話,我挺尊重這種態(tài)度的。神經(jīng)科學(xué)家老是抱怨計(jì)算機(jī)圈和AI圈不聽我們的。但我的感覺是,人家現(xiàn)在可能壓根兒就不覺得需要我們。

      揚(yáng):對,他們并不需要。不過最近又刮起了一陣新風(fēng)氣,大家開始大談特談“AI福利”、“AI意識”,搞得像個(gè)重大議題似的。但我有時(shí)候覺得,這種討論其實(shí)并不真誠。它本質(zhì)上就是個(gè)蹭熱點(diǎn)的話題,你聊這個(gè)就能被大廠請去演講,就能拿高薪。但從科學(xué)嚴(yán)謹(jǐn)性的角度來說,這么言之鑿鑿地談?wù)撨@些,其實(shí)是不負(fù)責(zé)任的。

      當(dāng)然,反過來說,如果一個(gè)人并沒有神經(jīng)科學(xué)背景,也不了解這些知識,那他也許并不是在故意胡說。對他來說,那種判斷也許仍然是“真誠”的,因?yàn)樗⒉皇菓{空捏造,而是在他自己的那套知識框架里,這些系統(tǒng)看起來的確像是可能有意識的。但這樣一來,責(zé)任就落到了我們這些神經(jīng)科學(xué)家身上。我們得努力把一個(gè)更清楚的信息傳達(dá)出去,那就是,大腦本身要復(fù)雜得多,也有趣得多。

      保羅:但與此同時(shí),神經(jīng)科學(xué)家固然有很多可以貢獻(xiàn)的東西,也同樣應(yīng)該保持謙遜,因?yàn)樾闹侵两褚廊皇莻€(gè)謎。

      揚(yáng):這正是關(guān)鍵所在。每個(gè)人都該保持謙遜。如果我聽起來不像一個(gè)謙遜的人,那我先說聲抱歉。但就這個(gè)問題而言,我已經(jīng)研究了22年,我內(nèi)心是非常敬畏的。

      保羅:是的。只要有人說“我已經(jīng)明確知道這個(gè)問題的答案了”,我就會立刻警覺起來。

      揚(yáng):對。其實(shí)大腦中的很多問題都是這樣。我們不知道的東西,實(shí)在太多了。我也總是這樣跟年輕科學(xué)家說:先保持謙遜。努力去弄明白一些事情,但不要輕易相信那些說自己“真的知道答案”的人,因?yàn)樵诖竽X這個(gè)領(lǐng)域里,太多東西都還是謎。也不是所有東西都如此,至少那些真正有意思的問題,大多仍然如此。而這恰恰是件好事。對年輕科學(xué)家來說如此,對我和你來說,其實(shí)也一樣。

      保羅:你一直很著迷于跨尺度地研究大腦和心智。你之前也提過,你的熱情所在就是把那些極其底層的細(xì)節(jié)——比如亞細(xì)胞過程、樹突等等——和高階的認(rèn)知能力、認(rèn)知功能連接起來。咱們剛才也聊到,這簡直是這個(gè)領(lǐng)域的終極夢想,雖然我們現(xiàn)在連趁手的工具都沒有,但也正因如此才刺激。你之前和Matthew Larkum一起研究過樹突整合理論。馬修就是那種極其看重底層死磕細(xì)節(jié)的人。我想問問,在這些研究里,你覺得待在哪個(gè)區(qū)域最讓你感到如魚得水、最讓你興奮?不過這問題可能有點(diǎn)蠢,因?yàn)槟阏嬲d奮的恰恰是“搭橋”這個(gè)過程。你接著說吧

      揚(yáng):我想,這其實(shí)已經(jīng)是答案了。我的工作地帶,恰好就在認(rèn)知科學(xué)、神經(jīng)科學(xué)和人工智能的交匯處。在這三個(gè)領(lǐng)域里,每一個(gè)都有大把比我聰明得多的人。但他們中的絕大多數(shù),壓根兒就不會去想怎么把這些尺度連起來。從來不想,也不關(guān)心。但我就是那種特別喜歡“搭橋”的人。我喜歡把這些看似不搭界的東西拼到一起。有時(shí)候同行會吐槽我:“這太扯了,你想得也太遠(yuǎn)了吧,咱們不該搞這些虛的。”

      但到目前為止,我也很幸運(yùn),遇到過一些編輯和審稿人,他們會說:“這想法是有點(diǎn)瘋狂,但如果它能推動科學(xué)往前走,那這種‘搭橋’的嘗試就是值得的。”我覺得,我也希望大家能感受到,對我來說,這才是神經(jīng)科學(xué)和理解大腦的終極目標(biāo)——去打通這些壁壘。也許現(xiàn)在做這事兒還有點(diǎn)早,但總得有人邁出第一步吧。至少對我來說,這是最好玩的事。

      保羅:比如在AI領(lǐng)域,現(xiàn)在幾乎已經(jīng)形成了一整套“指出AI做不到什么”的固定套路。無論你身處哪個(gè)研究領(lǐng)域,要挑出問題其實(shí)都不難。說到底,拆解和批評,總是比真正建設(shè)要容易。但到了某個(gè)時(shí)候,我們還是得真正動手去解決這些問題。對你來說,指出AI缺了什么、解釋為什么整合這些東西很重要,這是一碼事;但真正動手去解決問題,又是另一碼事。你是怎么在這兩者之間找平衡的?

      揚(yáng):某種意義上,我覺得自己那種“提出個(gè)好點(diǎn)子,然后就沒人管了”的概念性論文寫得有點(diǎn)太多了。大家都在忙自己的事,根本沒人去跟進(jìn)。所以這次能和Borjan Milinkovic合作,我真的特別開心。Borjan是個(gè)非常硬核的人,他不僅想搞概念,還想把這套東西在數(shù)學(xué)上形式化,甚至試著把它跑出來。我太喜歡這種合作了,因?yàn)槔鲜峭A粼凇拔矣袀€(gè)點(diǎn)子”這一步,真的會讓我抓狂。

      因?yàn)閷ξ襾碚f,這里面有一個(gè)核心訴求:在意識科學(xué)領(lǐng)域,我們需要一種“像整合信息理論(IIT),但又不是IIT”的新理論。我們需要那種在數(shù)學(xué)基礎(chǔ)和形式化上能和IIT抗衡,但切入視角完全不同的理論。現(xiàn)在的情況是,只要你對意識和數(shù)學(xué)感興趣,你基本上只能去搞IIT,因?yàn)槟鞘悄壳拔ㄒ荒茏屇阃茖?dǎo)數(shù)學(xué)公式的地方。那是鎮(zhèn)上唯一的一家賭場。這對科學(xué)來說是個(gè)大問題。

      我們需要發(fā)展出另一種理論,或者很多別的理論,也能像整合信息理論那樣,讓人真正去研究這些數(shù)學(xué)性質(zhì)。因?yàn)槲曳浅O嘈牛茖W(xué)需要的是思想上的多樣性。到最后,整合信息理論也許真的是對的,但如果我們手里只有它這一套,我們反而到不了真正的答案。我們需要別的理論。這件事極其困難,因?yàn)檎闲畔⒗碚撘呀?jīng)領(lǐng)先起跑了二十多年,甚至可能還不止。但除此之外,沒有別的路可走。

      保羅:我同意。我剛才其實(shí)應(yīng)該修正一下自己的說法,我把事情簡單粗暴地分成了“指出問題”和“解決問題”兩半。但實(shí)際上,真正讓我興奮、讓我最開心的,是去界定“問題空間”(problem space)到底是什么。很少有人愿意在這上面花時(shí)間,而你恰恰就在做這個(gè)。你不是在單純地挑毛病,你是在追問:“到底什么才是正確的問題?”愿意認(rèn)真思考這一點(diǎn)的人,其實(shí)并不多。

      揚(yáng):對,首先要問的就是:這個(gè)問題到底還可以從哪些角度進(jìn)入,或者像你說的那樣,它的問題空間究竟是什么。因?yàn)檫@種情況其實(shí)在我們的生活中經(jīng)常發(fā)生。這也和“頓悟”有關(guān)。很多時(shí)候,我們會被困在一種解法里,甚至根本看不到其實(shí)還有別的可能。這時(shí)候,我們就需要另一個(gè)科學(xué)家,或者另一個(gè)人,來提醒一句:其實(shí)你也可以換個(gè)角度看。而這句話,也許就會一下子打開第三種可能、第四種可能。至少在我看來,科學(xué)本來就應(yīng)該這樣運(yùn)作。頓悟是這樣發(fā)生的,我們解決問題的過程也是這樣。


      載體不是裝算法的盒子,

      它參與構(gòu)成算法

      保羅:順著這個(gè)思路,界定問題空間本身就是最大的挑戰(zhàn)之一。比如,我們很多神經(jīng)科學(xué)家都會默認(rèn)接受一個(gè)前提:大腦是在做計(jì)算的,它是在執(zhí)行某種算法的。如果我隨便拉個(gè)同事說:“嘿,我其實(shí)不覺得大腦在執(zhí)行算法。”他們估計(jì)理都不想理我,因?yàn)榇蠹以缇捅贿@套框架焊死了。大腦做計(jì)算、神經(jīng)元群體通過算法實(shí)現(xiàn)計(jì)算——比如馬爾(Marr)的那套層次分析法——這種假設(shè)已經(jīng)根深蒂固到讓人根本無法跳出盒子思考了。

      揚(yáng):這確實(shí)是個(gè)問題。當(dāng)我沿著這條思路去想意識,去想“意識是不是一種計(jì)算”時(shí),我逐漸意識到,有一點(diǎn)始終必須分清,那就是:計(jì)算本身也有很多不同類型。可大多數(shù)人在談這些問題時(shí),想法往往還是相當(dāng)樸素的。他們會覺得,數(shù)字計(jì)算和神經(jīng)計(jì)算本質(zhì)上就是一回事。尤其一旦把討論收縮到放電之類的問題上,這種誤解就更容易出現(xiàn),仿佛兩者完全等同。但你也可以換一種方式來想,這也是我們一直在強(qiáng)調(diào)的。生物組織當(dāng)然也在進(jìn)行某種計(jì)算,只不過這種計(jì)算和數(shù)字計(jì)算非常不同,因?yàn)槟銦o法把它干凈利落地從它的物質(zhì)載體中分離出來。

      因?yàn)橹辽僭谙喈?dāng)大程度上,載體本身就是算法的一部分。如果載體本身在很大程度上就構(gòu)成了算法,那你就不可能把它完整拆出來,再干凈地移植到機(jī)器上,或者做成別的什么東西。所以我覺得,只要我們談到“計(jì)算”,一個(gè)特別有用的區(qū)分就是,先問清楚你說的到底是那種樸素意義上的計(jì)算,還是這種發(fā)生在生物組織中的計(jì)算。我想,現(xiàn)在也越來越多的人開始這樣想了。

      保羅:你能不能再多解釋一點(diǎn)“載體就是算法”這句話?我其實(shí)是認(rèn)同這個(gè)說法的,只是我自己也不太確定,到底該怎么把它說清楚。

      揚(yáng):說實(shí)話,我也不太知道該怎么把這件事說清楚。不過,也許可以借一個(gè)我們都很熟悉的例子來想,比如基因和DNA復(fù)制。當(dāng)然,你完全可以把它寫成一種字母到字母的替換規(guī)則。但這并不意味著,你光靠那套字母規(guī)則就能造出一個(gè)細(xì)胞。因?yàn)樵谏锝M織里,在真實(shí)的細(xì)胞中,這種堿基配對和復(fù)制的“算法”本身,也深深依賴于這些成分是怎樣被組織起來的,整個(gè)系統(tǒng)又是怎樣被構(gòu)造出來的。

      我可能解釋得還不夠好,但關(guān)鍵就在于:算法的一部分,其實(shí)已經(jīng)包含在載體之中了。而一旦把這個(gè)思路放到大腦里,去想神經(jīng)計(jì)算,我們大概也能很容易找到類似的例子。

      保羅:我通常會把算法想成某種柏拉圖式的理想形式,或者說,一種數(shù)學(xué)結(jié)構(gòu)。總之,它似乎是和具體載體分開的。但按你剛才的說法,一旦你真的要把它實(shí)現(xiàn)到某個(gè)載體里,這個(gè)載體本身幾乎就必然會成為處理過程的一部分。如果還要把它叫作“算法”的話,那載體本身也得算進(jìn)這個(gè)算法里。

      揚(yáng):你可以這樣理解,其實(shí)也有別的學(xué)者表達(dá)過類似的想法。比如說,如果你面對的是一個(gè)大腦,那么它本身的構(gòu)造、其中分子的組織方式、它如何放電、它如何產(chǎn)生電場,這一切都會限制你究竟可能擁有哪些類型的算法。說到底,它最終會和某些算法變得無法分開。因?yàn)檫@些算法已經(jīng)被大腦這種系統(tǒng)所能做到的事情深深塑造了。這個(gè)系統(tǒng)本來能調(diào)用的資源、機(jī)制和約束,就是有限的。

      這也是為什么我一直覺得,你沒法把算法和它的實(shí)現(xiàn)方式干凈地剝離開來。當(dāng)然,馬爾當(dāng)年提出那套框架時(shí),確實(shí)非常了不起。但到了某個(gè)時(shí)候,我們這些做科學(xué)的人也得繼續(xù)往前走,并承認(rèn):這是一套非常精彩的想法,在很多場景里都成立,但在另一些場景里,它并不成立。我們不該總是想當(dāng)然地認(rèn)為,算法可以和大腦真正正在做的事情清楚地分開。

      保羅:你剛才提到了一個(gè)對我來說很關(guān)鍵的詞,也是我最近一直在反復(fù)琢磨的詞,那就是“約束”。它和生物過程的組織方式密切相關(guān),而我現(xiàn)在越來越意識到,這個(gè)概念非常重要。比如拿發(fā)動機(jī)來說,如果你把活塞工作所依賴的那些邊界拿掉,把原本用來壓縮空氣、推動運(yùn)轉(zhuǎn)的結(jié)構(gòu)去掉,壓力就建立不起來,系統(tǒng)也就無法做功。抱歉,我剛才對活塞原理的解釋可能很不高明,但意思是,約束在這里是絕對必要的。我剛才舉的是一個(gè)機(jī)械系統(tǒng)的比喻,但類似的事情其實(shí)在各個(gè)尺度、每時(shí)每刻都在發(fā)生,不管是在細(xì)胞里,在大腦里,還是在這些潮濕的生物系統(tǒng)中。

      我現(xiàn)在越來越覺得,在這些復(fù)雜而有組織的系統(tǒng)里,真正對系統(tǒng)產(chǎn)生巨大因果作用的,恰恰是各種約束條件,而不是我們通常想象的那種像臺球碰撞一樣的直接因果鏈條。系統(tǒng)里當(dāng)然有某種能量在流動,但真正決定這股能量如何流經(jīng)整個(gè)系統(tǒng)的,主要還是那些約束。我不知道你怎么看這個(gè)問題。我知道你也會引用一些理論生物學(xué)里關(guān)于生物組織的研究。我剛才這番話可能還不太算一個(gè)真正的問題,不過我大概想問的是:你會怎么理解這件事?

      揚(yáng):我覺得你這樣講其實(shí)挺好的。你這么聰明,干嘛非得只負(fù)責(zé)提問呢?說不定咱們該反客為主,現(xiàn)在輪到我來采訪你了。

      保羅:別,這正是我最害怕的事。我經(jīng)常會擔(dān)心,自己一說就說太多,講著講著最后反而忘了自己到底想問什么。然后腦子里就一片空白。

      揚(yáng):我想,你做這檔播客,其實(shí)也是在替自己把很多問題一點(diǎn)點(diǎn)想明白。這不只是提問,也是一個(gè)不斷發(fā)現(xiàn)“啊,原來這又繞回了我一直在想的那個(gè)問題:約束真的非常重要”的過程。的確,我們完全可以這樣理解:實(shí)現(xiàn)方式會如此強(qiáng)烈地約束算法,以至于到最后,兩者幾乎已經(jīng)分不開了。

      保羅:對,我其實(shí)就是在想這個(gè)。我只是想確認(rèn)一下,你是不是也是這么理解的。因?yàn)槟阋惶岬健凹s束”這個(gè)詞,我腦子里立刻冒出來的就是:一旦你把某種“算法”放進(jìn)生物載體里,那里幾乎處處都是約束。也許也正是在這個(gè)意義上,我才開始理解“載體就是算法”這句話。我剛才其實(shí)就是在試著把這幾件事串起來,也就是約束、組織形式,以及“載體就是算法”這個(gè)說法之間的關(guān)系。問題的一部分在于,我們其實(shí)還沒有足夠合適的詞匯和概念框架,來真正把這些事情說清楚。

      揚(yáng):對,不只是詞匯和概念,還包括數(shù)學(xué)工具,甚至一整套方法。也正因?yàn)槿绱耍覀儾鸥鼞?yīng)該去把這些東西發(fā)展出來。當(dāng)然,這很難,連為這種研究申請經(jīng)費(fèi)都很難。但說到底,這恰恰就是科學(xué),而這也正是當(dāng)下最缺的東西,所以我們必須去做。

      保羅:不過,話說回來,一想到“智能和意識都存在于大腦皮層里”,難道你不會覺得心里挺踏實(shí)的嗎?你總覺得這至少是個(gè)可靠的立足點(diǎn)吧?

      揚(yáng):哦,這可就是典型的“皮層沙文主義”了,妥妥的皮層沙文主義。

      保羅:哦,原來這就叫這個(gè)嗎?好吧,我還真沒意識到。

      揚(yáng):這就是皮層沙文主義。這可得說你一句。


      被低估的丘腦,

      可能才是理解意識的關(guān)鍵樞紐

      保羅:所以你的意思是,丘腦其實(shí)在這里起著關(guān)鍵作用,是嗎?在你看來,那些可能對意識很重要、也關(guān)系到我們?nèi)绾卫斫獯竽X產(chǎn)生智能和心智現(xiàn)象的關(guān)鍵因素之一,就是丘腦與皮層之間的環(huán)路,而且還不只是丘腦本身,也包括其他一些皮層下結(jié)構(gòu)。你能不能具體講講,為什么丘腦—皮層環(huán)路這么重要?以及,為什么它們長期以來似乎并沒有得到應(yīng)有的重視?

      揚(yáng):對,某種意義上確實(shí)如此。不過也不能說它們完全被忽視了。比如說,魯?shù)婪颉ぢ约{斯(Rodolfo Llinás)就做過非常出色的工作,而且很早就提出,丘腦—皮層系統(tǒng)可能正是理解意識的關(guān)鍵。

      托諾尼(Tononi)也很早就注意到了這一點(diǎn)。整合信息理論最早期的幾篇論文,討論的就是丘腦—皮層系統(tǒng),以及它為什么會不同于小腦。所以其實(shí),大家并不是完全不知道這件事。而現(xiàn)在,尤其是在馬修·拉庫姆實(shí)驗(yàn)室那些研究的基礎(chǔ)上,我們想把這條思路再往前推進(jìn)一點(diǎn),更具體地解釋,丘腦—皮層環(huán)路到底關(guān)鍵在什么地方。

      馬修大概也在你的節(jié)目里講過,他們實(shí)驗(yàn)室的鈴木基高(Mototaka Suzuki)發(fā)現(xiàn),在這些樹突上,實(shí)際上存在著一種類似“開關(guān)”的機(jī)制,可以讓樹突彼此解耦。而由于第五層那些大型神經(jīng)元同時(shí)是丘腦—皮層環(huán)路和皮層—皮層環(huán)路中的關(guān)鍵組成部分,一旦你在樹突層面實(shí)現(xiàn)這種解耦,實(shí)際上被解耦的就不只是局部,而是整個(gè)丘腦—皮層系統(tǒng)。

      鈴木基高有了這個(gè)開關(guān),想要“開啟”或“關(guān)閉”意識,或者對整個(gè)大腦的加工過程進(jìn)行極其微操的調(diào)控,就變得非常容易了。順著這個(gè)思路想,你就會發(fā)現(xiàn)丘腦的位置特別有意思:它既是整個(gè)環(huán)路的一部分,同時(shí)又是個(gè)“控制臺”。因?yàn)殁從竞婉R修的研究表明,正是來自丘腦的其他信號連接,在控制著這種樹突的整合。我這么解釋,聽起來會不會有點(diǎn)怪?

      保羅:是有點(diǎn)怪,但也很酷。(笑)

      揚(yáng):既然你知道丘腦在調(diào)控這種互動,你就會意識到,哇,丘腦在大腦里的地位真的太特殊了。它接收所有皮層下結(jié)構(gòu)的信息,也接收所有皮層的信息。而且,它還能實(shí)質(zhì)性地改變皮層里正在發(fā)生的事情。這時(shí)候你就會恍然大悟:真正坐在“駕駛座”上的,其實(shí)未必是大腦皮層。某種程度上,丘腦完全有能力掌控皮層里發(fā)生的一切。當(dāng)我們開始意識到這一點(diǎn)時(shí),再看解剖學(xué)結(jié)構(gòu)就覺得理所當(dāng)然了:皮層的每一個(gè)區(qū)域都會直接向丘腦發(fā)送信號,而丘腦也能反過來控制皮層的每一個(gè)區(qū)域。

      于是我們就開始問:為什么我們總要把大腦想成一個(gè)“很深”的系統(tǒng)?換個(gè)角度看,尤其是從丘腦的角度來看,大腦其實(shí)是相當(dāng)“淺”的,因?yàn)樵谇鹉X那里,整個(gè)皮層幾乎就像一整張鋪展開來的薄片,橫跨整個(gè)大腦。也正因?yàn)槿绱耍覀兒髞韺懥四瞧撐摹洞竽X到底有多“深”?》(How Deep Is the Brain?)。不過我當(dāng)時(shí)其實(shí)一直在試圖說服我的合作者,標(biāo)題應(yīng)該改成《你的大腦到底有多“深”?》(How Deep Is Your Brain?),因?yàn)樗脤?yīng)接招合唱團(tuán)(Take That)的一首老歌。

      保羅:等等,是哪首歌?

      揚(yáng):我就不唱了,那首歌是接招合唱團(tuán)(Take That)的《你的愛有多深》(How Deep Is Your Love)。你沒聽過也沒關(guān)系,我其實(shí)也不該暴露我知道這首歌的。估計(jì)聽眾里也沒幾個(gè)人知道,不過它確實(shí)是首經(jīng)典。

      保羅:而且從傳播角度看,這個(gè)標(biāo)題也更好,因?yàn)槿藗円豢吹骄蜁耄叮恰拔业拇竽X”。好,所以你剛才其實(shí)是在說那篇論文,也順帶解釋了一些細(xì)節(jié),說明為什么你們會把它稱作“淺腦假說”。我知道,事后回頭看,你可能會覺得這個(gè)叫法未必最理想。它的大致意思是這樣,核心在于丘腦。

      在大腦皮層里,存在著許多所謂的“皮層柱”。它們在不同區(qū)域之間當(dāng)然會有差異,但彼此又足夠相似,所以我們可以把它們看成一種重復(fù)出現(xiàn)的加工單元。而這些皮層柱,又由不同層次構(gòu)成。其中在第五層,你會看到一些很大的錐體神經(jīng)元。之所以叫“錐體”,是因?yàn)樗鼈兒艽螅螤钣窒皴F體。這些神經(jīng)元會向下投射到皮層下區(qū)域,也會投射到脊髓。它們構(gòu)成了皮層柱最主要的輸出通路。

      同時(shí),它們還帶有一種叫作“頂樹突”的結(jié)構(gòu),會向上延伸到皮層較淺的層次,而那些位置會接收到多種反饋信號,其中就包括來自丘腦—皮層環(huán)路的反饋,也包括來自其他皮層柱和某些皮層下區(qū)域的反饋。這些神經(jīng)元還會向下投射到丘腦,而丘腦隨后又會把信號返回皮層,這樣就形成了一個(gè)環(huán)路。也就是說,這些神經(jīng)元實(shí)際上同時(shí)接收著來自不同輸入源、不同情境的信息。這只是對其中基礎(chǔ)生物學(xué)結(jié)構(gòu)的一個(gè)非常簡略的說明。而“淺腦”這個(gè)說法真正想表達(dá)的是......你在笑。是不是我剛才哪里講漏了,或者講得不對?

      揚(yáng):我只是在想,你這個(gè)解釋真的比我剛才講得更簡單嗎?

      保羅:當(dāng)然沒有。這種事一講起來,就會立刻發(fā)現(xiàn),糟了,自己已經(jīng)陷進(jìn)細(xì)節(jié)里了。不過總之,關(guān)鍵在于這些會向外投射的大型神經(jīng)元。“淺腦”這個(gè)說法真正想表達(dá)的是,整個(gè)皮層里其實(shí)遍布著這種重復(fù)出現(xiàn)的結(jié)構(gòu),也就是皮層柱。你可以把它理解成某種統(tǒng)一的“層”。當(dāng)然,我們平時(shí)更習(xí)慣把大腦想成一個(gè)層級結(jié)構(gòu)。哪怕只是在皮層內(nèi)部,我們也會從較早期的感覺加工,一路往后推到越來越抽象的加工,再到前額葉,仿佛那里的一切都變得高度抽象起來。所以我們通常會把大腦想成一種非常“深”的架構(gòu),就像深度神經(jīng)網(wǎng)絡(luò)那樣。從這個(gè)意義上說,它當(dāng)然是“深”的。

      但你的觀點(diǎn)是,我們也可以換個(gè)視角,把整個(gè)皮層看作扁平的“一層”,它們?nèi)纪渡涞酵粋€(gè)區(qū)域——丘腦。而丘腦就像是一個(gè)控制臺,它能決定一個(gè)皮層柱是繼續(xù)保持環(huán)路,還是切斷連接。從這個(gè)意義上說,大腦就是“淺”的。你看,我這個(gè)高屋建瓴的總結(jié)怎么樣?

      揚(yáng):很好,這就是最核心的意思。我想,這個(gè)標(biāo)題真正的問題在于,我們把它叫作“淺腦假說”。但從某種意義上說,它根本不是什么“假說”,因?yàn)檫@本來就是解剖事實(shí)。這里并不存在什么猜測。它之所以如此,并不是一種推斷,而就是解剖結(jié)構(gòu)本身如此。不管是在初級視皮層V1,還是在前額葉皮層,每一個(gè)皮層柱都會直接向高階丘腦發(fā)送輸入。事情本來就是這樣,很直接。當(dāng)然,你還是可以繼續(xù)討論,“淺”這個(gè)詞到底是不是最合適。但從某種意義上說,這正是我們在那篇論文里想表達(dá)的:這不是什么猜想,也不只是某種理論而已。這就是事實(shí)。

      保羅:我倒是挺喜歡“你的大腦是淺的”這種說法,有點(diǎn)像尼克·查特(Nick Chater)那本《心智是平的》(The Mind Is Flat)。

      揚(yáng):對,尼克·查特。

      保羅:對,說到底也還是更利于傳播而已。

      揚(yáng):我的意思是,你總不能把那個(gè)“小人”直接塞進(jìn)丘腦里,對吧?

      保羅:對,當(dāng)然不能。

      揚(yáng):更準(zhǔn)確的說法應(yīng)該是,大腦當(dāng)然是一個(gè)復(fù)雜的動力學(xué)系統(tǒng),但丘腦有點(diǎn)像一個(gè)中央控制樞紐。在那里,信息可以被分配、轉(zhuǎn)送,也可以更集中地受到某種調(diào)控。至少在這個(gè)動力學(xué)系統(tǒng)里,丘腦是一個(gè)特別適合承擔(dān)這類功能的位置。

      因?yàn)榫拖裎覄偛耪f的,不只是皮層會向丘腦發(fā)送輸入,幾乎所有皮層下區(qū)域也都會把信息送到這里。某種意義上,很多信息最后都會以這樣那樣的方式匯聚到丘腦。

      所以,丘腦也許可以被看作一個(gè)非常有意思的中心角色。這也是為什么我愿意把它想成某種“指揮者”。當(dāng)然,這里的“指揮者”并不是說丘腦里真有一個(gè)發(fā)號施令的小人,而是說,在這個(gè)動力學(xué)系統(tǒng)中,丘腦確實(shí)像一個(gè)可以統(tǒng)籌協(xié)調(diào)的地方,某種程度上,它讓大腦里的不同部分能夠彼此對上節(jié)奏、保持一致。

      保羅:如果要把你這個(gè)看法和傳統(tǒng)的丘腦觀做一個(gè)對照,那么無論你剛才用什么詞來描述丘腦的作用,有一點(diǎn)都很明確:丘腦并不只是大腦里的一個(gè)“中繼站”。但在神經(jīng)科學(xué)的很大一部分傳統(tǒng)中,人們長期以來確實(shí)就是這么理解它的。當(dāng)然,很多神經(jīng)通路的確要經(jīng)過丘腦,才能把信息送往大腦的下一個(gè)區(qū)域,所以人們才會覺得,它不過是在做信息中轉(zhuǎn)而已。可實(shí)際上,它扮演的是一個(gè)積極得多、主動得多的角色。而我們現(xiàn)在要做的,正是進(jìn)一步弄清楚,這種角色究竟是什么。

      揚(yáng):對,正是這樣。接下來我們也會盡量去做相關(guān)實(shí)驗(yàn)。我的朋友鈴木基高就在做這方面的實(shí)驗(yàn),另外還有不少人也在做非常出色的工作。我們認(rèn)為,關(guān)于丘腦如何在皮層中承擔(dān)信息分配與調(diào)控作用,還有很多東西有待弄清。而且,再說一次,我們真的應(yīng)該少一點(diǎn)這種“皮層沙文主義”,不要總把皮層想成那個(gè)什么都包辦的“主角”。更準(zhǔn)確地說,皮層也許只是一個(gè)非常方便的計(jì)算空間,而真正調(diào)動、利用它的,還有別的參與者。


      機(jī)器意識并非原則上不可能

      保羅:你現(xiàn)在怎么看“人工意識”這件事的前景?難道只要把丘腦—皮層環(huán)路實(shí)現(xiàn)出來,我們就算走到了那一步嗎?還是說,我們必須先弄清楚這種大規(guī)模的跨尺度整合,才談得上接近人工意識?你現(xiàn)在如何理解實(shí)現(xiàn)人工意識的可能性?如果這件事確實(shí)有可能,那又該從什么方向入手?從我們現(xiàn)在所在的位置出發(fā),第一步應(yīng)該是什么?

      揚(yáng):我得承認(rèn)一件事。等我真正開始理解大語言模型和當(dāng)代AI系統(tǒng)之后,我很快就意識到,我們原先那種想法其實(shí)是守不住的。也就是說,我們不能再長期堅(jiān)持那種看法,仿佛只要有樹突整合、只要有丘腦—皮層整合,就足以解釋意識。因?yàn)檫@類東西,從原則上說,是可以用數(shù)字方式實(shí)現(xiàn)出來的,至少可以做到某種近似。

      所以,正如我前面已經(jīng)稍微提到的,大概從2022年初開始,我馬上就開始去想另一個(gè)問題:我們真正缺掉的、更根本的東西到底是什么?也正是這個(gè)追問,后來帶出了這一系列研究和想法。也就是說,關(guān)鍵恐怕不只是樹突,不只是丘腦—皮層環(huán)路,而是不同尺度之間的相互作用,以及發(fā)生在這些尺度之間的過程,本身可能就和意識密切相關(guān)。

      再說一遍,這里面當(dāng)然仍然有不少推測成分。但我覺得,我們至少已經(jīng)邁出了第一步,把我們在概念層面上的理解先描述出來了。現(xiàn)在,就像我前面說的,也已經(jīng)有一些很出色的年輕研究者在試著看,能不能把這套想法進(jìn)一步做得更形式化一些。

      歸根結(jié)底,我會說,已經(jīng)沒有必要再去死守那種想法了,也就是仿佛意識的關(guān)鍵一定就是樹突整合和丘腦—皮層環(huán)路。意識為什么、又是如何從大腦中產(chǎn)生出來,背后很可能還有更深層的原因。而我們真正該做的,是把那個(gè)更深層的原因找出來、弄明白。

      有些人聽到這里,可能會想:“揚(yáng),你這又有點(diǎn)瘋了吧。你不是2020年才提出那個(gè)樹突整合理論嗎?怎么現(xiàn)在又轉(zhuǎn)到別處去了?這到底算什么?”但我一直都會說,對我而言,樹突整合理論最核心的意義首先在于,我們必須發(fā)展出真正嚴(yán)肅的神經(jīng)生物學(xué)理論。我們已經(jīng)有太多認(rèn)知層面的理論,也有太多計(jì)算層面的理論了。我們真正缺的,是一套扎實(shí)的神經(jīng)生物學(xué)理論。

      第二點(diǎn)是,對我來說,它從來都不是,也從來不該被當(dāng)成某種最終定論。它更像是給年輕一代的一個(gè)啟發(fā),告訴大家,我們沒有必要被那些舊有的意識理論困住。我們可以真正回到大腦本身去看。我們完全可以提出更復(fù)雜、也更貼近大腦實(shí)際情況的理論。樹突整合理論就是這樣的一種嘗試。我希望它至少算是一個(gè)不錯(cuò)的例子,說明這件事可以怎么做。但與此同時(shí),我們也必須繼續(xù)往前走。我們得走向下一步、再下一步,繼續(xù)往前推進(jìn)。

      保羅:我這里并不是在問你個(gè)人的目標(biāo)到底是什么。就我自己而言,我有一種很基本的直覺,那就是,人工系統(tǒng)沒有意識,而且我覺得它們也不可能有意識。但與此同時(shí),AI領(lǐng)域又總會出現(xiàn)我剛才提到的那種邏輯:好,這個(gè)人工系統(tǒng)現(xiàn)在沒有這個(gè)特征,那我們就把它加進(jìn)算法里;加進(jìn)去以后,它不就有了嗎?而這種推法,理論上是可以無窮無盡地一路加下去的。

      一端是生物自然主義那種更強(qiáng)硬的立場。我覺得阿尼爾·塞思(Anil Seth)也許更接近這個(gè)位置。按這種看法,生物載體本身具有某種原則上不可替代的根本屬性,正是這種屬性從根本上排除了人工系統(tǒng)擁有意識的可能性。當(dāng)然,我對這個(gè)立場的理解也可能有些細(xì)微偏差,甚至可能完全理解錯(cuò)了。不過在我看來,生物自然主義大致就是這個(gè)意思。而另一端,則可以說是功能計(jì)算主義。按這種觀點(diǎn),只要你把計(jì)算過程復(fù)制出來,意識就會隨之而來,幾乎像是“免費(fèi)附贈”的一樣。

      所以我一開始真正想問的其實(shí)是:目標(biāo)到底應(yīng)該放在哪里?我們的目標(biāo),是不是要證明,機(jī)器和意識之間存在一道原則上無法跨越的界線;還是說,我們真正要做的,是找出生物系統(tǒng)和機(jī)器系統(tǒng)之間到底差了什么,再一步步把這些差距補(bǔ)上,最終造出真正有意識的合成系統(tǒng)?也許這不一定是你個(gè)人的目標(biāo),但至少從你剛才的表述來看,這整套思路背后的目標(biāo)到底是什么?它所依托的基本立場,又究竟是什么?

      揚(yáng):這個(gè)目標(biāo)其實(shí)很簡單。現(xiàn)在一邊是這種樸素的功能計(jì)算主義,另一邊是生物自然主義。我們想說明的是,這兩者之間其實(shí)存在一條中間道路,而且在我看來,這恰恰是最可信、也最合理的一條路。這條中間道路的意思是:不同于那種樸素的計(jì)算主義,我們認(rèn)為,大腦中的計(jì)算極其復(fù)雜。我們之所以還不理解它,是因?yàn)槲覀冞€不清楚,載體究竟是如何具體地約束這些計(jì)算的。但即便如此,它依然是計(jì)算,只不過是一種復(fù)雜得多的計(jì)算。

      也正因?yàn)槿绱耍镒匀恢髁x也并不成立。因?yàn)閺母旧险f,在某個(gè)時(shí)候,人類確實(shí)有可能造出具有意識的機(jī)器。但那種機(jī)器不會是今天這種大語言模型,因?yàn)榇笳Z言模型做的一切,本質(zhì)上都只是數(shù)字計(jì)算。它們并沒有像大腦那樣,被那種深層的約束所塑造。它必須在某種意義上更像大腦。從這個(gè)意義上說,它需要是某種神經(jīng)形態(tài)式的系統(tǒng)。但又不能只是那種很表層的“神經(jīng)形態(tài)模仿”,而很可能必須把大腦中若干關(guān)鍵過程都認(rèn)真考慮進(jìn)去。

      簡言之,我們真正想表達(dá)的是:思考意識問題時(shí),確實(shí)存在這樣一條中間道路,而且這是一條相當(dāng)合理的路徑。我這樣說清楚了嗎?這個(gè)意思明白嗎?

      保羅:明白了。不過我想再把它說得更精確一點(diǎn),也請你再展開一層。也就是說,從原則上講,并沒有什么理由規(guī)定,一個(gè)人工合成出來的機(jī)器不可能擁有意識。事實(shí)上,就像“忒修斯之船”那個(gè)思想實(shí)驗(yàn)一樣,你完全可以把一個(gè)細(xì)胞里的每個(gè)分子都逐步替換掉。只要它們在功能組織、動力學(xué)組織和實(shí)際運(yùn)作方式上都保持一致,那么理論上,你甚至可以一路替換掉整個(gè)大腦,最終得到一個(gè)有意識的機(jī)器,或者說,一個(gè)由機(jī)器部件構(gòu)成的意識系統(tǒng)。

      從這個(gè)意義上說,你甚至未必還會把它單純看作“機(jī)器”,因?yàn)殛P(guān)鍵根本不在材料本身,而在于那種組織方式,以及跨尺度的整合。而這件事,無論是在理解上還是在實(shí)現(xiàn)上,都離我們還非常非常遙遠(yuǎn)。你的立場大致就是這樣吧:它并不是原則上不可能,只是我們離那一步還遠(yuǎn)得很。我的理解對嗎?

      揚(yáng):對。我們不可能靠大語言模型走到那一步。它們當(dāng)然很了不起,也確實(shí)能完成很多有趣而且看起來很智能的任務(wù),但我們不可能沿著這條路抵達(dá)意識。

      保羅:那你會希望真的在機(jī)器里造出意識嗎?

      揚(yáng):我只能說,就目前來看,這件事離現(xiàn)實(shí)還太遠(yuǎn)了,遠(yuǎn)到我其實(shí)還沒有認(rèn)真想過這個(gè)問題。我知道,阿尼爾·塞思(Anil Seth)會進(jìn)一步追問一句:這甚至真的是我們想要實(shí)現(xiàn)的東西嗎?如果你現(xiàn)在非要我回答,我大概得先認(rèn)真想一陣子,或者干脆打個(gè)電話問問朋友。

      保羅:對,我也是。簡短地說,就是這樣。

      揚(yáng):我之所以還沒有認(rèn)真思考這個(gè)問題,是因?yàn)槲掖_實(shí)覺得,就當(dāng)下而言,這件事離我們還太遙遠(yuǎn),遠(yuǎn)到我們暫時(shí)還不必為它擔(dān)心。

      保羅:對,至少現(xiàn)在還談不上需要擔(dān)心。對我來說,最核心、也多少有點(diǎn)自私的目標(biāo),其實(shí)只是想把這件事弄明白。我想,如果我們真的理解了它,從原則上說,也許就有可能把它實(shí)現(xiàn)出來。當(dāng)然,也可能不是這樣。也可能到頭來,我們還是沒法真正把它做出來。也許,只要我能在這些跨尺度的組織原則上獲得某種足夠深入的理解,就已經(jīng)能滿足我的好奇心了,而不一定非得進(jìn)一步把它“造出來”,至少不一定要達(dá)到費(fèi)曼所說的那種程度。就像費(fèi)曼那句很有名的話:不能親手造出來的東西,我就還談不上真正理解它。

      揚(yáng):對。你剛才提到的一點(diǎn),其實(shí)也非常重要。還是像我前面一直在努力說明的那樣,大腦中的很多細(xì)節(jié)都很關(guān)鍵,因?yàn)榇竽X里的那些計(jì)算,只能在這種特定類型的載體上發(fā)生。這意味著,如果你真的想做出一種合成意識,那么至少在某些方面,最后做出來的東西可能會非常接近大腦本身。

      當(dāng)然,這未必意味著你要在大腦的每一個(gè)方面都照搬它。但很可能會有某些部分,你最終不得不做得幾乎和大腦一模一樣,甚至在物理實(shí)現(xiàn)上都要盡可能貼近大腦原本的樣子。只是到今天為止,我們還不知道究竟是哪些部分。說到底,我們對此幾乎還一無所知。但也正因?yàn)槿绱耍覀儾鸥枰パ芯克枰Π阉宄?/p>


      意識科學(xué)需要的不是更多口頭理論

      保羅:說到這里,我感覺關(guān)于意識的理論,現(xiàn)在大概已經(jīng)多到兩千四百三十七種了,差不多就是這個(gè)量級。那這些理論,你會不會干脆都不看了?還是說,其中多少總有一些,會讓你覺得更值得認(rèn)真對待?

      揚(yáng):這方面我確實(shí)下過很多功夫。就像我前面說的,我已經(jīng)在這個(gè)領(lǐng)域里做了22年。我大概讀過幾百種意識理論。但到了某個(gè)階段,我越來越覺得,問題在于,要提出一套純粹停留在言語層面的意識理論,或者一種認(rèn)知層面的意識理論,其實(shí)并不難。提出某種說法并不難。可到了后來,尤其是2018年之后我在馬修·拉庫姆實(shí)驗(yàn)室工作時(shí),我越來越覺得,真正說得通的做法,只有一條,那就是用神經(jīng)生物學(xué)來認(rèn)真約束我們對意識的思考。

      而且直到今天,真正愿意這樣做的人,其實(shí)也并不多。我覺得部分原因也在于,我們的大腦本來就會偷懶。面對這么多關(guān)于大腦的復(fù)雜事實(shí)時(shí),人們更容易說一句:“這些細(xì)節(jié)大概沒那么重要,反正說到底,它就是一種計(jì)算。”當(dāng)然,就像我前面說過的,這也是科學(xué)體制本身的問題之一。只要你已經(jīng)摸清了一套能穩(wěn)定發(fā)論文、出成果的路徑,那你基本上就沒有動力再往更深處走,也沒有必要主動去打開那個(gè)潘多拉盒子。

      所以,我這一大段有點(diǎn)情緒化的回答,真正想說的其實(shí)很簡單:我們已經(jīng)有很多意識理論了,但真正扎實(shí)、真正好的神經(jīng)生物學(xué)理論,其實(shí)并沒有那么多。所以,即便我也同意,現(xiàn)在的意識理論已經(jīng)多得有些過頭了,我還是會鼓勵(lì)年輕研究者繼續(xù)去提出新的、真正立足于神經(jīng)生物學(xué)的意識理論。

      保羅:我想,我自己之所以也會有些猶豫,某種程度上也和你剛才說的“大腦會偷懶”有關(guān)。比方說,我們一方面在討論所謂“特權(quán)層次”,另一方面又說,其實(shí)并不存在一個(gè)真正享有特殊地位的層次。可即便如此,你還是得在任何一個(gè)時(shí)刻去考慮,某個(gè)具體層次上到底正在發(fā)生什么。與此同時(shí),你還得把其他層次與它之間的關(guān)系也一起放在腦子里。再進(jìn)一步說,如果你真的想做研究,那你總得先在某一個(gè)層次上測量某些東西。可一旦進(jìn)入實(shí)操,你的注意力就不可避免地會落到那個(gè)層次上,而你幾乎不可能同時(shí)把其他所有層次也都一起顧到。

      所以,確實(shí)會有一種很真實(shí)的猶豫。一方面,你很難始終維持那種把所有部分及其相互作用都同時(shí)裝在腦子里的“全景視角”。但另一方面,我也會猶豫,要不要一頭扎進(jìn)某一個(gè)具體層次,因?yàn)槟菢右粊恚憔偷勉@得非常深。你明知道,自己最后會一路碰到各種具體問題,也會把大量時(shí)間都耗在那個(gè)小小的層次上,可你真正感興趣的,明明是跨層次之間究竟怎樣聯(lián)系起來的那整件事。

      揚(yáng):對,我覺得問題恰恰就在這里。在科學(xué)研究中,我們本來就應(yīng)該鼓勵(lì)這樣的工作,也就是鼓勵(lì)人們?nèi)ヅ瞿切┱嬲龔?fù)雜的問題。而某種程度上說,這也是當(dāng)下科學(xué)體制本身的問題。過去這些年,我們在這方面做得并不好。比如我總會說,如果你真的想弄清楚意識是什么,那我們就應(yīng)該把資源投給那些做實(shí)驗(yàn)的年輕人,尤其是做基礎(chǔ)神經(jīng)科學(xué)實(shí)驗(yàn)的年輕人。可現(xiàn)實(shí)往往正相反,很多經(jīng)費(fèi)最后都流向了那些圍繞經(jīng)典理論展開的大項(xiàng)目。我覺得這是不對的。之所以會這么說,是因?yàn)槲易约壕驮隈R修·拉庫姆的實(shí)驗(yàn)室里親身經(jīng)歷過這樣的事情。

      我第一次見到鈴木基高時(shí),他對我說:“好,我想給你看點(diǎn)東西。”然后他給我看了一組當(dāng)時(shí)還沒有發(fā)表的數(shù)據(jù),內(nèi)容正是關(guān)于那種“解耦”現(xiàn)象。也許很多人會說,這和意識沒什么直接關(guān)系,或者它未必是那個(gè)“大答案”的一部分。可問題在于,這是一塊我們原本根本沒有的基礎(chǔ)證據(jù);如果鈴木基高不去做這項(xiàng)研究,我們就不會有它,也根本不會知道這件事。

      現(xiàn)在你可以想象一下,如果不只是鈴木基高一個(gè)人,而是有10個(gè)、20個(gè)實(shí)驗(yàn)室都在做這類研究,會發(fā)生什么。當(dāng)然,其中有些工作最后也許不會產(chǎn)出什么真正新的東西。但與此同時(shí),我們也會獲得一些此前根本想不到的發(fā)現(xiàn),一些原本完全裝不進(jìn)我們既有思維框架里的新線索。到那時(shí),我們就可能以一種全新的方式來思考意識。所以在我看來,如果我們真想推進(jìn)意識問題,就不能滿足于手里已經(jīng)有的這些東西。我們應(yīng)該去做這些新的實(shí)驗(yàn),去嘗試最新的神經(jīng)科學(xué)技術(shù),也應(yīng)該真正把資源投入到這些工作里。

      保羅:你剛才說的是基礎(chǔ)神經(jīng)生物學(xué)研究,對吧?而這恰恰就是我剛才擔(dān)心的地方:一旦你真的進(jìn)入基礎(chǔ)神經(jīng)科學(xué)、基礎(chǔ)神經(jīng)生物學(xué)的研究,就很容易把整體圖景丟掉,整個(gè)人都陷進(jìn)細(xì)節(jié)里。所以,既能抓住大問題,又能深入這些底層細(xì)節(jié)的人,其實(shí)并不多。像你,像馬修·拉庫姆這樣的人,才真正能把這兩件事同時(shí)做起來。

      揚(yáng):這個(gè)例子其實(shí)就很能說明問題。因?yàn)槲蚁耄蛘哒f我希望,自己多少也在其中起到了一點(diǎn)作用,讓鈴木基高的研究被意識科學(xué)領(lǐng)域更多人看到。當(dāng)然,他們后來寫出了一篇非常好的論文,也發(fā)表在了《細(xì)胞》(Cell)這樣非常頂尖的期刊上。但認(rèn)知科學(xué)或認(rèn)知神經(jīng)科學(xué)這一邊的大多數(shù)人,通常根本不會去讀那篇文章,因?yàn)樗懻摰倪€有麻醉之類的內(nèi)容,看上去離他們關(guān)心的問題有點(diǎn)遠(yuǎn)。而我當(dāng)時(shí)的反應(yīng)是:好,我一看到這項(xiàng)研究,立刻就意識到了。

      保羅:我之前還真不知道。也就是說,是你把這條線索帶到意識研究這邊來的?

      揚(yáng):也不能這么說。因?yàn)榻Y(jié)果本來就是他們做出來的,是鈴木基高先把那些結(jié)果拿給我看的。事實(shí)上,我當(dāng)時(shí)去馬修的實(shí)驗(yàn)室,本來是想研究預(yù)測編碼。可就在那個(gè)瞬間,我心里一下子冒出來一句:糟了。但當(dāng)時(shí)大概就是那種感覺。就像是,哦,好吧,意識問題又回來了。行,我們又重新走到一塊兒來了。后來我基本上就是對馬修和鈴木基高說:你們得把這篇文章寫出來。再后來,它就發(fā)展成了那個(gè)樹突整合理論。

      保羅:噢。

      揚(yáng):我在這里面,大概只是起了一點(diǎn)很小的作用。

      保羅:這可一點(diǎn)都不算小。

      揚(yáng):但我覺得,這件事真正說明的是,一個(gè)實(shí)驗(yàn)室里必須有像鈴木基高這樣的人,能把那些驚人、精確而復(fù)雜的實(shí)驗(yàn)真正做出來。而在最理想的情況下,你還需要另一類人,像我這種,順便還和他們留著差不多發(fā)型的人,能夠意識到:哦,這項(xiàng)研究對另一群人其實(shí)也非常重要,我們完全可以一起把它寫出來,而且這會讓很多人都覺得興奮。換句話說,你需要的是一種合適的人才組合。而馬修當(dāng)時(shí)的實(shí)驗(yàn)室里,確實(shí)就有這樣一群人。

      保羅:這太好了。不過我之前還真不知道有這一層。說真的,那可一點(diǎn)都不算什么“小作用”。你自己說得很輕,可那其實(shí)是相當(dāng)關(guān)鍵的一環(huán)。這種能把不同層次、不同領(lǐng)域連接起來的人,其實(shí)并不常見,對吧?我覺得,真正能把某一層面上發(fā)生的事情和其他層面的概念連起來的人,反而是少數(shù),是例外。確實(shí)如此。

      揚(yáng):除了會說這些,我大概也就只擅長這一件事了。

      保羅:這本身就已經(jīng)很重要了。有時(shí)候我也會覺得,那可能也是我唯一拿得出手的本事。我甚至都不確定,自己到底算不算擅長這件事。我做神經(jīng)生理并不算特別出色,說實(shí)話,我做很多事都談不上多厲害,只不過有些事情稍微好一點(diǎn)而已。而這恰恰也是我最欣賞別人的地方之一。說到這里,揚(yáng),我是真的很欣賞你。

      揚(yáng):謝謝你,保羅。我也有同樣的感覺,我也很欣賞你。

      保羅:(笑)謝謝。

      揚(yáng):當(dāng)然,也不只是因?yàn)槟愕陌l(fā)型。我欣賞你的地方,還有很多。

      保羅:我今天還特地把頭發(fā)重新修了修,就是想讓自己看起來更像我面前這位偶像一點(diǎn)。而要把這些不同的想法真正連接起來,本身其實(shí)非常需要創(chuàng)造力。

      對談鏈接見:

      https://www.thetransmitter.org/brain-inspired/modern-ai-is-simply-no-match-for-the-complexity-likely-required-for-harboring-consciousness-says-jaan-aru/









      關(guān)于追問nextquestion

      天橋腦科學(xué)研究院旗下科學(xué)媒體,旨在以科學(xué)追問為紐帶,深入探究人工智能與人類智能相互融合與促進(jìn),不斷探索科學(xué)的邊界。歡迎評論區(qū)留言,或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問,我們將基于追問知識庫為你做出智能回復(fù)哦~

      關(guān)于天橋腦科學(xué)研究院

      天橋腦科學(xué)研究院(Tianqiao and Chrissy Chen Institute)是由陳天橋、雒芊芊夫婦出資10億美元創(chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一,圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn),支持腦科學(xué)研究,造福人類。

      Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室;與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

      Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng),項(xiàng)目遍布?xì)W美、亞洲和大洋洲,包括、、、科研型臨床醫(yī)生獎勵(lì)計(jì)劃、、科普視頻媒體「大圓鏡」等。

      特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      相關(guān)推薦
      熱點(diǎn)推薦
      僅80萬!朱芳雨簽下場均18+11護(hù)筐神塔,不再撿破爛

      僅80萬!朱芳雨簽下場均18+11護(hù)筐神塔,不再撿破爛

      隱于山海
      2026-07-19 10:15:51
      發(fā)現(xiàn)沒?西班牙怕的這3點(diǎn),都是阿根廷所擅長的,決賽有看頭了!

      發(fā)現(xiàn)沒?西班牙怕的這3點(diǎn),都是阿根廷所擅長的,決賽有看頭了!

      神牛
      2026-07-19 21:02:08
      印媒喊話政府,抄中國作業(yè),莫迪已許下承諾,明年絕不給中方添亂

      印媒喊話政府,抄中國作業(yè),莫迪已許下承諾,明年絕不給中方添亂

      聚焦最新動態(tài)
      2026-07-20 00:15:06
      57歲美國女子赴韓整形,術(shù)后驟減20歲:看著像37!

      57歲美國女子赴韓整形,術(shù)后驟減20歲:看著像37!

      娛圈觀察員
      2026-07-19 00:01:35
      云南一知名景區(qū)突發(fā)山洪!有房屋倒塌!本輪強(qiáng)降雨要下到……

      云南一知名景區(qū)突發(fā)山洪!有房屋倒塌!本輪強(qiáng)降雨要下到……

      昆明信息港
      2026-07-19 22:22:42
      7月1日落地、2027年8月1日清退,無人配送車這次真被按住了命門

      7月1日落地、2027年8月1日清退,無人配送車這次真被按住了命門

      劉哥談體育
      2026-07-18 05:06:26
      票房從18.24億跌到1.05億,我感慨:這塊金字招牌算是砸了

      票房從18.24億跌到1.05億,我感慨:這塊金字招牌算是砸了

      阿廢冷眼觀察所
      2026-07-18 12:14:04
      中國足球歐洲留洋集體爆發(fā):18歲小將法甲一線隊(duì)熱身賽破門!

      中國足球歐洲留洋集體爆發(fā):18歲小將法甲一線隊(duì)熱身賽破門!

      邱澤云
      2026-07-19 20:12:27
      基恩痛批查洛巴世界杯首秀:上場兩分鐘就丟球,切爾西球員都這樣

      基恩痛批查洛巴世界杯首秀:上場兩分鐘就丟球,切爾西球員都這樣

      星耀國際足壇
      2026-07-19 20:14:48
      瓶中造出微型宇宙,博士生:“我們不再需要等待小行星就能了解生命起源線索”

      瓶中造出微型宇宙,博士生:“我們不再需要等待小行星就能了解生命起源線索”

      萬物皆可科普啊
      2026-07-19 23:01:36
      F1車手漢密爾頓首次曬與金·卡戴珊全家福,配文“抱緊你愛的人”

      F1車手漢密爾頓首次曬與金·卡戴珊全家福,配文“抱緊你愛的人”

      影視情報(bào)室
      2026-07-19 01:48:34
      蘋果突然官宣:7月17日,官翻機(jī)開售

      蘋果突然官宣:7月17日,官翻機(jī)開售

      3C毒物
      2026-07-18 03:15:56
      世界杯決戰(zhàn)一觸即發(fā) 德約科維奇喊話梅西:你能承受住壓力嗎?

      世界杯決戰(zhàn)一觸即發(fā) 德約科維奇喊話梅西:你能承受住壓力嗎?

      寒律
      2026-07-19 10:09:55
      聯(lián)手杰森·斯坦森狂攬7億,他新片未映又爆了:續(xù)集已定檔2028

      聯(lián)手杰森·斯坦森狂攬7億,他新片未映又爆了:續(xù)集已定檔2028

      影視情報(bào)室
      2026-07-19 01:10:50
      太陽報(bào):若薩利巴重傷,阿森納考慮免簽斯通斯

      太陽報(bào):若薩利巴重傷,阿森納考慮免簽斯通斯

      懂球帝
      2026-07-19 23:22:23
      星爺你終于看到了!舉國撐腰,官媒集體站臺,這次全國都為你覺醒

      星爺你終于看到了!舉國撐腰,官媒集體站臺,這次全國都為你覺醒

      草莓解說體育
      2026-07-19 21:55:16
      王平河:外甥坑了判官舅舅(6/11)

      王平河:外甥坑了判官舅舅(6/11)

      金昔
      2026-07-19 20:34:14
      同樣說西語,阿根廷和西班牙口音差多遠(yuǎn)?

      同樣說西語,阿根廷和西班牙口音差多遠(yuǎn)?

      懂球帝
      2026-07-19 15:07:22
      纖細(xì)身形 + 瑜伽褲穿搭文案|瘦小女生穿出別致線條美感

      纖細(xì)身形 + 瑜伽褲穿搭文案|瘦小女生穿出別致線條美感

      只要高興就好
      2026-06-03 11:46:20
      爭議巨大!豐田RAV4首席工程師稱考慮恢復(fù)實(shí)體按鍵

      爭議巨大!豐田RAV4首席工程師稱考慮恢復(fù)實(shí)體按鍵

      CNMO科技
      2026-07-18 11:16:03
      2026-07-20 01:24:49
      追問Nextquestion incentive-icons
      追問Nextquestion
      科研就是不斷探索問題的邊界
      816文章數(shù) 41關(guān)注度
      往期回顧 全部

      科技要聞

      Kimi K3單項(xiàng)登頂 整體落后前沿模型2-3個(gè)月

      頭條要聞

      外媒:特朗普"越來越沮喪"了 伊朗可能會以牙還牙

      頭條要聞

      外媒:特朗普"越來越沮喪"了 伊朗可能會以牙還牙

      體育要聞

      世界杯決賽,從“澡盆德比”500年前講起

      娛樂要聞

      王侃因病逝世 兩年前與父親牛犇同臺

      財(cái)經(jīng)要聞

      任澤平VIP會員自稱爆倉巨虧千萬

      汽車要聞

      把中國超跑賣到英國,比亞迪正在被世界看見

      態(tài)度原創(chuàng)

      藝術(shù)
      親子
      時(shí)尚
      教育
      軍事航空

      藝術(shù)要聞

      千萬別盯著看超過三秒!西班牙老頑童用水彩"騙"過所有人的眼睛,美到犯規(guī)!

      親子要聞

      和嫂子們買蘑菇玩水真熱鬧,100元買這點(diǎn)貴不貴?你吃過嗎?

      除了機(jī)車包,Balenciaga的服裝才是真正頂流

      教育要聞

      2026年高考“超級爆冷”:985大學(xué)僅549分,211跌到413分,全國罕見!

      軍事要聞

      兩名美軍被伊朗炸死 特朗普:令人難過

      無障礙瀏覽 進(jìn)入關(guān)懷版 主站蜘蛛池模板: 荣誉法则(成人版)英文| 哈利波特1普通话版| 特殊的美容美发5| 僵尸至尊高清| 王牌保镖电影| 人猿泰山H版未删减| 新包青天之七侠五义| 再见艳阳天粤语| 三个女人给男人精油按摩三级片| 我在截取一段视频特工| 医武弃少:双绝超神完整版观看| 我强睡年轻漂亮的继坶BD| 红箭 电视剧| 《八尺夫人》完整版免费看| 春晚最美女观众| 人民的名义第19集| 窃听风云3免费| 工藤拉拉全部免费观看电视剧| 爱在春天电视剧| 交换上司秘书在线观看| 我坚强的小船| 学生妈妈的ID| 春日狂热电视剧免费观看| 爱本无罪| 《特殊游泳集体》免费观看下拉式| 火线战警| 祝福祖国歌谱| 潜入搜救官| 命中注定我爱你剧情分集介绍| 一路向西完整版观看| 鱼夫荒野史免费观看完整版| 穿越火线秒杀| 三体电视剧剧情介绍| 父母爱情电视剧在线看高清全集免费 | 奇袭白虎团快板| 美国小辣椒| 爱情公寓7| 廖学秋潘金莲| 世界上最烂的国家| 黑人RAPPER大全 顶级 | 美国式保罗4| 谢霆锋演唱会2012| 四个贵妇精油按摩在线| 拔掉57颗牙是什么体验| 韦小宝之古今| 徐元《保险推销员》在线| 菲律宾电影修理工的艳遇| 爱在空气中泰剧特别篇| 地下室骑马| 父贵荣华短剧全集| 觉醒2012| 女子护卫队满天星1973剧情解析| 我是特种兵之火凤凰36| 《climax》电影在线观看免费| 蒸发太平洋 电影| 盟约电影免费完整版在线观看| 美国xxxx| 贪婪欲望岛| 疯狂瑜伽电影完整版| 蓝色隐身帽在线观看免费高清| 遗失的爱| 美女午夜福利4K视频在线观看| 日同学的妈妈| 妖精的尾巴119预告| 赤裸特工| 妈妈的职业5完整版结局在线看| 电影血恋在线完整版播放| 四月物语电影| 三年大片大全免费观看国语版| 心战粤语版| 玩命快递| 《零度暧昧》免费全集| 爱情电影网站apdy香织| 天地争霸美猴王国语| 台剧黛比浪漫女家教1免费播放 | 怎么用快播下黄| 图书馆女朋友在线观看完整免费版电视剧第五集| 闪婚媳妇得宠坏全集免费播放| 一念永恒第三季在线播放| 皖乡食妹| 你是我的荣耀在线观看免费完整版| 蓬溪县| 《放羊的星星》电视剧| 女老师3免费观看全集电视剧| k8s经典手机经典版免费观看| 木马责罚| 姚乐怡 三级| 禁忌满天星| 高清忒弥斯的不确定法庭未删减| 小蓝电影| 禁忌4年转一代最忌三种东西| 三生有幸遇见你电视剧免费观看| 千古风流萧皇后| 《瓜达卢佩的玫瑰》| 披荆斩棘的父亲短剧免费观看全集| 《东北剿匪记》电视剧| 战狼6免费完整版| 黑白禁区电视剧免费观看| 断奶演员表名单| 妈妈爱上儿子同学完整版电影| 斗破苍穹观看免费完整观看| 妻子6免费的电视剧完整版| 女超人满天星版麦乐迪夸克| 头文字d国语电影| 姚乐怡 三级| 坎贝奇《无憾》完整版| 奇妙的美发沙龙在线播放| 挣扎吧亚军君免费观看完整版| 天美影院在线观看电视剧免费 | 野狼王的士高| 美丽小蜜桃4荷尔蒙| 绝地枪王2| 乌海电影在线观看完整版免费| 《诱人的岳 》李银美| 急诊科医生 电视剧| 苗阜王声2016春晚| 长葛市| 精舞门下载| 老公的家庭教师在线观看| 初音未来歌姬计划2pc| 狂飙在线观看免费完整观看| 陈星旭主演的电视剧| 青梅竹马是消防一季未增删| 私人航空在线完整版| 黑鸭子电视剧全集| 郝板栗牙医无删减版百度云| 非诚勿扰第15期| 四渡赤水电影高清完整版视频| 甄嬛传奇艺网| 天下长河电视剧在线观看完整版| 欲乱上班族 电影| 《新人类毒医肥尸2》全集免费观看 | 丰满的女学生电影| 归路全集免费观看完整版| 机动警察全集| 法国巜监狱伦理3| 业火的向日葵下载| 老电影歌曲| 女儿国满天星版 美国| 暴力谎言| 家庭教师剧场版国语| 潞城市| 雷玛根大桥| 地产女老板全集| 誓盟 电视剧全集观看| 电影女律师替丈夫还债| jackerman在线观看| 电视剧金牌律师| 隐形帽子韩国电影完整 | 光溜溜的荒野求生| 美酒加咖啡dj| 潍坊科技学院吊带| 美容院:特殊待遇未删减| 梨泰院踩踏事故亲历者发声| 警花张津瑜头撞玻璃| 神宫寺丈夫不在的五天和公| 在厨房开车| 高清绮梦之旅未删减| 美国版《健美》在线播放| 直捣黄龙| 吴京乘风电影免费观看| 《丰满的女学生3| 神雕侠侣大结局| 鬼吹灯之黄皮子坟电影在线观看 | 双子星公主 第2部| 男女愁愁全集| 魔女 电影| 他母亲的房子| 浮之手中字12| 梦犯追凶| 幻世录3下载| 莲花楼连续剧40集高清| 朋友的男朋友中字ID| 好姑娘4完整版在线观看中文韩剧| 蜡笔小新国语高清| 特殊房产销售3| 狂飙免费观看完整版电视剧高清 | 三年大片大全国语版| 熊出没之过年免费观看在线完整版| 银河护卫队2电影天堂| 新大秦帝国第二部之纵横| 《肉蔻之香》法国剧情解析 | 火影忍者在线观看免费全集| 出差遇见渣男前任完整版| 军嫂逆袭短剧全集| 《泡我家的辣妹》动漫观看第一集| 芭芭拉保罗3| 咱们结婚吧电视剧完整版在线观看| 科学怪妓在线观看| 秘密押运| 吴健农民伯伯2| 南北妈打演员表| 《马腾你别走》| 《姐妹牙医》完整版在线观看免费播放 | 张本智和教练:没什么好耻辱的| 国风按摩院在线视频| 《给我钱 第12季》未删减| 莫陌百度影音| 21世纪性格爱情指南免费| 世上只有妈妈好电影免费播放| 王祖贤视频| 移情别恋电影在线观看| 《比如父子》| 风情小鸟电影网| 完美搭配2韩版| 包养女明星| 我愿意在线观看免费完整版电影| 一个好妈妈的d5申字中头| 2对1:三人一次性体检韩国伦理| 朋友的妈妈视频| 麻生香织和黑人无删减版观看| 怒晴湘西在线观看免费| 咱们结婚吧在线观看| 战狼6双人免费高清完整版| 玖兰枢bg| 电视剧绝密1950| 小卖部开悬崖上| 插曲的痛60集全剧情介绍| 第一滴血3电影| 蜡笔小新国语全集高清爱奇艺 | 全能少女力挽狂澜短剧 | 致我们单纯的小美好在线观看 | 三个傻boy| 幸福里的故事| 暴躁少女完整版在线看 | 《法国空乘5》在线观看| 夺命金免费| 污性福宝| 花名未闻剧场版| 露营后营露宿第一季未增减0.0.0 H版《激战丛林》中文完整版 | 风骚的邻居电影| 大笑江湖优酷| 东方卫视电视剧品质盛典| 《急诊护士》法国版电影在线播放 | 电影玉女心经3:阴阳和合| 大众女澡堂春光在线播放| 大唐好男人电视剧| 女英雄堕落之水星陨落2在线观 | 白蛇传说之法海| 黑人开发妻子张艳| 侄女开发日记樱花动漫第2季最新更新| 《年轻的女仆》韩国电影在线观看 | 《法国空乘2018》在线完整观看视频| 佐助真传| 好先生在线观看免费完整西瓜| 日漫图书馆的女朋友动漫免费观看高清电视剧第五集 | 央视反腐大片| 黄色仓库在线免费观看| 刘伯温传奇电视剧| 龙胆虎威4下载| 爱丫爱丫在线观看免费高清电视剧有| 花样年华电影| 七尺男儿| 美女脱去衣游戏| 黛比浪漫女家教国语全集| 我俩太不公平是什么歌| 囧的呼唤111| 星克莱尔总统夫人电影在线观看| 僵尸新娘国语版免费完整版| 看电影免费观看完整版| 《王牌部队》| 《极乐宝鉴》免费观看高清| 听说 电影| 韩剧《女医生》免费观看| 高压监狱法版| 蝴蝶行动在线观看| 电视剧使命全集| 傻王闯天下主题曲| 《售楼小姐5》在线观看| 两个人日本免费完整版图片| 热血长安第二季百度云| 壮志凌云2010法国满天星| 甜蜜专宠我是狱长第二季免费观看| 宫锁沉香 电影| 致命弯道3百度影音| 韩国美容院电影是什么| 分手大师西瓜影音| 终结电视剧全集观看| 日本金银1-5普通话版| 哈法欧尼| 足球小将粤语版全集| 切漫画韩剧| 麦乐迪在线观看完整免费| 漂亮的妹妹 电影| 古剑奇谭电视剧28| 女大学生特殊按摩在线观看| 火腿火腿电影| 我的特一营40集免费观看| 和女部长一起出差 电影在线观看| 将军家的小娘子电视剧免费观看 | 法国监狱(法国)电影观看 | 大过年的电视剧免费观看全集| 日本混血女大学生按摩电影| 抓娃娃免费观看完整版高清电影| 路人吐槽跨年活动布置像“灵堂”| 磐石市| 老公刚出门,义子就侵犯电影| 替天行道之杀兄电影| 忘羡第一次草地完整版| 《乳房按摩》免费观| 电影《一路西向》 | 星语心愿之再爱 电影| 日本混血大学生精油按摩| 仙帝弃少短剧全集| 萨米大冒险2电影| 安仁县| 黑人艹美女在线免费观看视频| 失控玩家豆瓣| 小菊的春天电视剧全集免费观看| 《贝拉1980》美国电影| 国产在线观看免费全集电视剧大全| 佐卡伊旗舰店| 爱我多深原版不剪辑| 欧美ZZZOOO加日本| 心灵诡计| 竹马是消防员未增减资源| 满天星电影无删减完整版陈宝莲| 南极大冒险| 《东北剿匪记》电视剧| 剑王朝电视剧在线观看| 掌中之物西班牙版| 8866小游戏| 火遮眼谢苗电影完整版| 钢琴家在线观看免费完整版电影 | 女子监狱国语| 高压监狱《3》伦理| 将婚姻进行到底电视剧全集在线观看| 调音师电影在线观看免费版| 《法国女仆》安娜的扮演者| 恐龙岛电影| 福尔摩斯小姐| 终末的女武神 樱花| 爸爸的种子高清免费版电视剧混乱公交车| 秘密花园ost| 无名之辈电影高清免费 | 金并梅电视剧全集免费观看| 小谢尔顿第五季在线观看| 欲望爱人免费观看| 初代奥特曼国语全集| 灵幻少女外传最强驱魔师vs人面犬 | 法医秦明之读心者免费看| 和部长出差三天电影观看 | 金装的维尔梅第6集| 《《女警坠落2》完整版》中文字幕高清完整版免费在线观看-光影影视 | XXXX美国| 天降之物h| 边防风暴| 挣扎吧亚当第二集| 《overflower》真人版动漫全集免费! | 十月怀胎25集| 热播剧电视剧最近最火在线播放| 我的性肉欲继拇做爰HD| 高清《搜神传》电视剧| 大象传谋| 棺山古墓免费观看| 销售的销售秘密4| 鬼玩人崛起在线观看免费高清| 爱的罗曼史无删减在线观看| 千面女郎动漫| 战狼4在线观看完整免费高清| 喜羊羊和灰太狼蛇年| 妻子6免费的电视剧完整版| 爱情公寓五| 男按摩师三级片| 奈克瑟斯奥特曼| 偷心俏佳人下载| 《美姐妹牙医》完整版| 动感之星妖精168集免费播放在线观看 | 电影高压监狱2| 初恋这件事国语版| 电影《野兽爱人》完整版免费观看 | 村枝普通话版| oh 透明人间| 小姐在线看完整韩剧| 伦理《法国空乘13》手机观看| 炸天小姐电影免费观看| 《激战丛林》-罗莎·卡拉乔洛在线观看| 淘宝最近怎么了| 我和我的寡妇房东| 满清禁宫奇案 快播| 活死人军团在线播放| 终极恶女| 万古齐天全集免费观看| 斩神15集全集免费看完| 长乐曲免费观看| 碟中谍在线观看| 迷失的情感电视剧| 汪汪队立大功| 爱情诊所在线观看| 超级马里奥世界2| 电影《无憾》免费观看| 倩女喜相逢| 周处除三害在线观看完整普通话| 八岁萝莉喊爸爸 喜提校花当老婆| 女超人HR版| 赌侠大战拉斯维加斯| 情色99| 朋友的妈妈观看| 站着再来一次免费视频哆来咪影院 | 后天美女 电视剧| 青梅竹马是消防员第一季完整版未打吗robl | 镜中人在线观看完整版免费| 操小萝莉| 悬崖在线观看| 意大利电影《肉蔻之香》的简介| 寻梦环游记中文免费版普通话| 我的董事长老婆| 《戴拿奥特曼》免费观看| 白嫖者联盟免费观看电视剧剧情 | 电视剧天大地大| 高压监狱观看完整免费高清原声满天星2019 | 《怦然与你》| 风语者国语| abo成结模拟| 高地电视剧高清免费播放| 安徽公共频道在线直播| 候鸟可以飞多远?高科技手段揭秘| 陪部长去出差喝醉| 高清《艳色》台湾无删减| 意大利欲望| 美教师地狱责罚无删减版| 白峰国语版免费播放| 我的抗战全集在线观看| 渗透全集| 宁安如梦电视剧免费观看西瓜| 营销技巧电影在线观看| 歌剧假面舞会| 鬼灭之刃游郭篇免费观看| 《闪婚老伴是豪门》免费观看| 混血大学生精油按摩电影完整版| 师傅全集| 海贼战队豪快者剧场版| 曹阳 MOKO| 本乡爱,二阶堂梦在线观看| 碟中谍5在线观看高清完整版| 《扫黑·决战》在线观看免费高清| 刀剑神域ii| 影音先锋色探花| 枪神燕双鹰| 沙漠战争| 高清宿主| 状志凌云满天星无删减版| 朋友的姐姐在线观看| 色降ii万里驱魔| 十年爱电影| 白峰电影高清版550| 妈妈的新朋友| 谈判专家2024在线观看 | 八戒8手机在线看免费播放电视剧大全 | 钢铁侠3开场音乐| 高清百鬼夜行抄未删减 | 乌兰巴托的夜完整版| 一起来看流星雨在线观看免费高清| 舌尖上的粤语| 奇领6080奇领影院奇领yy6080蓝天斗罗大陆杨戬寒门枭士 | 《黄色仓库》| 理发师剧情介绍| 芳华解说| 夺命小丑电影免费观看完整版| 美国禁忌电影免费观看满天星| 《壮志凌云女版啄木鸟满天星法版》_全集免费观看在线播放 - 穿越剧 - 皮蛋影 | 那些年我们一起追过| 女人被躁到高潮嗷嗷叫69| 九龙城寨之围城古天乐正版下载| 韩剧朋友的母亲 双字id| 高清《妻子的闺蜜》大结局视频| 赤焰战场2| 年轻的母亲4在线看完整版| 《法国空乘4》免费播放 | 高压锅皮冻| 交换上司的秘书免费观看 | 蜡笔小新2010剧场版| 镜绣安宁电视剧免费观看完整版| 顶级飞行员女版满天星播放| 北上广电视剧免费播放电视剧| 嫡女宅斗:全精通全集免费| 《高压监狱2》法国版| 恶魔邻居免费观看高清版全集 | 电影 金瓶悔 免费观| 韩国理伦片驯服小峓2-手机看片免费在线观看-亚洲AV在线观看 | 《四个混血大学生》2完整版| 水手服饲育电影高清完整版在线观看| 合租屋交换做爰| 诺言郭有才歌曲| 韩国年轻子1| 空蝉之森有人看过没有 | 维斯塔小镇家长会2免费观看| 聂拉木县| 新有菜未删版| 夏娃韩剧电视剧在剧免费第七集| 朋友的妈妈2018中语| 战神第一集| 麦乐迪女超人 满天星版在线观看| 追凶者也在线观看免费完整版| 花花公主| 海口一护士夜间被患者持刀伤害| 电影《酥醇的绣感》| 性肉欲继拇2| 粘豆包电视剧| 我的妻子妹妹3在线播放中文| 《恶魔触手》动漫在线看全集| 美国修车艳遇电影在线观看| 东北女不戴套在线看| 代号叫麻雀| 一生守护电视剧全集百度影音| 俄罗期。巨屌影院| 幸福触手可及免费版全集| 乐游原电视剧免费观看完整版西瓜| 疯狂第一次| 美国式禁忌3睫毛膏| 我的朋友瘦子4| 空姐前规则第二季| 第五元素| 二婶电视剧| 性解密国语三级片| 万古齐天全集免费观看| 希崎杰西卡 空姐| 长月烬明全集免费完整| 高压监狱2法国版完整版免费| 82板杨敏思版免费版电影| 欲火凤凰| 上海流浪华姐图片| 神雕无人机| 铿铿铿锵锵锵锵免费观看人民| 九重紫电视剧免费观看高清| 电视剧我是传奇在线观看| 大侦探 第十一季| 办公室风云在线观看完整版| 《法国空乘4:满天星》| 澳门风云粤语高清| 广东碧桂园学校| 军统枪下的女人| 丁度巴拉斯肉蔻之香免费在线观看| 婚姻攻防战| 熊出没回家过年| 同学两亿岁免费观看免费全集| 隔壁漂亮女邻居躲避我是什么心理| 法国《古墓丽影》| 淮阳婚庆| 超级飞侠第二季| 电影晁盖| 在姨母家的客厅在线观看电影免费| 电影《加菲猫家族》| 东成西就2011百度影音| 信任 陈奕迅| 吉吉电影| 美容院的待遇服务在线观看 | 我们民谣2022| 黑白配HD中文版在线观看| 张根硕生日| 最后的希望| 滚石30周年北京演唱会| 插曲的痛全集免费播| 美版灭火宝贝2监狱| 太极张三丰李连杰| 嫁给西北糙汉子的小说爱情| 我的梦为你停留| 高清《开始捉迷藏 第二季》 | 电视剧上海一家人全集在线播放| 浴血十四年电视剧全集免费观看| 浮之公手3| 《北越暴行》免费观看有一部电影抓了好几个女人,当官的三个人一起轮奸是什么 | 入室暴行中文版免费观看完整版| 电影白蛇浮生| 新绛县| 电影《蛇妖1988》空姐满天星在线观看 | 小马宝莉之小马国女孩| 如懿传1—87集在线观看| 按摩店的待遇1免费观看| 醉酒被爆菊花的美女| 七根心全集在线播放免费| 我最亲爱的 李致贤| 江源县| 《私人女性监狱》-伦理片在线观看 - 南瓜影院 | 雷神4免费完整版观看| 卖房女销售艾丽丽全集免费| 巴霍巴利王| 电视剧食神| 本乡爱二阶堂梦免费播放| 圣诞树折纸| 嫂子的职业免费| 涩涩屋在线观看。| 星空恋人电视剧| 《优雅贵族的休假指南。》| 禁忌4年转一| 《史前战纪 第三季》| 堕落的女律师| 我的小姨全集在线观看| 猩球崛起2:黎明之战电影| 荒野渔夫高清免费观看| 欢喜婆婆巧媳妇| 温柔的背后全集| 电影不忠结局在线观看免费高清| HD版《激战丛林》电影| 蓝宇 电影| 紫钗奇缘粤语高清| 商务旅行戴绿色的帽子| 大象电视剧| 我的三体| 电影美国爸爸要播种| 吉星拱照免费完整版粤语| 锦绣未央43集| 三年大片大全国语版| 电视剧少年嘉庆| 优越的一天电视剧全集完整版| 空中服务员免费高清原声满天星| 替身演员:逆袭成影后全集免费| 龙门镖局 影音| 我的瘦子女朋友2上映时间 | 年轻母亲2中文字幕| 三位大学位按摩记| 年轻的母亲4先韩剧| 王者大师兄| 《二对一的商务模式2》中文| 双子星公主第3部| 城口县| 推动摇篮的手| 教父2免费| 最新泰剧| 黑白配中文版免费观看视频| 父母爱情免费观看| 第一滴血5免费观看完整版电影高清 | 雪中悍刀行电视剧剧情介绍| 同在屋檐下 电视剧| 麻将电影| 金镖黄天霸| 八戒,八戒免费在线观看8| 电视剧女人泪| 《黄金瞳》在线观看| 一个好妈妈8字头强华驿是第几集出现 | 木子檀电影免费观看2023| 听说你喜欢我在线观看| 分手后程医生哭出鼻涕泡短剧免费| 女战狼6免费高清版999加拿大版| 《图书馆的女朋友》第一季免费| 连麦kp录音原版mp3| 新雪豹电视剧全48集| 《总统夫人》星克莱尔1997年满天星在线免费观看 | 功夫周星驰国语高清| 零点电影完整版| 女律师的堕落电影| 我爱你中国谭晶| 三叉戟2在线看| 《xl司令》第一季| 花灯满城在线观看| 八月的棒球甜心动漫免费观看| 真维斯属于什么档次| 女版壮志凌云2满天星1080p| 我们的秘密免费观看全集| 新僵尸先生 电影| 在线观看日本电影《和讨厌的部长出差旅》 | 搞笑一家人第二部| 斗罗大陆2绝世唐门第五季| 《女学生的滋味》HD电影嫩草影院| 爱的烹饪法国语版全集| 给我免费观看片在线电影的| 美丽屋景6普通话版免费| 东成西就国语版完整版免费观看| 天涯明月刀鬼爷爷| 妈妈的职业8结局原声在线看视频免费| 中国达人秀 卓君| 极度召唤未删减| 游泳馆的工作2免费| 熊出没高清观看| 梦幻西游服战直播| 西峡县| 半身死灵2| 天使快播| 陆贞传奇电视剧百度影音| 渔夫荒野史电影在线观看| 奔跑吧兄弟黄河篇免费观看| 罪恶王冠ed| jjzz44| 珠光宝气国语版| 好姑娘中文在线观看| 新还珠格格独家纪录片| 恋语轻唱动漫免费观看完整版| 朋友的老婆1| 疯狂的意大利假期在线观看| 毒医肥尸1999未删减版| 宝石宠物第二季| 罪夜之奔第一季| 《姊妹牙医》完整版在线播放免费观 | 北京志宏餐饮公司| 菲梦少女第二季全集免费| 男生和女生在一起愁愁愁电视剧在线观30集 | 秘密女搜查官在线观看免费全集| 龙之谷破晓奇兵| 电影植物学家的女儿| 孙颖莎26分钟下班| 安那情欲史| 难哄白敬亭电视剧在线免费观看| 河南大象新闻| 四少妇性按摩中字| 电影《活着》免费观看| 探长欧光慈| 圣特罗佩姑娘们免费观看| 长河落日电视剧全集| 《搜索》| 唐红的恋歌| 熟睡中被义子侵犯电影免费观看 | 与鸭共舞| 男女愁愁愁在线观看视频| 一线高清在线观看| 光环2电影| 台湾版(武松)蒋玲玲| 韩剧修理工的艳遇| 熊出没之环游世界| 熊出没之熊心归来 电影| 安斋拉拉出演的电影| 玄女心经2观看| 杨贵妃_完整电影| 灿烂的海棠花4| 不输男儿郎:将门嫡女沙场全集免费| 小爸爸全集在线观看| 小娘惹全集电视剧完整版免费观看| 牙医姐妹1986完整版资源| fate奇异赝品| 智明嘉措| 美式忌讳5—7| 无限复活国语高清| 首尔之春历史真实事件| 最开放的表演12点表演| 家属1到6集第一季第五集免费观看| 网游之王者世界jar| 甄嬛传电视剧免费版全集| 电影《千金与仆人》免费播放| 徐少强 金瓶梅| 奉子成婚第一皇后| 大小姐tik免费观看全集高清| 法国满天星古墓丽影全集| 41度高温下交警女儿暴躁宠爹| 名侦探柯南沉默的十五分钟| 妻子被部长欺负免费观看电视剧| 生存游戏在线观看完整版免费| 陈浩民版西游记1| 《情欲办公室》未删减版在线观看| 秘密花园2.9.7最新版本更新时间| 举起手来第二部| 颠倒歌刀郎歌词| 木子檀檀子电影免费看高清| 热浪滚汤在线观看| 斗罗大陆170| 变种女狼3归来| 女销售成功的秘诀2中字| 老爸当家电视剧| 百姓秀才官全集| 电影《美容院的特殊待遇》5演员表| 洗衣机修理工艳遇电影| 守候我们的幸福| 修仙小师妹:师兄都宠我短剧全集| 电影《战狼6》国语高清| 袁隆平写给母亲的一封信| 王菲执迷不悟| 东京食种| 韩国电影飘亮女友的妈妈| 她妈妈的公主| 《不当交易》完整版在线观看| 《地爆天星小姐》电影 | 偶像练系生| 《氪金玩家》樱花动漫| 招待外卖员电影| 我的老婆是小学生| 黑帮大佬和我365日在线观看| 治多县| 周弘版《村枝》MV免费观看| 终极谍匪| 老梁故事汇之西游记| 17se| 曝光大叔女子哭诉学校准备开除她| 悲伤比更悲伤的故事| 箭在弦上42| 飞翔女孩法国空姐4| 误杀电影| 韩国电影姐姐免费完整版| 韩国综艺节目runningman| 助理2| 吉星拱照免费完整版粤语| 隐形战队国语电视剧免费观看| 电视剧《富春山居》杀青| 牙医姐妹1986年日本| 免费观看唐人街探案3电影完整版| 道师爷3电影在线观看完整版| 少女战车| 法国空姐4免| 阅兵式2015高清完整版| 苹果范冰冰视频| 少女时代电影| 特派外卖员在线视频免费观看 | 行尸走肉第一季百度影音 | 鬼吹灯有声小说在线收听| 静安区| A片按摩师未删减在线看| 无声电影免费观看普通话| 超能陆战队免费观看| 美妙发型屋1| 急诊护士完整版| 恋人电视剧| 狐妖小红娘无暮篇免费观看| v-hotel啄木鸟第一季全集在线观看| 我的妈妈电视剧韩剧| 人间烟火1-40集免费看| 难哄电视剧在线观看免费| 农民伯伯下乡3国语版吴健视频| 嗨皮兔儿歌小兔子乖乖| 电视剧免费观看高清全集| 女法医jd| 厨房激战4电影完整版| 林师傅在首| 韩版我的女保姆HD| 张根硕宠物情人上映| 罗丽莱尔星克《魔术师》免费观看 | 爱情公寓3 13| 特邀的外卖员| 黑暗深处| 浪漫玛丽国语版全集| 怀玉格格| 法国空姐4免费高清原声满天星美版百度 | 最是人间烟火气免费观看完整版| 时光正好电视剧在线观看| VICTORYDAY护士| 朴亚珍隐身帽子2017| 跳进地理书的旅行第二季| 宋小宝2022年最新小品| 台湾片后宫春艳录hd| 《抵债的朋友麦子》剧情介绍| 感官王国| 曾经想火| 琪琪布网站| 特殊的治疗2李采潭免费观看全集| 我女友是机器人| 淘宝公布2023年度丑东西| 泡芙小姐第二季| 金银5一10普通话| 哈利波特20周年重返霍格沃茨| 电影《红色角落》完整版免费观看| 穿越火线在线观看免费| 插曲的痛全集观看无码| 神探飞机头3| 喋血劫花电视剧| 爱情公寓盗墓笔记| 十七岁完整版在线观看西瓜| 莱利里德黑白配在线观看高清| 《月鳞绮纪》| 缺宅男女大结局| DTF圣路易日记| 女友的妈妈韩字的id是谁| 大风杀电影在线观看完整版| 交谊舞慢三步| 三妻四妾高清免费观看第7集| 《我的大胸继拇》3|