DeepMind科學(xué)家萬(wàn)字長(zhǎng)文：為什么AI永遠(yuǎn)不可能有意識(shí)？

文 | Omni實(shí)驗(yàn)室

近期，谷歌DeepMind高級(jí)科學(xué)家Alexander Lerchner發(fā)表了一篇論文。

結(jié)論非常清晰：

算法符號(hào)操作在結(jié)構(gòu)上不可能有能力產(chǎn)生意識(shí)，無(wú)論模型多大、架構(gòu)多復(fù)雜、是否擁有人形身體。

仔細(xì)看這句話，AI有意識(shí)這件事兒不是現(xiàn)在不行，而是從邏輯上看永遠(yuǎn)都不行~

這篇論文的標(biāo)題為《The Abstraction Fallacy： Why AI Can Simulate But Not Instantiate Consciousness》

（譯 | 《抽象謬誤：為何人工智能只能模擬意識(shí)，但不能實(shí)例化意識(shí)》）

論文發(fā)出后，引發(fā)廣泛討論~

（一) 主流范式錯(cuò)在哪里?

Lerchner要反駁的，是目前AI意識(shí)討論中最主流的一個(gè)理論框架——計(jì)算功能主義。

計(jì)算功能主義拆開(kāi)來(lái)看包含幾個(gè)核心信息：

1.意識(shí)的本質(zhì)是一套因果拓?fù)浣Y(jié)構(gòu)，跟底層物理材質(zhì)沒(méi)有關(guān)系;

2.同一套功能可以在人腦的生物神經(jīng)元上實(shí)現(xiàn)，也可以在硅基芯片的數(shù)字電路上實(shí)現(xiàn);

3.只要一個(gè)數(shù)字系統(tǒng)精準(zhǔn)復(fù)刻了意識(shí)的因果邏輯，主觀體驗(yàn)就會(huì)自動(dòng)涌現(xiàn);

說(shuō)白了就是一句話：意識(shí)不挑硬件，碳基還是硅基都不重要。

但Lerchner認(rèn)為，這套理論看著沒(méi)有錯(cuò)誤邏輯，但實(shí)則從一開(kāi)始就建立在錯(cuò)誤的前提上。

他給這個(gè)錯(cuò)誤起了個(gè)名字：抽象謬誤。

（二) 抽象謬誤：把地圖當(dāng)成領(lǐng)土

他為抽象謬誤提供了兩個(gè)比喻:

1、地圖不是領(lǐng)土

無(wú)論把一張城市地圖畫(huà)得多精細(xì)，完整復(fù)刻每一條街道、每一棟建筑、每一個(gè)紅綠燈，這張地圖都不會(huì)變成它描述的那座城市。

地圖是對(duì)城市的抽象關(guān)系描述，城市是具備真實(shí)物理因果力的實(shí)體存在。

2、公式不是引力

寫(xiě)在紙上的萬(wàn)有引力公式可以精準(zhǔn)描述引力規(guī)律，但這個(gè)公式本身不會(huì)產(chǎn)生質(zhì)量，也不會(huì)產(chǎn)生引力。

公式是對(duì)引力的抽象邏輯描述，引力是物理世界的內(nèi)在因果屬性。

Lerchner認(rèn)為，計(jì)算功能主義正好陷入了這個(gè)謬誤：

把對(duì)意識(shí)行為和邏輯的抽象符號(hào)模擬等同于意識(shí)本身的真實(shí)生成。

一個(gè)系統(tǒng)可以把意識(shí)的行為模仿得惟妙惟肖，但這只是模擬，模擬不等于真正擁有。

（三) “制圖者”：被忽略的前提

論文引入了兩個(gè)關(guān)鍵概念：“模擬”和“實(shí)例化”。

模擬可以理解為對(duì)某一現(xiàn)象的外部行為復(fù)制。

比如一臺(tái)機(jī)器可以模仿心臟泵血的動(dòng)作，但它不會(huì)因此變成真正的心臟。

真正的心臟有其內(nèi)在的物理構(gòu)成和熱力學(xué)動(dòng)態(tài)，這是“實(shí)例化”。

論文嚴(yán)格區(qū)分了這兩個(gè)概念的前提，是找到了整個(gè)計(jì)算范式中一個(gè)長(zhǎng)期被忽略的要素——制圖者（Mapmaker）。

制圖者，是任何一個(gè)擁有主觀體驗(yàn)的生命體，它完成的工作是對(duì)物理世界的語(yǔ)義切分。

計(jì)算機(jī)里運(yùn)行的0和1不是宇宙的固有屬性，物理世界不“知道”什么是1什么是0。

芯片里只有實(shí)實(shí)在在的電壓和電荷的連續(xù)流動(dòng)，是人類(lèi)觀察者為這些物理信號(hào)設(shè)定了閾值，賦予它們符號(hào)意義。

如果沒(méi)有一個(gè)擁有主觀體驗(yàn)的主體來(lái)“制圖”，物理世界的狀態(tài)就只是狀態(tài)，不構(gòu)成任何符號(hào)。

計(jì)算功能主義假設(shè)了物理狀態(tài)到符號(hào)狀態(tài)的映射關(guān)系，但從來(lái)沒(méi)有想過(guò)這個(gè)映射要在哪里才能真正成立。

換句話說(shuō)：一套算法可以在不同的解讀框架下構(gòu)成完全不同的意義~

同一個(gè)物理載體可以承載不同的抽象關(guān)系，真正賦予它意義的是對(duì)它做出解讀的那個(gè)認(rèn)知主體。

（四) 算力解決不了的問(wèn)題

Lerchner認(rèn)為，意識(shí)的來(lái)源不是系統(tǒng)規(guī)模問(wèn)題，不是復(fù)雜性問(wèn)題。

無(wú)論模型參數(shù)堆得多大，無(wú)論神經(jīng)網(wǎng)絡(luò)架構(gòu)多復(fù)雜。

如果底層機(jī)制仍然是符號(hào)操作，那么意識(shí)就永遠(yuǎn)不可能從中憑空出現(xiàn)。

有人可能會(huì)追問(wèn)：具身化的機(jī)器人呢？

給它裝上攝像頭和傳感器，讓它和環(huán)境交互，是不是就能具備意識(shí)？

Lerchner認(rèn)為不能。

機(jī)器人采集到的信號(hào)只是連續(xù)的物理信號(hào)，不管是通過(guò)ADC（模數(shù)轉(zhuǎn)換器）還是其他方式轉(zhuǎn)換為數(shù)字信號(hào).

運(yùn)算的核心仍然在跑那些被提前賦予了符號(hào)意義的數(shù)字。

運(yùn)算之前的信號(hào)輸入已經(jīng)被做了字母表化。

運(yùn)算過(guò)程中的邏輯演化同樣是建立在已符號(hào)化的數(shù)據(jù)之上，最終輸出同樣只是符號(hào)操控的結(jié)果。

整個(gè)過(guò)程從輸入端到輸出端，都沒(méi)有脫離符號(hào)操作的框架。

（五) 接受批判，但暫不宣判

有學(xué)者對(duì)Lerchner的論證表示了一定程度的支持。

其中一種觀點(diǎn)認(rèn)為:

這篇論文成功挑戰(zhàn)了計(jì)算功能主義中過(guò)于天真的簡(jiǎn)化解讀~

也有效提醒了學(xué)界不要只憑外在行為的復(fù)雜性就隨意為AI賦予本體論地位。

同時(shí)，也有中立立場(chǎng)觀點(diǎn)認(rèn)為：

Lerchner對(duì)計(jì)算功能主義的批判很有價(jià)值，但無(wú)需立即得出“所有算法都不能擁有意識(shí)”的強(qiáng)結(jié)論。

目前的系統(tǒng)確實(shí)沒(méi)有令人信服的意識(shí)證據(jù)，計(jì)算的本體論地位確實(shí)存在爭(zhēng)議，但這些并不足以成為最終宣判。

其實(shí)

當(dāng)討論AI是否有意識(shí)這個(gè)話題的主體從局外的哲學(xué)家變成了業(yè)內(nèi)的科學(xué)家時(shí)，問(wèn)題的性質(zhì)就已發(fā)生變化。

這種觀點(diǎn)的對(duì)立并不會(huì)阻礙技術(shù)前行，反而讓人們更清楚~

真正值得珍視的，不是對(duì)意識(shí)的模擬，而是意識(shí)本身。