劉永謀：AI在貶抑人的主體性嗎？

*中國人民大學(xué)吳玉章 講席教授劉永謀首發(fā)于微信公眾號，保留一切知識產(chǎn)權(quán)，侵犯必究。

AI時代人的歷史境遇，日益引起大家的關(guān)注。最近有雜志希望我談?wù)凙I與人的關(guān)系，單位也希望我開講“AI與人的主體性”。這些都屬于“AI時代人的歷史境遇”的大范疇，可以分解為無數(shù)的小問題。我個人最關(guān)心的問題是：AI時代的人心及其安頓。

關(guān)于AI與人的關(guān)系，2023年就在《智能時代的人機(jī)關(guān)系》一文中進(jìn)行過闡釋，我們主張走向技術(shù)控制的選擇論，與我的有限技治理論相一致。

至于AI與主體性的問題，我在多篇論文中進(jìn)行過不同視角的回答，尤其是在《AI時代人的機(jī)器化憂思》中。這篇文章清楚地表達(dá)了我的觀點：AI時代最大的問題，不是機(jī)器人會變成人，而是人正在變成機(jī)器。換言之，我認(rèn)為，目前AI發(fā)展暴露出貶抑人的主體性的一面，值得整個學(xué)界和全社會的關(guān)注。

1.要搞清楚這個問題，首先理解主體、主體性是什么意思。

“主體”（subject）是英語漢譯少有的非常成功的翻譯之一。與之相比，“科學(xué)”“自然”“哲學(xué)”“形而上學(xué)”等英語漢譯要差得多。比如，“科學(xué)”漢語意思是分科之學(xué)，與science“客觀知識”“客觀真理”的意思相差太遠(yuǎn)。

什么是主體？它是一種人類自我理解、自我定位的觀念，即人在自然、社會、宇宙中居于主導(dǎo)位置。“人是主體”是現(xiàn)代以來才成為主流的觀念。有人說它的確立要?dú)w功于笛卡爾的“我思故我在”，也有人說應(yīng)歸功于康德的“人是目的”。無論如何，人并不是從來都自認(rèn)為占據(jù)著主導(dǎo)位置的，而是自文藝復(fù)興、啟蒙運(yùn)動之后才如此的。

可以說，主體觀念的確立，是文藝復(fù)興、啟蒙運(yùn)動最偉大的成果。在現(xiàn)代智人即克羅馬農(nóng)人的歷史上，絕大多數(shù)的時間中，上帝才是“主體”，人都是匍匐在神的腳下的，根本談不上人的自信尊嚴(yán)。尤其在中世紀(jì)，世俗人生如果還有一點意義，也僅僅在于滌蕩罪惡以獲得天堂的救贖。總之，主體觀念的確立是最偉大的人類解放成果。

什么是主體性呢？作為主體的人所具有的根本屬性。換言之，人籍此成為主體，籍此與眾不同。比如，人有動物沒有的理性，所以理性是主體性的表現(xiàn)之一；人能自主地改造環(huán)境，所以能動性是主體性的表現(xiàn)之一。總之，主體性讓人成為人，成為地球上唯一的主導(dǎo)。

現(xiàn)在有非人類中心主義，就認(rèn)為將主體地位唯一地給予人不對，導(dǎo)致環(huán)境被破壞，因此應(yīng)該將主體地位授予動物、植物、生命乃至生態(tài)圈。

2.接著我們思考一下：科技與主體性的關(guān)系，思考一下AI技術(shù)的特殊性，

現(xiàn)代科技發(fā)展對人的主體性是好是壞，是增強(qiáng)還是貶抑了呢？

答案很清楚：科技是一柄雙刃劍。

從增強(qiáng)主體性而言，科技發(fā)展既增強(qiáng)了人在改造自然、社會和世界的主體力量，也增強(qiáng)了人的自信尊嚴(yán)、提高人的自我定位，是現(xiàn)代主體觀念最強(qiáng)有力的支撐。

從貶抑主體性而言，科技發(fā)展反過來也在束縛人的主體性的發(fā)揮，甚至反過來束縛人。比如，馬克思恩格斯批評過工業(yè)革命，讓工人的處境變得非常的艱難、墮落。這就是所謂技術(shù)異化問題。

按照馬克思主義基本原理，科學(xué)技術(shù)從根本上說是革命性的解放力量，但在階級社會被統(tǒng)治階級不當(dāng)利用才成為異化的力量。特別地，在資本主義社會，資本、資本家決定了AI等新科技的使用，成為統(tǒng)治人的工具。簡言之，不是技術(shù)束縛人，而是“技術(shù)的資本主義應(yīng)用”在束縛人。

這一點用在AI上也是一樣的：不是AI在貶抑人的主體性，而是AI的不當(dāng)應(yīng)用在貶低人。

進(jìn)一步而言，為什么我們不怎么討論自行車、汽車與人的主體性的關(guān)系，而對AI與人的主體性問題津津樂道呢？這說明AI技術(shù)具有特殊性。

一種眾所周知的觀點：工業(yè)革命、電力革命解放人的雙手，信息革命、智能革命解放人的大腦。當(dāng)然，這種說法并不準(zhǔn)確。比如，智能革命對體力勞動、腦力勞動都有取代作用。不過，我們的確認(rèn)為計算機(jī)很特殊。

同樣是機(jī)器，為什么我們認(rèn)為計算機(jī)就不一樣呢？我認(rèn)為，這是古老的“身心歧視”的結(jié)果，即自古人們認(rèn)為大腦比身體高級、靈魂比肉體高級。由此，既然計算機(jī)模仿的是人的大腦，因而和其他機(jī)器不同，值得人類的崇拜。這種論證邏輯顯然是站不住腳的。“身心歧視”不過是一種意識形態(tài)成見，沒有科學(xué)證據(jù)表明大腦有資格歧視身體。比如，很多人認(rèn)為，人的智能是具身性、延展性的，不局限于大腦之中。

因此，AI技術(shù)特殊性存在意識形態(tài)根源。我們思考AI與主體性的問題，與“身心歧視”有關(guān)。

3.除此之外，目前AI技術(shù)的發(fā)展的確存在貶抑主體性的趨勢。

這個趨勢是現(xiàn)實中存在的，是AI時代焦慮內(nèi)卷蔓延的重要原因。

以AI技術(shù)為核心的智能革命，從某種意義上說，伴隨著人對自身理解和定位的重大變化。

研究AI的人很容易想到一個問題：人有什么了不起的，人的智能有什么了不起的呢？因為AI可以模仿，甚至超級AI還會全面超越。

在《AI時代，重返伊甸園》中，我討論了這個問題：人在AI面前的羞愧。面對自動機(jī)器，我們大喊“無用之人”。之前面對小汽車代替雙腳，我們?yōu)槭裁床淮蠛啊盁o用之人”呢？僅僅因為AI全替代，而小汽車部分替代嗎？決不是。你想，每種技術(shù)部分替代，加起來不就是全替代嗎？

歸根結(jié)底，AI的發(fā)展把在人的地位拉平至智能機(jī)器。無論是知情意，哪個方面的主體性，AI均可以模仿，或者可以從根本上消解。

從社會層面上說，AI的發(fā)展把人類社會活動的“草臺班子”真相揭露出來。發(fā)現(xiàn)許多冠冕堂皇的東西，其實都是狗屁工作。

因此，我們在AI面前感到羞愧，這就是我說的人對自身理解徹底發(fā)生改變的原因。

4.AI發(fā)展對主體性的貶抑，存在相向而行的兩個方面，即AI地位的上升與人地位的下降。

在AI地位上升方面，各種AI是不是主體、AI有沒有意識、AI有沒有道德的我所謂的“AI覺醒敘事”，以及各種AI解放人類、AI解決一切問題的我所謂的“AI解放敘事”的大流行，均要將之推向主體或擬主體、新主體的位置。

可以機(jī)器人權(quán)利討論為例。機(jī)器人也有權(quán)利了，不能隨便打罵，和人差不多了。

在人地位的下降方面，關(guān)于人類未來的三種想象即“賽博格”“數(shù)字人”“機(jī)器人”均在講述AI時代“人的機(jī)器化”的故事。在現(xiàn)實生活中，“人的機(jī)器化”正在身心兩方面同時推進(jìn)。

在意識形態(tài)上講，我所謂“科學(xué)人崛起”指的正是人們逐漸開始自認(rèn)為是“另一種智能機(jī)器”。所謂AI價值對齊，一開始目標(biāo)是AI向人對齊，結(jié)果變成人向AI對齊。

5.由此，我們應(yīng)該如何應(yīng)對呢？

第一，以教育、藝術(shù)和人文學(xué)對抗“AI時代人的機(jī)器化”。從人的方面，守住人的靈性和意義。

第二，堅持有限主義的AI發(fā)展進(jìn)路，有所為、有所不為，走向技術(shù)控制的選擇論。就主體性而言，有損于人的主體性的AI發(fā)展方向就要限制甚至禁止。這是從AI方面，反對AI的意識化、道德化。

這對應(yīng)著上述上升和下降兩個方面。

從根本上說，應(yīng)對策略首先是重構(gòu)人類的價值觀念。尤其要強(qiáng)調(diào)：AI并不必然貶抑會尊崇人的主體性，而是與AI相關(guān)的不同的應(yīng)用發(fā)展以及技術(shù)-制度安排相關(guān)。其中，我特別強(qiáng)調(diào)：不要輕易放棄文藝復(fù)興和啟蒙運(yùn)動的成果，畢竟人類站起來也沒有幾百年時間。