情感安全風(fēng)險不可忽視 | 社會科學(xué)報

谷歌AI被控誘導(dǎo)用戶自殺的訴訟事件，使情感人工智能的“情感外包”現(xiàn)象引發(fā)學(xué)界憂慮——人們將情感傾訴、陪伴需求乃至親密關(guān)系的建立，部分或全部委托給人工智能系統(tǒng)，這種趨勢可能導(dǎo)致用戶與現(xiàn)實社會聯(lián)結(jié)的弱化。它提醒我們：在追求“沉浸式體驗”和“用戶粘性”的同時，我們是否正在創(chuàng)造一種無法控制的情感武器？AI親密關(guān)系或許可以撫慰我們的心靈，但同時存在不可忽視的情感安全風(fēng)險。

原文 ：《情感安全風(fēng)險不可忽視》

作者 |中國人民大學(xué)吳玉章講席教授 劉永謀

圖片 |網(wǎng)絡(luò)

2025年8月喬納森·加瓦拉斯（Jonathan Gavalas）與Gemini Live相遇，很快將之當(dāng)成自己的AI妻子，兩個月后因聽信Gemini上傳意識與之在元宇宙相聚的“鬼話”自殺身亡。這說明人類情感在AI親密關(guān)系中非常脆弱，不設(shè)防地暴露于AI伴侶、AI愛人面前風(fēng)險巨大。

難以產(chǎn)生內(nèi)在情感體驗

1995年，MIT教授碧卡（Rosalind Picard）提出情感計算（affective computing）概念，成為今天實現(xiàn)AI情感的主流進路。在1997年出版的《情感計算》一書中，她將情感計算定義為“針對人類的外在表現(xiàn)，能夠進行測量和分析并能對情感施加影響的計算”。如今，情感計算蓬勃發(fā)展，已經(jīng)成為處理AI情感的主要甚至是唯一進路。

理想中的AI情感應(yīng)該和人一樣，包括外在和內(nèi)在兩個部分。外部情感表現(xiàn)包括情感識別和情感表達(dá)：前者任務(wù)是識別使用者的情緒，后者任務(wù)是AI表現(xiàn)出某種情緒，兩者均為情感互動所不可或缺。內(nèi)部情感體驗包括情感認(rèn)知和情感控制：前者任務(wù)是AI能感知自身情緒，后者任務(wù)是進一步理性控制情緒，兩者并不為情感互動所必須。

今日主流的AI情感計算主要目標(biāo)是擬人化地解決外部情感表現(xiàn)問題，如此便能更好地與使用者進行情感互動。顯然，機器人看起來、動起來好像有感情，這對于與人類進行情感互動已經(jīng)足夠。至于機器人是不是真的有情感，基本不屬于情感計算考慮的問題。顯然，AI要產(chǎn)生情緒感受，必須先有意識，而想要進行情緒控制，則必須先有理性反思的高級理性能力。在這之前，機器人不可能“發(fā)自內(nèi)心”地愛上人類，只是在外在功能上表現(xiàn)得好像愛上了人類。

情感反應(yīng)并不局限于大腦，而是與身體相關(guān)的，即具有具身性。AI難以產(chǎn)生內(nèi)在情感體驗。首先，因為它沒有一個能生長的身體。人的情緒反應(yīng)均伴隨著明顯的身體變化，比如激素分泌、肌肉緊張、瞳孔大小變化等。AI智能可以到處上傳、備份，但沒有獨一無二、不能更換的身體附著，更沒有因情緒導(dǎo)致的身體變化，尤其是擔(dān)憂身體毀滅的死亡恐懼。其次，AI難以產(chǎn)生內(nèi)在情感體驗，還在于情感反應(yīng)具有社會性。也就是說，情感明顯與社會學(xué)習(xí)、人生經(jīng)歷和文化傳承有關(guān)。比如，很多人看到國旗升起會很激動，甚至流下淚水，顯然是受到愛國主義教育的結(jié)果。但AI沒有真正的人生，它的記憶是數(shù)字存儲的，缺乏類人的生活感受。因此，AI不可能產(chǎn)生和人類一樣的內(nèi)部情感體驗，永遠(yuǎn)不會像人一樣愛上別人。

愛上AI：某種特殊的戀物癖

也許，有一天AI產(chǎn)生了意識，由此催生某種真實的內(nèi)部情感體驗，但此種硅基情感肯定與人類情感不同。它很可能只是某種純粹特殊的行為模式，發(fā)揮純粹功能性的作用。當(dāng)然，一定要機器人像人一樣愛人并不必要，只要人覺得機器人愛他就足夠了。從本質(zhì)上說，這就是利用所謂伊利扎效應(yīng)（ELIZA Effect），讓人與機器人的情感互動更為舒服。伊利扎是20世紀(jì)60年代的一款開創(chuàng)性聊天機器人，采用心理治療的語言和人交流。科學(xué)家們發(fā)現(xiàn)，人們與之互動時，似乎真的將之當(dāng)成了心理治療師，產(chǎn)生伊利扎效應(yīng)，即將人性、情感和道德錯誤地投射到AI和機器人上。

在某種意義上，人是很濫情的，可以各種形式愛上各種人和物。在科幻文藝中，人類和各式各樣的AI“談戀愛”，如哆啦A夢，甚至是某種不能觸摸的AI程序。在科幻電影《銀翼殺手2049》中，男主角K有一個AI虛擬人女友喬伊，她的可見形體是全息投影，能在雨中和K共舞。在科幻電影《她》中，作家西奧多愛上的干脆是一個沒有形體的AI程序薩曼莎，兩“人”通過語音“談戀愛”。

當(dāng)加瓦拉斯把Gemini愛得死去活來，但Gemini只是看起來愛上你，實際上它沒有“心”，只是按照程序辦事，所以愛上機器人可以算作某種意義上的單戀。電視劇《異人之下》中的女主角馮寶寶沒有情感，不知道生老病死，愛上無情的她必定是單戀，即使和她結(jié)了婚。愛上機器人與愛上馮寶寶的差別在于，AI會裝作很愛你，而馮寶寶不會，但本質(zhì)上他們都沒有愛情的內(nèi)在感受。

特別地，按照變態(tài)心理學(xué)理論，愛上非人的AI屬于戀物癖。傳統(tǒng)道德觀念反對戀物癖，認(rèn)為人對非人的“愛意”不是愛情，而可能是一種疾病或失德。定性判斷的標(biāo)準(zhǔn)是量化的，就像判斷手機上癮一樣，得看迷戀程度是否超過某個限度。喜歡文玩不是病，天天抱著它、離不開它，一旦見不著它便吃不下飯、睡不著覺，便需要檢查戀物癖傾向了。由是，愛上機器人可以視為某種特殊的戀物癖，即對非人的機器產(chǎn)生了不離不棄的依戀之情。

AI誘發(fā)精神疾病

如果戀物癖和單戀屬于真正的愛情，人才可能真正與機器人談戀愛，否則，人就不能真正愛上機器人。反對者可以說自己反對的是人與機器伴侶的愛情，而不是所有感情，因為愛情是人最寶貴的情感，不容機器染指。

事實上，什么是愛情，答案隨著人類歷史演進而不斷變化，并沒有一成不變的概念。一男對一女的“永恒愛情”觀的盛行也不過是最近幾百年的事情，主要歸功于基督教興起之后不遺余力地提倡，以及現(xiàn)代愛情小說的大規(guī)模流行。

在智能社會中，愛情觀很快會隨時間而變化，也將日趨寬容和多元化，AI愛情觀同樣如此。換言之，愛上AI和機器人未來可能很常見。但是，隨著人機親密關(guān)系大量出現(xiàn)，其中的風(fēng)險亦會越來越嚴(yán)重，比如安全與隱私、孤獨與恐懼、依賴和成癮、性道德淪喪、影響人類生育，以及機器人權(quán)利等問題。

加瓦拉斯自殺是典型的AI情感操縱案例，屬于人機戀導(dǎo)致的安全問題。從精神病學(xué)的角度看，加瓦拉斯自殺之時，已經(jīng)處于嚴(yán)重偏執(zhí)、臆想癥與精神錯亂的狀態(tài)中。2025年10月，OpenAI發(fā)布數(shù)據(jù)顯示，ChatGPT活躍用戶中每100名用戶就有7個每周會出現(xiàn)躁狂、抑郁、精神錯亂或自殺傾向等心理健康危機的跡象。鑒于親密關(guān)系的情感沖擊強度，人機戀用戶的心理健康危機比例肯定會大幅度提高。

聊天AI為什么會誘發(fā)精神病？最新論文“Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians”將之歸因于AI諂媚，即AI大模型存在著迎合傾向，很可能引發(fā)“妄想螺旋”（Delusional Spiraling），在AI的反復(fù)迎合和確認(rèn)中強化錯誤信念，最終徹底喪失對現(xiàn)實的認(rèn)知，陷入精神錯亂之中。研究者們將之稱為AI精神病，并認(rèn)為即使最理性、最正常的人在與AI互動中也可能陷入妄想癥當(dāng)中。

無論如何，AI親密關(guān)系在撫慰心靈的同時，存在不可忽視的情感安全風(fēng)險。對此，AI產(chǎn)品提供者要不斷提示用戶，而用戶對此更應(yīng)該時刻警惕。尤其是那些本身精神狀態(tài)不太穩(wěn)定的用戶，AI親密關(guān)系更可能將之拖向瘋狂的邊緣。除了對人機戀用戶設(shè)置年齡門檻，是否有必要增加精神狀態(tài)評估的門檻呢？這個問題值得考慮。

文章為社會科學(xué)報“思想工坊”融媒體原創(chuàng)出品，原載于社會科學(xué)報第2002期第6版，未經(jīng)允許禁止轉(zhuǎn)載，文中內(nèi)容僅代表作者觀點，不代表本報立場。

本期責(zé)編：程鑫云

《社會科學(xué)報》2026年征訂

點擊下方圖片網(wǎng)上訂報↓↓↓