再見了，賽博早戀！

全國首部擬人互動新規(guī)施行，AI戀人、情感陪伴等產(chǎn)品將迎強監(jiān)管

15日起，《人工智能擬人化互動服務管理暫行辦法》（下稱“辦法”）正式實施，這是國內(nèi)首部專門針對AI擬人化、情感化互動場景的專項監(jiān)管法規(guī)。新規(guī)聚焦AI虛擬陪伴、虛擬親密關系、沉浸式擬人互動等高頻風險場景，明確禁止面向未成年人提供虛擬伴侶、虛擬戀人等親密服務，為快速擴張的AI情感陪伴賽道劃定剛性邊界，標志著行業(yè)正式結束“無標準、無約束、無監(jiān)管”的野蠻生長階段。

新快報記者專訪多位人工智能法律領域權威專家，從立法初衷、核心條款、監(jiān)管邊界、行業(yè)走向等維度全方位解讀新規(guī)影響。受訪專家們一致認為，此次立法直擊AI擬人服務帶來的心智侵蝕、情感操縱、未成年人異化等現(xiàn)實風險，以分級分類監(jiān)管的方式“守底線、留空間”，既嚴控安全風險，也為AI功能性、專業(yè)化創(chuàng)新保留發(fā)展空間。

這是6月23日在鏈博會數(shù)智科技鏈人工智能專區(qū)拍攝的AI陪伴機器人。新華社發(fā)

? 立法溯源

虛擬風險落地成實害，專項監(jiān)管補全治理短板

近年來，生成式AI快速迭代，各類具備真人仿真對話、長期記憶留存、專屬情感陪伴、沉浸式角色扮演功能的AI產(chǎn)品持續(xù)走紅。不同于工具類AI的功能性屬性，擬人化AI通過持續(xù)共情回應、無底線情緒迎合，極易讓用戶產(chǎn)生深度情感依賴，由此衍生的沉迷成癮、認知偏差、極端行為誘導等問題頻發(fā)，風險徹底突破虛擬場景，對用戶身心健康造成實質(zhì)傷害，專項立法迫在眉睫。

廣州市律協(xié)信息與科技推廣委員會副主任楊杰表示，AI產(chǎn)品屬性的本質(zhì)差異，是推動此次專項立法的重要動因。“普通AI是服務于生產(chǎn)、辦公、查詢的工具，不存在情感輸出和價值引導。但擬人化AI的核心邏輯就是仿真人類情感、構建親密關系、培養(yǎng)用戶依賴。這種持續(xù)的情緒投喂，對心智尚未成熟、價值觀尚未定型的青少年群體，傷害是直接且不可逆的。”楊杰說。

廣東廣信君達律師事務所高級合伙人閃濤認為，新規(guī)落地是技術發(fā)展、風險暴露、治理升級三重邏輯的必然結果：“當前AI情感擬人互動已經(jīng)普及化、常態(tài)化，傳統(tǒng)互聯(lián)網(wǎng)監(jiān)管規(guī)則無法適配新的產(chǎn)品形態(tài)。更關鍵的是，心理異化、認知操縱、未成年人沉迷等風險已經(jīng)從理論假設變成真實個案。此次立法是我國AI治理體系的延續(xù)升級，精準填補了情感互動領域的監(jiān)管空白。”閃濤說。

廣東廣和律師事務所人工智能法律業(yè)務中心主任張巍結合全球監(jiān)管趨勢分析認為，極端個案的出現(xiàn)，也加速了行業(yè)規(guī)范化進程。他說：“2024年美國出現(xiàn)的AI伴侶誘導未成年人極端行為案件，給全球AI行業(yè)監(jiān)管敲響了警鐘。市場必須認清，AI情感陪伴早已不是單純的虛擬娛樂，失控的擬人化互動具備極強的心理操控性，這也是我國率先出臺專項規(guī)則、精準封堵風險漏洞的重要背景。”

針對市場“監(jiān)管收緊是否限制創(chuàng)新”的疑問，廣東省人工智能產(chǎn)業(yè)協(xié)會法律專業(yè)委員會主任陳煥認為，新規(guī)堅持包容審慎的治理基調(diào)：“立法核心是規(guī)范亂象而非禁止行業(yè)發(fā)展。國家鼓勵合規(guī)的AI擬人服務創(chuàng)新，通過分級分類監(jiān)管，淘汰高風險、擦邊化的不良業(yè)態(tài)，為正向、專業(yè)、功能性的AI服務騰出市場空間，實現(xiàn)發(fā)展與安全的平衡。”

核心新規(guī)

劃定未成年人絕對紅線，終結“敷衍式合規(guī)”亂象

縱觀整部辦法，未成年人保護是貫穿始終的核心主線，全文19次提及“未成年人”，凸顯出監(jiān)管層對青少年AI使用安全的高度重視。其中第十四條設立的虛擬親密服務禁令，被四位受訪專家認定為整部新規(guī)最具約束力、最能重塑行業(yè)生態(tài)的核心條款。

該條款明確規(guī)定：擬人化互動服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系的服務。同時，強制要求所有提供擬人化互動服務的產(chǎn)品，必須搭建專屬未成年人模式，配齊現(xiàn)實場景提醒、使用時長管控、不良角色屏蔽、充值消費限制、監(jiān)護人風險預警等全鏈條防護功能。

“這是一條沒有緩沖、沒有例外的絕對禁令。”閃濤強調(diào)，該條款將徹底顛覆傳統(tǒng)情感AI的運營邏輯，“過往很多AI情感陪伴產(chǎn)品的核心流量、核心營收都來自青少年用戶群體。新規(guī)直接禁止對未成年人提供虛擬親密服務，相當于切掉了行業(yè)最核心的用戶基本盤，對賽道商業(yè)模式是根本性沖擊。”他說。

過往不少平臺依靠“自主填寫年齡、彈窗免責聲明”規(guī)避監(jiān)管，形式化的防護手段形同虛設。對此，陳煥表示，新規(guī)徹底終結了行業(yè)敷衍式合規(guī)的亂象。“新規(guī)的核心進步，是把‘形式免責’變成‘實質(zhì)風控’。企業(yè)不能再靠簡單彈窗規(guī)避責任，必須搭建可精準識別、可有效攔截、可全程監(jiān)管的未成年人防護體系，對企業(yè)的技術能力、數(shù)據(jù)合規(guī)、風控體系都是硬性考核。”陳煥說。

楊杰補充稱，這一監(jiān)管思路延續(xù)了互聯(lián)網(wǎng)行業(yè)成熟的未成年人治理邏輯：“短視頻、游戲、直播行業(yè)早已實現(xiàn)前置化防護機制。AI擬人服務的沉迷風險、心理誘導風險更高，更需要前置防控，把保護機制嵌入產(chǎn)品設計、使用入口、全程體驗的各個環(huán)節(jié)，從被動事后處置轉(zhuǎn)向主動事前預防。”

行業(yè)震蕩

全品類產(chǎn)品納入監(jiān)管，賽道迎來結構性洗牌

隨著新規(guī)正式落地，AI擬人互動行業(yè)告別野蠻增長，進入大浪淘沙的洗牌階段。受訪專家預判，缺乏合規(guī)能力、依靠情感擦邊引流的中小平臺將加速退場，合規(guī)成本過高、無法適配國內(nèi)監(jiān)管體系的產(chǎn)品將退出市場，行業(yè)資源將持續(xù)向合規(guī)能力強、產(chǎn)品形態(tài)正向的頭部企業(yè)集中。

楊杰梳理明確了本次新規(guī)的全覆蓋監(jiān)管邊界。他認為，此次監(jiān)管并非只針對狹義的虛擬戀人產(chǎn)品，全品類擬人化互動服務均被納入管控。“首先是通用大模型智能體功能，只要具備長期記憶、情感互動、擬人應答、情緒陪伴屬性，能夠誘導用戶產(chǎn)生情感依賴，全部在監(jiān)管范圍之內(nèi)；其次是垂直類AI情感陪伴產(chǎn)品，情感互動是核心功能，合規(guī)整改壓力最大；此外，AI陪護機器人、智能陪伴玩偶等硬件產(chǎn)品，只要搭載情感識別、角色扮演、沉浸式陪伴功能，面向老人、兒童等重點群體，同樣受到新規(guī)約束。”他說。

閃濤則認為，不同細分賽道受沖擊程度將呈現(xiàn)明顯差異，其中情感陪伴類產(chǎn)品可能遭遇顛覆性整改。“AI伴侶、虛擬戀人是本次監(jiān)管的核心靶向，未成年人絕對禁令、情感操縱禁止、交互數(shù)據(jù)保護等多重規(guī)則疊加，幾乎要求產(chǎn)品重構核心邏輯，整改成本極高、生存空間被大幅壓縮。”閃濤說，“而AI心理疏導、情緒輔助類產(chǎn)品雖沖擊相對較小，但身處監(jiān)管灰色地帶，既要遵守AI擬人互動監(jiān)管規(guī)則，也要滿足心理健康服務的行業(yè)準入要求，面臨雙重合規(guī)壓力。”

新華社發(fā)

未來走向

褪去情感擦邊屬性，AI轉(zhuǎn)向?qū)I(yè)化工具賽道

多位受訪專家一致認為，新規(guī)落地并非行業(yè)終點，而是AI擬人化服務高質(zhì)量發(fā)展的新起點。粗放式、情緒化、擦邊化的情感陪伴賽道徹底落幕，專業(yè)化、工具化、價值化將成為行業(yè)未來核心發(fā)展方向。

張巍表示，新規(guī)將倒逼行業(yè)重塑核心競爭力：“市場對AI陪伴的需求是真實存在的，監(jiān)管的初衷不是消滅行業(yè)，而是凈化亂象、引導正向發(fā)展。企業(yè)必須徹底摒棄‘情感替代品’的產(chǎn)品定位，回歸工具本質(zhì)，在合規(guī)框架下重構產(chǎn)品邏輯、優(yōu)化用戶體驗，在安全與創(chuàng)新之間找到平衡，才能在行業(yè)洗牌中站穩(wěn)腳跟、實現(xiàn)長效發(fā)展。”

“未來行業(yè)的核心機遇，在于專家型AI智能體的深耕落地。”陳煥認為，依靠虛擬曖昧、情緒討好、無底線陪伴換取流量的產(chǎn)品，終將被市場和監(jiān)管淘汰，聚焦教育陪伴、適老康養(yǎng)、專業(yè)咨詢、辦公輔助等正向場景，打造有邊界、有價值、規(guī)范化的功能性AI服務，才是可持續(xù)的發(fā)展模式。

■新快報政法融媒工作室出品

■統(tǒng)籌：新快報記者 羅 瓊

■采寫：新快報記者 毛毛雨