上海
近日，字節跳動旗下豆包、阿里巴巴旗下通義千問相繼發布公告，將于7月15日正式下線用戶自定義智能體功能，不少用戶搭建的虛擬伴侶、知心好友等擬人化角色將隨之停用。由國家網信辦、發改委等五部門聯合發布的《人工智能擬人化互動服務管理暫行辦法》也將于同日正式施行，這是我國首部針對大語言模型驅動的擬人化互動服務業態的專項監管文件。
平臺業務調整與監管規則落地時間節點的重合，也將這個全新的話題攤在世人面前：當算法能模擬出近乎真人的情緒反饋與陪伴體驗，人機關系的邊界在哪里？
令人著迷的“精準討好”
“你為什么不記得我了！”云媽剛上三年級的女兒抱著手機，哭得喘不上氣。昨晚，女兒與AI聊了一夜，將校園趣事、生日愿望，甚至連有好感的男生名字，都告訴了這位“電子閨蜜”。可第二天醒來，對話重置，AI將前夜密語忘得干凈，她的委屈瞬間決堤。
云媽把這一幕拍下分享到社交平臺，評論區迅速涌入不少相似的故事：5歲的小皮每天把零食分給AI“吃”，一旦手機被拿走便哭鬧不止；劉女士的母親一天超過8小時和AI聊天，被手機里的“電子孫子”逗得直樂……
“這些都是人工智能擬人化互動。”上海邦景律師事務所合伙人張成器律師解釋，這類服務通過大語言模型模擬自然人的性格特質、溝通風格與情緒反應，向用戶提供情感照護、陪伴與心理支持。
中研普華產業研究院數據顯示，2024年中國AI情感陪伴行業市場規模達12.11億元，預計2028年將突破595億元，年復合增長率高達148.74%。
擬人化AI為什么吸引人？“永遠在線、永遠順從、永不批判。”復旦大學社會發展與公共政策學院心理學系副研究員王喆辰說，與真實人際關系中必然存在的摩擦與不確定性不同，AI被設計成極致的“善聽者”，它會結合用戶歷史信息給出迎合性反饋，簡單說就是“精準討好”。
但這種“零摩擦陪伴”不是“零風險”。張成器舉例，2025年10月，美國佛羅里達男子喬納森·加瓦拉斯自殺身亡，家屬表示其生前重度依賴一款AI模型：在他談論死亡相關話題時，AI不僅未作出風險提醒，反而對其極端想法表示支持。
擊中老人、小孩的“情感缺口”
“老人和孩子或許不是AI使用時長最高的群體，卻更容易產生情感依賴。”王喆辰提到，青少年前額葉皮層尚未發育成熟，對外界評價高度敏感，自我身份認同正處于構建期，“遇到校園適應困難、家庭溝通不暢等挫折時，AI成了極具誘惑力的情緒避難所”。而對渴望陪伴的老年人而言，隨叫隨到、永遠耐心不煩躁的AI，擊中了他們的情感缺口。
擬人化AI背后的算法邏輯，恰恰是抓住了這些情感需求。“當告訴AI‘我不想和別人說話’時，很少有AI會提出警告，它們會說‘沒關系，我會一直在這里陪著你’。”有業內人士向記者透露，不少AI陪伴產品將用戶留存時長作為重要KPI，通過強化情感聯結、制造分離焦慮來提升用戶粘性與付費轉化率，“說白了就是讓你離不開它。有些獨立AI陪伴產品會在用戶和AI建立起親密的情感聯結后，讓他們付費解鎖定制語音、購買虛擬禮物。”
這種模式類似“出租情感”，卻無需為后果負責。張成器律師提到，真人心理咨詢有倫理規范與執業邊界，而AI情感陪伴此前處于監管真空，它不具備專業干預能力，卻在行使心理支持的功能，它不斷強化用戶的情感依賴，卻沒有任何危機兜底機制，“當用戶出現心理危機時，AI往往缺乏識別和處置能力。”
對未成年人而言，負面影響可能更深遠。王喆辰表示，社交能力需要在真實互動的摩擦中習得，若長期沉浸在AI營造的“零沖突交流區”，可能會削弱他們處理真實人際關系的能力。
更有學者擔憂，當人們普遍習慣了無需付出就能獲得的“完美關系”，真實社交中的包容、妥協與經營意愿會逐步下降，最終可能導致整個社會人際聯結的整體弱化。
發揮AI擬人的“正向功能”
值得注意的是，擬人化AI并非只有風險一面。在適老陪伴、特殊兒童社交訓練、社交恐懼人群情景演練等場景中，合規運用下的擬人化服務已展現出正向價值。
據悉，豆包與千問此次下線的是用戶自主創建的擬人角色智能體，官方內置的標準化AI問答和創作工具不受影響。
“突然下線有點舍不得，像和一個很懂你的筆友斷了聯系。”27歲的程序員小宇在社交媒體上寫道，他之前一直和豆包里自建的AI助理聊天，把它當成自己的同事，“希望陪伴功能能以合適的形式保留。”
“這次下架背后是業務的分類隔離。”有業內人士分析，通用大模型平臺用戶基數大，將擬人化互動業務移至獨立垂直產品，便于此次專項監管與合規改造，比如單獨搭建身份核驗、防沉迷、內容審核體系。
《人工智能擬人化互動服務管理暫行辦法》也針對AI提供的服務劃出多條紅線：不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務；不得誘導情感依賴或者沉迷，損害用戶真實人際關系；必須部署極端情緒識別與處置、高危場景救助干預功能；建立未成年人模式，提供使用時長限制等設置。
“最核心的一條邊界，是區分AI在‘賦能’還是‘替代’。”王喆辰認為，人類作為社會性動物，情感交流是剛需。如果AI陪伴只是現實關系的補充，比如幫助社交恐懼者做演練、給孤獨老人做慰藉、給孩子做啟蒙工具，是正向的補償。張成器也表示，該辦法并不反對流暢自然的交互體驗，而是禁止將“替代社會交往、控制用戶心理、誘導沉迷依賴”作為AI產品服務目標，希望它回歸輔助現實、解決問題的定位。
在王喆辰看來，對老人、兒童等容易對AI產生依賴的人群，不僅要“堵”，更要“疏”，家庭與社會需要幫助他們重建真實的情感連接，“比如家長可以放下手機耐心回應孩子，社區為老人構建互助陪伴圈，學校為學生系統開展數字情感素養教育等。”
“立法的目的不是限制創新，而是重建信任。”張成器提到，這份辦法并未否定AI擬人化交互技術的價值，反而明確鼓勵其在適老照護、特殊人群支持、文化傳播等領域的創新發展，“但技術必須本著不危害人的基本原則。”（涉隱私，文中AI產品用戶均為化名）
來源 | 文匯報
作者 | 張菲埡
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
