每經記者:溫夢華 每經編輯:董興生
學習助手、虛擬戀人、情緒陪伴??當下,越來越多的人工智能正成為很多人的情感依賴,尤其是老人和未成年人。當算法能“精準討好”、模擬出近乎真人的陪伴體驗時,人機關系的邊界在哪里?
7月15日,由國家網信辦、國家發展改革委、工業和信息化部、公安部、市場監管總局五部門聯合公布的《人工智能擬人化互動服務管理暫行辦法》(以下簡稱《辦法》)正式施行。這是我國首部專門針對人工智能擬人化互動服務的國家級監管規則。
在經歷爆發式增長后,新規實施將對人工智能產業產生哪些影響?人工智能擬人化未來將何去何從?
多位長期深耕人工智能產業的資深專家在接受《每日經濟新聞》記者(以下簡稱“每經記者”)采訪時均指出,未來產業主線仍是智能體和具身智能擴張,高風險情感功能將轉向獨立化、垂直化和合規原生。
“短期增成本、長期擴市場” 實體機器人賽道將呈現分層影響
“當下AI產業發展迅速,如果未來AI價值觀出現問題,將帶來更大的影響和危害。將人機關系、價值觀對齊,從長遠看肯定是個好事情。”談起《辦法》的實施,四川省人工智能研究院負責人在接受每經記者采訪時表示。
每經記者注意到,此次《辦法》最令產業界關注的,是其精準的適用范圍界定。
根據《辦法》第二條,監管對象明確鎖定為“利用人工智能技術,向中華人民共和國境內公眾提供模擬自然人人格特征、思維模式和溝通風格的持續性的情感互動服務”。同時,《辦法》也指出“提供智能客服、知識問答、工作助手、學習教育、科學研究等服務,不涉及持續性的情感互動的,不適用本辦法”。
“《辦法》的治理對象聚焦持續性人機情感關系,并未覆蓋一般意義上的所有智能體。不能把工具型智能體、實體機器人和AI陪伴產品混為一談。”長期深耕人工智能產業的資深專家徐立(化名)在接受每經記者采訪時坦言。
這意味著,新規的實施,將給不同細分賽道、細分領域的企業帶來差異化影響。
在徐立看來,《辦法》對實體機器人賽道呈現明顯的分層影響,工業型和任務型機器人總體受益,而具備持續情感互動能力的陪伴型機器人將面臨更高合規門檻,承擔的安全責任將顯著高于純軟件產品。
“監管判斷主要取決于功能和交互機制,不取決于載體是手機應用、數字人、音箱還是實體機器人。制造、巡檢、搬運、導覽等任務型機器人因邊界更加清晰,合規不確定性有望下降;養老陪護、兒童陪伴、家庭服務等機器人一旦形成長期人格、情緒識別和關系記憶,原則上將進入《辦法》規制范圍。”徐立向每經記者進一步分析道。
徐立指出,整體上,《辦法》對實體機器人形成“短期增成本、長期擴市場”的影響。短期內,陪伴型產品的研發周期、測試成本和運營人員投入將上升,中小企業可能出現產品收縮或場景聚焦;長期看,規則把工業工具、任務助手和情感陪伴分層管理,有利于避免整個機器人賽道被少數高風險案例拖累。
終結“成癮經濟學” 當AI不再“哄”你,靠什么留住用戶?
公開數據顯示,2025年我國人工智能相關企業存量突破6200家,AI核心產業規模突破1.2萬億元。其中,AI情感陪伴這一細分賽道異軍突起——據中研普華產業研究院預測,到2028年,中國AI情感陪伴行業市場規模將突破595億元,年復合增長率高達148.74%。
資本競逐、創業者涌入,一場關于“情緒價值”的數字化狂歡似乎剛剛開始。
然而,狂歡之下,暗流涌動。過去很長一段時間,“用戶黏性”是AI陪伴產品普遍單純追求的核心指標之一,誰的對話時長更長、喚醒頻率更高、關系綁定更深,誰就能贏得市場。為了留住用戶,不少產品刻意設計“過度迎合”的話術、誘導情感依賴的機制等。
但如今,隨著新規的實施,禁止“過度迎合”、禁止“誘導情感依賴”、禁止“損害真實人際關系”等要求,將擬人化服務過去習以為常的運營手段劃入禁區。那么,當“情緒刺激”被戴上枷鎖,AI陪伴類產品的商業化路徑將駛向何方?鑒于擬人化服務背后高昂的研發與運營成本,其盈利周期又會被拉長多少?
“結合《辦法》2026年7月15日生效、應用商店核驗責任以及網信部門2026年‘清朗·整治AI應用亂象’專項行動,開放式角色平臺的審核、數據和責任成本明顯上升。”徐立表示。
在徐立看來,商業化邏輯將從出售時長和情緒刺激轉向出售可驗證的服務價值,依靠無限對話、虛擬親密關系、付費解鎖角色關系、禮物打賞和情緒召回的模式面臨較高監管風險,新的“黏性”應理解為信任黏性、價值黏性和服務連續性,商業模式宜向訂閱制專業服務、硬件+服務、機構采購、文化內容授權和合規能力輸出轉移。
“盈利能力的評價周期可能拉長,但合規將改善長期客戶價值質量。短期內,減少高刺激設計會降低部分時長和付費轉化,安全評估、年齡識別、人工干預和數據治理也會抬高成本。中長期內,用戶信任、機構采購、家庭付費和渠道準入更依賴可證明的安全記錄。”徐立向每經記者坦言。
告別“一窩蜂”做AI智能體: 大廠做隔離、創業做垂直、第三方做合規
早在《辦法》正式實施前,豆包、千問就曾公開通知,將于2026年7月15日下線智能體相關功能,騰訊元寶也已于6月30日下線AI應用智能體功能;網易云音樂旗下情感AI產品“妙時”也發布停運公告,剝離開放式自定義能力,僅保留合規的心理咨詢AI服務。
7月15日上午,每經記者查詢發現,豆包、千問、元寶均已下架智能體。截至發稿,元寶、千問App上已無“創建AI智能體”的界面,豆包“創建AI智能體”界面仍存在,但無法成功創建。
雖然企業稱主要原因為“產品功能調整”,但產業界普遍將相關動作視為《辦法》施行前的風險切割和產品重構。
“大廠不會整體退出智能體賽道,更可能收縮開放式、用戶自定義和高風險擬人化能力。會傾向把任務智能體、企業智能體和情感陪伴分開運營,保留可控工具能力,減少品牌和監管風險集中傳導。”徐立表示。
事實上,早在6月底,在上海市委網信辦通報的“清朗·整治AI應用亂象”專項行動第一階段成果中,就下架違規自建智能體1.4萬余個,其中“一鍵脫衣”、賭球博彩類UGC(用戶生成內容)智能體是重災區。
在四川省人工智能研究院負責人看來,當合規不再是“加分項”,而是“入場券”,有利于進一步減少產業的不正當競爭。“以前為了競爭,有企業可能會打一些‘擦邊球’來爭奪用戶和市場,使得行業處于無序競爭和不公平競爭中,如今企業競爭都回到同一條起跑線,按照規范的邏輯去競爭發展。”
談及未來的產業競爭格局,徐立指出,未來可能形成“大廠做風險隔離、創業公司做垂直專精、第三方做合規基礎設施”的三層結構。例如,創業公司的機會主要來自合規原生和場景原生,單純承接大廠退出流量,難以形成長期優勢;市場集中度可能在基礎能力層上升,在垂直應用層保持多元。企業戰略調整應從“是否下線”轉向“如何分層經營”。
放眼更長遠的時間維度,上述四川省人工智能研究院負責人認為,AI治理終究是一項全球命題。隨著AI技術的快速演進,當機器開始具備自主判斷與決策能力時,人類必須共同約束好AI,這不是某一國的課題,而是需要全球攜手推進的共同治理。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.