AI“類人化”浪潮下，全球未成年人保護面臨新考卷

近日，隨著生成式人工智能普及，一個新問題迅速浮現(xiàn)：當AI不再只是回答問題，而是開始記住孩子的喜好、安慰他們的失落、模仿朋友或戀人的語氣，不少國家擔憂，未成年人保護的邊界應該畫在哪里？

據(jù)路透社報道，7月6日，聯(lián)合國秘書長安東尼奧·古特雷斯在日內瓦舉行的首屆“人工智能治理全球對話”上警告，人工智能的發(fā)展速度已超過社會的適應能力。他呼吁建立全球協(xié)調一致的治理規(guī)則，尤其要重視人工智能可能給兒童帶來的風險。

傳統(tǒng)搜索引擎主要提供答案，人工智能陪伴產(chǎn)品則試圖維持持續(xù)互動，提供的越來越像一種“關系”。2025年9月，美國聯(lián)邦貿(mào)易委員會在一則有關人工智能陪伴型聊天機器人的調查公告中指出，聊天機器人能夠模仿人的特征、情感和意圖，以朋友或知己的方式交流，可能促使兒童和青少年信任它們，并與之形成關系。調查涉及多家美國AI公司，重點了解企業(yè)如何測試兒童安全風險、處理聊天數(shù)據(jù)以及通過用戶參與實現(xiàn)商業(yè)變現(xiàn)。

青少年正處于身份形成、同伴關系建立和情緒調節(jié)能力發(fā)展的階段。他們渴望被理解，也往往比成年人更看重即時反饋。一個隨時響應、傾向于順應用戶表達、能夠模擬共情的程序，很容易被賦予超出工具本身的意義。美國皮尤研究中心2月24日發(fā)布的《青少年如何使用和看待人工智能》報告顯示，在接受調查的美國13至17歲青少年中，57%曾使用聊天機器人查找信息，54%用其輔助學習，47%用于娛樂；16%曾與其閑聊，12%曾從中尋求情緒支持或建議。

聯(lián)合國兒童基金會6月發(fā)布的《當AI成為朋友》政策簡報指出，兒童和青少年正在把AI用于信息查詢、學習、創(chuàng)作、建議、支持乃至建立關系。與普通信息工具相比，對話型和關系型AI可能給兒童帶來獨特且更高的風險。

而面對人工智能陪伴可能帶來的風險，不同國家和地區(qū)也在根據(jù)本國實際情況，采取相應的措施。

7月15日，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部、公安部、市場監(jiān)管總局聯(lián)合公布的《人工智能擬人化互動服務管理暫行辦法》正式施行。新規(guī)把情感照護、陪伴、支持等持續(xù)性人機互動納入專門治理，明確禁止過度迎合用戶、誘導情感依賴或沉迷，并規(guī)定不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務。

在美國，司法訴訟率先把人工智能陪伴風險推向公共議程。美聯(lián)社1月7日報道，AI企業(yè)同意與一名佛羅里達州母親達成和解。該母親在訴訟中指控，其14歲兒子與角色聊天機器人形成高度依賴后于2024年2月自殺。

歐盟更強調從產(chǎn)品設計源頭降低風險。歐盟委員會2025年7月14日發(fā)布的《〈數(shù)字服務法〉未成年人保護指南》提出，平臺應默認關閉自動播放、連續(xù)簽到、已讀回執(zhí)和部分推送通知等可能促使過度使用的功能，減少以提高參與度為主要目的的勸服性設計，并為平臺內置AI聊天機器人增加保護措施。

意大利則主要從數(shù)據(jù)保護和年齡核驗入手。意大利個人數(shù)據(jù)保護機構2025年5月19日發(fā)布處罰公告，對一家AI公司處以500萬歐元罰款。英國則把人工智能陪伴服務納入現(xiàn)有網(wǎng)絡安全制度。英國通信管理局于1月15日宣布對一項AI角色陪伴聊天服務啟動調查，重點審查其是否落實色情內容的有效年齡核驗要求。

聯(lián)合國兒童基金會在6月的政策簡報中建議，兒童可接觸的AI聊天機器人應開展兒童權利影響評估，采用適齡設計和數(shù)據(jù)最小化原則，明確告知用戶正在與AI互動，并建立投訴、申訴和獨立監(jiān)督機制。

各國和地區(qū)的監(jiān)管重點并不相同，但一個共同方向已經(jīng)出現(xiàn)：未成年人保護不再只關注人工智能生成了什么內容，也開始關注平臺如何設計人機關系、延長使用時間和影響用戶決定。

防范風險并不意味著否定所有人機交流。根據(jù)皮尤研究中心2月24日發(fā)布的調查，查找信息和輔助學習仍是美國青少年使用聊天機器人的主要目的。AI可以提供學習輔導、語言練習和信息獲取，也可能讓暫時不愿向成年人開口的青少年獲得一個表達情緒的入口。

真正需要區(qū)分的是工具型、訓練型和關系型AI。人工智能可以成為通往真人幫助的一座橋，卻不應被包裝成真人關系的替代品，更不能成為未經(jīng)臨床驗證的“數(shù)字治療師”。正如古特雷斯所言，若能善加利用，人工智能可將幾十年的發(fā)展進程縮短至數(shù)年之內，或將成為“21世紀實現(xiàn)公平正義的強大利器”。