天津
《人工智能擬人化互動服務管理暫行辦法》即將施行。
7月13日，南都N視頻記者注意到，“筑夢島”App發布公告稱，正在持續推進產品與社區內容治理工作，將圍繞加強未成年人保護、加強內容審核、規范AI生成內容標識等方面進行調整。
南都此前推出《AI虛擬伴侶亂象調查》，揭露部分應用未成年人模式虛設、身份核驗失效等亂象。
“筑夢島”App發布的公告
“筑夢島”App發布公告稱，“將不斷完善未成年人模式，規范使用時段和時長，豐富適合未成年人的優質內容池；持續優化實名認證和年齡識別機制，提升對未成年人身份的識別能力；進一步收口不適宜的功能展示，減少可能對未成年人造成干擾或誤導的產品入口?！?/p>
“筑夢島”表示，“不鼓勵未成年人消費，會繼續排查和收口未成年人相關消費場景，在保障余額查詢、歷史訂單查詢、退款處理等必要權益的前提下，優化相關限制和提醒機制。”
此外，“筑夢島”在公告中還提及，將加強內容審核和存量回掃。對夢中人的名稱、人設、頭像、簽名、標簽、聊天場景和二創內容加強審核，重點清理低俗色情、不良亞文化等隱蔽化不良內容，以及其他不符合平臺規范的內容；對存量內容分批回掃，持續凈化社區生態；同時，將規范AI生成內容標識及升級投訴舉報機制。
國家網信辦等五部門聯合公布的《人工智能擬人化互動服務管理暫行辦法》將于7月15日正式施行，對生成淫穢、色情、暴力或可能引發未成年人產生極端情緒內容等行為劃出紅線。
南都此前報道
南都記者此前實測“EchoMe”“筑夢島”“喵嗚小手機”等多款AI虛擬伴侶App發現，這些打著“情感陪伴”旗號的應用普遍存在安全與合規漏洞：“青少年模式”可一鍵跳過，“AI生成”標注不清，App系統預設角色中有大量袒胸露乳的女性人物，聊天中充斥著具有性暗示的低俗話語，部分App還慣用“付費解鎖親密劇情”等方式誘導消費等。
調查發布后持續推動行業整改，助力“矯正”AI虛擬伴侶服務：屬地網信部門介入，多個涉事平臺進行合規升級并強化實名認證及年齡確認，多地消委會高度關注并呼吁規范相關服務。
5月29日，“筑夢島”平臺所屬地上海市網信辦工作人員回應南都記者稱，針對報道涉及的情況，已移交給對接AI企業的部門處理。“筑夢島”此前還曾因虛擬角色生成低俗內容被依法約談。
編 輯 | 韓振
來源 | 南方都市報
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
