“優必選們”急需打補丁

優必選人工智能治理項核查，虎嗅制圖
機器人企業八項責任清單，虎嗅制圖

出品｜虎嗅ESG組

作者｜陳玉立

頭圖｜視覺中國

本文是#ESG進步觀察#系列第170篇文章

本次觀察關鍵詞：人工智能

《人工智能擬人化互動服務管理暫行辦法》落地已經三天，消費級機器人行業迎面撞上的并非驚喜“爆單”，而是三個問號：

未成年人模式有沒有？隱私對話記錄如何管控？不想用了，又該從哪里體面退出？

作為“人形機器人第一股”，優必選科技（09880.HK）于2023年12月29日在港交所主板上市，旗下最早的消費級仿生機器人“悟空”早在2018年就已發布，并進入家庭場景；旗下首款全尺寸超仿生人形機器人也于6月30日正式發布。

然而，截至7月13日，在優必選中文官網的新聞中心、旗艦店產品詳情頁等公開頁面上，這些說明仍然搜不到、查不到。

虎嗅ESG組曾向其京東旗艦店問詢其仿生機器人是否存在未成年人模式，得到的答復是“無”；當問詢歷史交互數據是否可刪除時，得到的回復是不清楚，“需要確認”。

核查維度結論未成年人模式歷史交互數據管理細則模糊責任說明官網搜不到、查不到ESG報告僅有ESG委員會細則，不涉及具體治理措施新規應對落地已三天，公司合規信息仍為空白

新規生效雖然才剛剛兩天，但這種“公開責任信息不可見”的狀態已足夠刺眼——它暴露出的是機器人公司的責任治理能力，還沒有真正進入消費者和投資者的視野。

這背后，正是消費級機器人行業的ESG新命題。

過去講機器人，行業更熱衷于比拼自由度、運動控制、大模型接入和商業化落地。但監管的靴子一落，另一張表被推到了臺前：孩子怎么被隔離，用戶怎么退出，投資者又憑什么去判斷風險。

機器人越像人，企業就越要把邊界劃清楚。這“邊界”首先指向了三個最該被用戶看見的入口：未成年人模式、歷史交互數據管理以及退出路徑。

優必選的責任治理考題

《人工智能擬人化互動服務管理暫行辦法》的監管指向很清楚：AI擬人化互動服務要處理人機關系、未成年人保護、數據權益和退出機制等問題。

原中興匯金高級研究員、東方財富前專家庫成員李勇認為，今年7月15日落地的AI擬人互動新規，是國內首個針對情感陪伴、擬人交互場景的國家級監管規范，“有效補齊了人形機器人行業的合規短板，讓行業發展有了清晰的規則邊界”。

他還判斷，這次新規的重點已經從單純內容審核，轉向整體人機關系治理。

這意味著，當機器人進入用戶家庭之后，將會持續對話、記住用戶、采集家庭環境信息，還可能接觸兒童和老人。對這類產品來說，ESG中的“S”和“G”不再只是報告里的抽象條款，而是必須落到幾個用戶真正能觸碰的按鈕上：未成年人模式、數據刪除、關閉記憶、注銷賬號、投訴申訴。

1.未成年人模式是家庭場景的準入證

消費級機器人面向家庭場景時，第一道責任門檻就是未成年人保護。

未成年人模式至少應配齊五類基礎管控功能：“監護人實名授權、使用時長限制、分級內容過濾、縮減兒童端數據采集權限、交互記錄查詢與清除通道。”

同時，兩條監管紅線必須遵守：不得為未成年人提供虛擬親屬、虛擬伴侶類親密交互服務；面向14歲以下兒童提供擬人服務，需提前取得監護人許可。

這不是簡單給產品多加一個兒童版皮膚。

“機器人與普通App、智能音箱的風險結構不同。App大多是屏幕里的功能，智能音箱通常是工具型入口；擬人機器人有形象、有聲音、有動作、有持續回應能力，更容易被兒童賦予朋友、玩伴的屬性，”李勇向虎嗅ESG組分析道：“普通App與智能音箱僅作為工具使用，兒童大多能清晰地區分設備與人；擬人機器人具備仿真外形和情感互動能力，容易讓孩子產生心理依賴，將機器視作玩伴，并主動傾訴大量家庭私密信息。”

因此，未成年人模式需要覆蓋內容安全、時間管理、監護授權、情感邊界和數據最小化。尤其在家庭共享設備場景下，兒童很可能不是購買者，但是高頻使用者。企業不能只把責任交給家長事后識別，產品必須在入口處給出清晰機制。

如果公開頁面上看不到未成年人模式說明，家長就難以在購買前判斷三個問題：孩子能不能用？怎么用？哪些功能不能用？對家庭消費機器人來說，這已經是影響轉化和信任的核心訴求，類似優必選一類的機器人企業亟需向市場回答這些問題。

2. 歷史交互數據歸屬權須交予用戶

擬人化機器人產生的數據，敏感度遠高于一般互聯網產品。

普通App留下的是瀏覽、點擊、購買、搜索等行為記錄。擬人機器人可能記錄語音、影像、家庭環境、情緒表達、生活習慣、兒童對話、家庭成員關系。長期運行后，這些記錄會形成一份“關系檔案”。

這兩類數據在維度、隱私風險與使用邏輯上存在明顯區別。普通互聯網產品僅留存瀏覽、消費等零散記錄，信息維度簡單；機器人會收錄語音、室內畫面和環境信息，還會留存情緒、家庭私密對話這類高敏感內容。

其中更復雜的是“長期記憶”。

常規平臺不會連貫留存用戶行為，機器人能夠持續積累個人生活習慣、情緒偏好，形成完整的個人交互記錄。一旦外泄，較容易還原居家日常，隱私損害也更難修復。

所以，用戶對于歷史交互數據至少應該擁有幾項基礎權利：查看、復制、導出、刪除、撤回訓練授權、注銷賬號并同步清除個人記憶。企業不該利用格式條款、后臺功能限制，變相壓縮用戶本該擁有的合法權利。

這里還有一個容易被混淆的問題：刪除歷史交互數據，和刪除模型記憶，并不完全相同。

李勇指出，清空交互數據是普通用戶就能自主操作的，一鍵刪掉全部對話、影像與傳感記錄，操作應馬上生效；模型記憶涉及底層算法，大模型訓練吸收海量用戶樣本后，特征可能融入通用算法，單獨剔除某個人的特征存在技術局限。

但這并不意味著企業可以用“技術困難”搪塞用戶。李勇認為企業應至少做好三層保障：用戶刪除數據后，同步清空對應個人畫像標簽；給用戶退出模型訓練的通道；在隱私說明里如實講清技術局限，同時配套去標識化、關閉個性化推送等措施。

對消費機器人企業來說，歷史交互數據當然有商業價值。它可以優化體驗、提高個性化、增強用戶黏性。但數據越像資產，責任也越重。企業需要回答：這些數據在哪里，用戶怎么拿回，刪除后還剩什么，是否繼續參與訓練。

如果這些問題只藏在隱私政策深處，甚至類似優必選一樣在產品詳情頁中無說明、客服也無法解釋清楚，用戶的權利就很難真正落地。

3. 企業需提供退出路徑：擬人化產品必須允許用戶體面離開

在消費級機器人的使用場景中，“退出”不只是注銷賬號。

用戶可能需要關閉擬人化互動、停止主動喚醒、清除個性化記憶、刪除歷史交互數據、解綁設備、注銷賬號、撤回訓練授權。未成年人賬號還可能需要監護人協助退出。

完整的退出流程主要分四類操作：臨時關掉擬人對話和傳感采集、一鍵清空交互記憶、導出并清除全部個人數據、注銷賬號同時收回數據訓練授權。

這就是擬人化AI產品區別于普通智能硬件的地方。普通設備閑置之后，互動關系基本中止；陪伴機器人即使放在角落，云端仍可能留存大量歷史記錄。用戶停止使用硬件，不等于關系和數據同時結束。

李勇認為，普通App很難和用戶產生情感綁定，卸載、關掉權限基本就能隔斷服務；陪伴機器人長期相處會留存大量云端私密記錄，即便設備閑置，家庭對話、生活細節這類敏感信息依舊存在。

因此，退出路徑越清楚，用戶越容易建立信任。企業如果把退出入口做得很深、流程設計得很繞，短期看似保住留存，長期會增加投訴、監管和品牌風險。

“短期搭建這類合規功能確實會增加研發、審計投入，收緊數據采集后，個性化體驗也可能被削弱。但刻意隱藏注銷入口，反而容易引發用戶投訴，還可能觸發監管核查；未成年人模式雖然約束兒童端營銷，長期有助于獲得家長認可，拓寬家庭消費市場。”

換句話說，消費機器人要做長期生意，就不能只設計“如何開始互動”，還要設計“如何結束關系”。

治理披露的缺口：責任不能只存在于后臺

如果一家企業內部已經做了未成年人模式、數據刪除、退出路徑，卻沒有在官網、產品頁、用戶協議、隱私政策、投資者關系頁面清楚展示，算不算問題？答案是：至少構成治理透明度缺口。

對于消費機器人公司，官網不是簡單櫥窗，投資者關系頁面也不該只是財報入口。它們是用戶、家長、投資者理解產品邊界和企業治理能力的公共入口。

李勇認為，如果一家消費機器人企業在監管生效前夕，官網、投資者關系頁面沒有清晰展示未成年人模式、數據刪除、退出路徑等機制，“這就算實打實的合規漏洞，哪怕企業內部已經把這些功能做出來了，沒對外公示清楚，也算不上合規”。

因為它指向的不是簡單信息披露問題，而是類似優必選之類已上市機器人公司的治理問題。

第一，用戶購買前需要知情。尤其是有孩子的家庭，關心的不是機器人能不能聊天，而是能不能限制孩子使用、能不能刪除孩子的互動記錄、能不能避免親密化誘導。如果這些信息公開不可見，用戶無法完成風險判斷。

第二，投資者需要判斷治理成熟度。AI擬人化產品一旦進入規模化銷售，未成年人保護、數據權利、內容風控都會成為經營風險。監管整改、輿論爭議、數據事故，都可能影響銷售、渠道、品牌和估值。

“AI合規已經是上市機器人企業需要定期對外說明的經營內容。未成年人保護、數據管控、內容風控都是企業需要守住的法規紅線；合規一旦出現漏洞，可能遭遇監管整改處罰，影響產品銷售和品牌口碑，進而波及業績與估值，”李勇說道。

第三，ESG治理要求可驗證。單靠企業喊口號“我們重視隱私”“我們保護未成年人”，價值有限。真正有用的是入口、流程、時限、責任人、投訴渠道、第三方審計和透明度報告。

虎嗅ESG組認為，成熟的機器人企業應搭建自上而下、權責清晰的AI治理架構，包括董事會下設獨立AI治理委員會、配置AI倫理官和數據保護官、產品上線前做倫理和未成年人保護雙重評估、定期找第三方做安全審計、每年發布AI治理透明度報告，并建立用戶投訴申訴渠道。

這也是為什么投資者關系頁面值得被納入觀察。對于上市公司，AI治理不只是產品運營細節，它影響長期風險定價。

截至7月13日，在優必選中文官網新聞中心、投資者關系等公開頁面，尚未看到與仿生機器人對應的未成年人模式、歷史交互數據治理等說明。且在僅有與治理相關的《ESG與可持續發展委員會工作細則》中，也未見與機器人產品治理相關的條款。

李勇向虎嗅ESG組指出，這種情況具有代表性，不止是優必選，整個行業都存在“重產品展示、輕責任說明”的通病，大家忙著推產品、講參數，卻忽略了合規信息公開。這種缺失直接導致用戶購買前無法判斷風險，投資者也難以準確評估公司治理的成熟度。

公開披露不是形式主義。對于機器人產品而言，風險發生在持續交互中，責任說明也應該出現在產品說明、設置入口、隱私政策、FAQ、投資者溝通和ESG報告中。

從優必選到行業，消費級機器人步入責任競爭階段

一個現實困境是，優必選僅僅是一個觀察樣本，真正需要被審視的是整個消費級機器人行業。

過去機器人公司的主戰場集中在硬件：伺服、關節、運動控制、成本、供應鏈、場景落地。大模型發展成熟之后行業開始強調“會對話”“會理解”“會陪伴”。可一旦進入家庭、教育、養老等場景，產品屬性就發生變化。

當機器人從工具走向陪伴者，企業責任邊界就隨之擴大。

李勇用一句話概括了消費級機器人的最大治理風險：這類機器人依靠人格化交互，容易讓用戶放下心理戒備、產生情感依賴，持續收集家庭私密信息帶來隱私隱患；疊加未成年人防護短板、產品信息披露不充分、責任劃分模糊等問題，容易形成隱蔽、較難逆轉的復合型風險。

這句話點出了消費級機器人ESG的核心：并非傳統制造業ESG框架里的環保敘事，而是將重點落在用戶權利、兒童保護、數據治理、算法透明、投訴救濟和董事會監督。

他建議，如果給消費級機器人企業設計ESG指標，可以分為四個板塊：未成年人保護、全流程數據管理、風險管控與信息公示、長效可持續經營。具體包括兒童專屬管控模式、監護人授權、兒童信息最小化采集、交互信息全生命周期管控、數據導出刪除、撤回訓練授權、第三方外部審計、用戶投訴渠道、專職合規崗位、投資者風險披露，以及供應鏈數據合規和廢舊機器人回收處置方案。

這套框架的價值在于把抽象的“AI倫理”拆成了可核驗項目。

對行業來說，未來的競爭很可能從“參數賬”進入“責任賬”。硬件能力會趨同，大模型能力會被供應鏈化。而家庭用戶、教育機構、養老機構和投資人都會越來越關注一件事：這家公司能不能讓風險可見、權利可行使、責任可追溯。

李勇判斷，消費級機器人行業的一大競爭重心正慢慢從硬件參數轉向合規治理、責任建設層面。硬件和基礎交互功能同行模仿門檻偏低，未成年人防護、居家數據全流程管控這類治理體系搭建周期更久、落地門檻更高，有機會形成獨特競爭優勢。

這背后是一筆商業賬——責任機制會增加成本，也可能影響部分用戶黏性，但它能降低信任摩擦。家長購買家庭機器人時，會更愿意選擇明確披露兒童保護機制的品牌；學校、養老機構采購時，會把隱私和安全作為準入條件；資本市場也會把AI治理視作長期經營能力的一部分。

虎嗅ESG組認為，企業如果主動公示完整、可核查的責任細則，能夠區別于只側重硬件宣傳的競品，在家用市場、政企渠道積累長期品牌口碑，對企業估值也能帶來正向作用。

基于此，一家合格的消費級機器人企業，至少應向用戶和投資者公開一份清晰的責任清單。虎嗅ESG組將其梳理為以下八項必答之題：

責任維度企業應公開的產品能力AI身份標識明確提示用戶正在與AI互動，避免擬人化的誤導性未成年人保護未成年人模式、監護人授權、內容過濾、使用時長限制數據權利歷史交互數據查看、復制、導出、刪除及處理權限記憶管理清除個性化記憶、關閉畫像、退出模型訓練授權退出機制關閉擬人化互動、停止主動喚醒、注銷賬號、解綁設備內容安全對話風控、敏感內容攔截、兒童內容分級治理披露第三方審計、透明度報告、ESG和投資者風險披露

當一臺機器人走進家庭，接觸兒童、記錄日常、承載情緒，企業就不能只回答“它能做什么”。更要回答：它不能做什么，孩子如何被保護，投資者如何驗證治理能力。這是新規生效后，消費機器人公司必須交出的第一份答卷。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4876143.html?f=wyxwapp