【關注】胡延平：及時為AI商業化劃出底線

AI商業化要有底線，這種底線無法完全靠企業自覺、產業自律去實現，互聯網、數字經濟的發展過程已經證明了這一點。商業的第一驅動是利益，追求流量、用戶、營收最大化，自覺不自覺地拓展邊界，突破無形底線。所以，社會輿論以及治理政策有必要及時為AI商業化劃出底線，讓底線從無形變為有形。

本文作者系盤古智庫學術委員、上海財經大學特聘教授、智能科技產業與智能經濟研究學者胡延平，文章來 源于《21世紀經濟報道》 。

本文大約1900字，讀完約4分鐘。

國內兩大頭部AI企業豆包和千問幾乎同時宣布，其部分智能體功能將于7月15日正式下線。此舉主要是響應此前多部委聯合頒布的《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》），該法規自7月15日起施行，重點規范AI情感陪伴、角色扮演等擬人化互動服務。消息傳出，各方反應不一，一些用戶對服務中斷表示遺憾，家長們聞訊則拍手稱快，也有呼聲提出在成人認證和收費的前提下繼續開展服務。

客觀而言，下線的情感陪伴、虛擬戀人、角色扮演等智能體，和OpenClaw、代碼Agent以及各類工作臺雖然都叫智能體，但是實際上并不是一回事，和互聯網游戲沉溺也不可類比。游戲是虛擬世界的娛樂，有明確的任務、規則和邊界。玩家清楚自己在“玩游戲”。但AI情感智能體不同，這類智能體通常以栩栩如生的人聲乃至畫面出現，聊天共情、迎合陪伴，與用戶之間虛擬親密關系。對于未成年人而言，在其身心還沒有發育成熟，不完全具備自主判斷、自控能力的情況下，很容易將這種擬人化的互動誤認為真實的人際關系。對成年人來說，這種看似無害的情緒慰藉，也有可能演變為深度的情感依賴甚至沉溺，用戶群體日益廣泛的情況下，不僅人的主體性、自主性受到動搖，還可能導致社會脫實向虛。

情感類智能體的這一輪下線，并不完全是企業自發的商業決策。此前多部委聯合頒布的“辦法”明確提出，對 “模擬自然人人格特征、思維模式和溝通風格的持續性的情感互動服務”進行監管，而情感互動服務包括“通過文字、圖片、音頻、視頻等形式，提供的情感照護、陪伴、支持等互動服務”。智能客服、知識問答、工作助手、學習教育、科學研究等不涉及持續性的情感互動的服務，不在該辦法管理范圍。對于誘導、教唆、誘發極端、過度迎合，在情感依賴或者沉迷過程中損害用戶真實人際關系的活動，以及一些套取信息、美化不當言行的服務，《辦法》明令禁止。

所以這次情感類智能體集體下線，可以說是監管及時落地，企業應聲而動。在筆者看來，這是人工智能發展歷程當中一次至為關鍵的正本清源。智能以人為本，商業要有底線。我們要鼓勵AI創新，智能經濟的蓬勃發展里蘊含著未來社會的解決方案，很多問題要靠發展和增量來解決，但不是企業做的每件事都值得鼓掌。

AI商業化要有底線，這種底線無法完全靠企業自覺、產業自律去實現，互聯網、數字經濟的發展過程已經證明了這一點。商業的第一驅動是利益，追求流量、用戶、營收最大化，自覺不自覺地拓展邊界，突破無形底線。所以，社會輿論以及治理政策有必要及時為AI商業化劃出底線，讓底線從無形變為有形。

在智能經濟中，人才是最重要的智能體，并且不是被物化、工具化以及被智能體情感俘獲的那類智能體，而是唯一具有主體性的智慧存在。AI可以替代部分職業，但不能替代人的主體性地位，與此同時，必須創造出更多新的職業和可以普惠的智能發展紅利。以人為本、智能向善是中國發展人工智能的基本原則，服務于人類福祉才是AI發展的根本目標。虛擬戀人、情緒陪伴類智能體的泛濫，恰恰在侵蝕這個根本原則——它們不是在幫助人，而是在“蠱惑”人，甚至是在“俘獲”人的情感和心智。AI情感智能體的商業化，如果沿著“情感俘獲”的路徑狂奔，當越來越多的人把情感寄托從真實的人際關系轉向虛擬存在，社會關系的根基將被動搖。

智能經濟正在進入選擇窗口期和形態塑造期。當前的關鍵在于，不能錯過這一選擇和塑造的窗口期，讓一些問題既成事實、積重難返，要避免事后剎車給科技—產業—經濟埋下隱患。

人工智能、智能經濟又快又好又穩地向前發展的局面，不是自動到來的，而是需要以選擇和塑造，來引導這種新的經濟形態，使其與實體經濟、傳統行業可持續協調發展，與全社會各方面能夠共同發展、相向而行。AI的速度、勢能、沖擊力遠大于互聯網，AI商業化需要從一開始就要確保發展路徑的合理性，避免“野蠻生長”。對于相關企業尤其是頭部企業而言，要善用人工智能這種前所未有的力量；不善用，企業自身也會走入發展困局。為AI商業化劃出的底線，不是束縛創新的枷鎖，而是讓創新走得更遠的安全帶。■

文章來源于《21世紀經濟報道》

圖文編輯：張洵

責任編輯：劉菁波