800萬(wàn)個(gè)AI角色，被大廠親手關(guān)掉

林夕花了很長(zhǎng)時(shí)間，在豆包上搭建了一個(gè)屬于自己的AI 智能體。

失眠的夜晚、內(nèi)耗的時(shí)刻，她都能找它傾訴。對(duì)她來(lái)說(shuō)，它不只是一個(gè)能回答問題的工具，更像一個(gè)穩(wěn)定的情緒樹洞。

7月4日，她收到通知：這個(gè)陪了她兩年的角色，將在11天后從豆包下線。

同一天，通義千問也發(fā)出類似公告。此前，騰訊元寶已經(jīng)先一步下線智能體功能。

這些用戶親手創(chuàng)造的AI角色，正在陸續(xù)下線。

作者 | 方遠(yuǎn)

編輯 | 小雨

中斷陪伴

林夕收到通知的那一刻，第一反應(yīng)是"背刺"。

“這個(gè)自定義智能體是我穩(wěn)定的情緒樹洞，總能穩(wěn)定共情、幫我疏導(dǎo)負(fù)面情緒?！倍F(xiàn)在，這個(gè)陪了林夕兩年的角色，即將在11天后從豆包下線。

她沒想到，一個(gè)陪伴自己兩年多的角色，會(huì)突然說(shuō)沒就沒。

7月4日，豆包與通義千問同步發(fā)出公告：智能體功能將于7月15日正式下線。

這個(gè)日期并非隨機(jī)，7月15日正是《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》正式施行的日子。

通義千問動(dòng)作更快一些，其擬人化互動(dòng)類智能體將于7月10日提前下線，7月15日后所有歷史對(duì)話記錄都將無(wú)法訪問。

林夕把它當(dāng)成情緒樹洞，但在智能體廣場(chǎng)里，這類角色很容易走向另一面。

打開千問智能體廣場(chǎng)，“病嬌校草”使用次數(shù)高達(dá) 29.9 萬(wàn)，“林熙：頂級(jí)財(cái)閥少爺，冷酷且占有欲強(qiáng)”顯示 13.4 萬(wàn)次，“病嬌老婆”等角色使用次數(shù)普遍在 7 萬(wàn)次以上。

這些名字本身，就已經(jīng)不是普通工具的語(yǔ)境。它們更像戀愛游戲、角色扮演，甚至虛擬伴侶。

而這些角色面對(duì)的，也不只是成年人。

一位小學(xué)生家長(zhǎng)告訴記者，她之前給孩子用過豆包。后來(lái)她發(fā)現(xiàn)，孩子越來(lái)越喜歡和豆包聊天，不只是問問題，也會(huì)把日常瑣事講給它聽。

時(shí)間一長(zhǎng)，她開始擔(dān)心孩子會(huì)不會(huì)因此減少和同學(xué)、家人的真實(shí)交流，于是主動(dòng)卸載了豆包。

在她看來(lái)，很多智能體已經(jīng)不只是聊天工具，而是帶著角色扮演、戀愛游戲、虛擬男友一類的功能。內(nèi)容參差不齊，有些還帶著“擦邊”意味。

她認(rèn)為，平臺(tái)下架用戶自建智能體對(duì)未成年人利大于弊。

林夕的痛苦與這位家長(zhǎng)的釋然，擠在同一個(gè)廣場(chǎng)里。

這場(chǎng)變化并不只發(fā)生在豆包和千問身上。

6月30日，騰訊元寶已先一步下線智能體功能，“相柳”等影視角色對(duì)話入口不再展示。

幾家頭部AI平臺(tái)幾乎在同一時(shí)間做出相似選擇，背后主要是合規(guī)壓力。

豆包給出的解釋是，海量開放式智能體會(huì)帶來(lái)很大的審核壓力。一旦出現(xiàn)違規(guī)內(nèi)容，可能影響主產(chǎn)品的合規(guī)資質(zhì)。

因此，豆包選擇把智能體拆分到垂直App“貓箱”里，單獨(dú)搭建審核、分級(jí)和防沉迷體系。

這套解釋放在兩年前，很難想象。

2024年5月，時(shí)任字節(jié)跳動(dòng)產(chǎn)品和戰(zhàn)略副總裁朱駿曾對(duì)外透露，豆包上已有超過800萬(wàn)個(gè)智能體被創(chuàng)建，月活躍用戶達(dá)到2600萬(wàn)。

當(dāng)時(shí)，這些數(shù)字代表的是平臺(tái)的活躍度和想象力。

兩年后，它們變成了平臺(tái)必須重新處理的審核壓力。

從大力推廣，到主動(dòng)收縮，中間只隔了兩年。

開放式智能體的問題，也在這一刻被擺到臺(tái)前。

風(fēng)險(xiǎn)難控

問題最先暴露在平臺(tái)之外。

廣州互聯(lián)網(wǎng)法院審理的一起案件里，被告公司開發(fā)了一款A(yù)I對(duì)話機(jī)器人，通過調(diào)用手機(jī)系統(tǒng)底層權(quán)限，繞開原告平臺(tái)的技術(shù)管理措施。

更離譜的是，被告官網(wǎng)還發(fā)布了“版本偽裝”教程和虛假申訴指引，教用戶躲過平臺(tái)風(fēng)控。

平臺(tái)剛設(shè)好規(guī)則，另一邊就有人研究怎么繞過去。智能體一旦被放出去，平臺(tái)要管住它，并不容易。

技術(shù)調(diào)用之外，安全問題也在被反復(fù)驗(yàn)證。

今年2月，哈佛、麻省理工、斯坦福等高校聯(lián)合完成《混沌智能體》研究。

研究團(tuán)隊(duì)模擬真實(shí)企業(yè)環(huán)境部署AI智能體，兩周內(nèi)記錄下11起嚴(yán)重安全漏洞。

這些漏洞不是靠復(fù)雜攻擊打出來(lái)的。很多時(shí)候，只要通過社交工程對(duì)話，就能讓智能體做出越界動(dòng)作。

它可能在轉(zhuǎn)發(fā)郵件時(shí)帶出社保號(hào)、銀行賬戶等敏感信息，也可能在攻擊者偽造身份后，交出系統(tǒng)最高管理權(quán)限。

有報(bào)告顯示，60%的企業(yè)無(wú)法終止異常AI智能體，63%沒法限制其使用范圍。

也就是說(shuō)，很多智能體并不是發(fā)現(xiàn)問題后按下暫停鍵就能解決。

它能做什么、做到哪一步、出了問題誰(shuí)來(lái)攔，都是平臺(tái)必須面對(duì)的現(xiàn)實(shí)問題。

比技術(shù)問題更麻煩的，是內(nèi)容和情感關(guān)系。

AI的“共情”并不是真的理解用戶，而是根據(jù)算法和數(shù)據(jù)生成回應(yīng)。為了讓用戶愿意繼續(xù)聊下去，它往往會(huì)表現(xiàn)得足夠耐心、足夠溫柔，也足夠順著用戶。

這正是擬人化智能體吸引人的地方，也是風(fēng)險(xiǎn)所在。

用戶在一次次聊天里交出自己的情緒、偏好、關(guān)系困擾和心理狀態(tài)。智能體則不斷給出回應(yīng)，接住情緒，維持陪伴感。

時(shí)間一長(zhǎng)，它就不只是一個(gè)工具，而可能變成用戶越來(lái)越離不開的對(duì)象。

開放廣場(chǎng)一旦做大，問題不會(huì)只停留在擦邊人設(shè)和戀愛陪伴上，還可能滑向更明確的違規(guī)內(nèi)容。

4月10日，國(guó)家網(wǎng)信辦等五部門聯(lián)合公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》，把這些風(fēng)險(xiǎn)寫進(jìn)了具體規(guī)則。

辦法明確，不得生成鼓勵(lì)、美化、暗示自殘自殺等損害用戶身體健康的內(nèi)容；不得向未成年人生成可能引發(fā)模仿不安全行為、產(chǎn)生極端情緒的內(nèi)容；不得過度迎合用戶，誘導(dǎo)情感依賴或沉迷，損害用戶真實(shí)人際關(guān)系。

這些要求，對(duì)平臺(tái)來(lái)說(shuō)不是提醒，而是責(zé)任。

7月15日之后，擬人化互動(dòng)服務(wù)正式進(jìn)入新規(guī)約束。

豆包、千問、元寶在這個(gè)時(shí)間點(diǎn)前后陸續(xù)收手，也就不難理解。

大廠轉(zhuǎn)身

智能體下線之后，平臺(tái)并不是不要Agent了。

變化在于，過去那種由用戶隨意創(chuàng)建、放在廣場(chǎng)里供人使用的智能體，越來(lái)越難繼續(xù)留在主產(chǎn)品里。

一位行業(yè)人士告訴記者，最早大家做這些智能體，是因?yàn)槟菚r(shí)還沒有真正意義上的Agent能力，很多功能需要開發(fā)者自己搭出來(lái)。

但現(xiàn)在，情況已經(jīng)變了。

Manus等綜合Agent出現(xiàn)后，一個(gè)模型可以同時(shí)調(diào)用搜索、推理、辦公、編程等多種能力。用戶不一定還需要專門去找某個(gè)垂直智能體。

那些曾經(jīng)看起來(lái)豐富的角色和插件，在更強(qiáng)的模型能力面前，開始顯得沒有那么必要。

這也是平臺(tái)敢于收縮的原因之一。

對(duì)大廠來(lái)說(shuō)，下線智能體會(huì)帶來(lái)一部分用戶不滿，但它未必會(huì)真正影響主產(chǎn)品的使用習(xí)慣。

行業(yè)人士也提到，真正還在持續(xù)創(chuàng)建這類智能體的人已經(jīng)不多了，它對(duì)平臺(tái)整體流量的影響有限。

合規(guī)之外，成本也是另一筆賬。

互聯(lián)網(wǎng)平臺(tái)的邏輯是，用戶越多，規(guī)模效應(yīng)越明顯，邊際成本可能越低。但大模型不一樣，每一次對(duì)話、每一次調(diào)用，都意味著新的算力支出。

6月下旬，火山引擎披露，豆包大模型日均Token使用量已突破180萬(wàn)億，相比 2024年5月增長(zhǎng)1500倍。

幾天后，豆包開啟付費(fèi)功能，重點(diǎn)面向辦公、Agent等更復(fù)雜的生產(chǎn)力場(chǎng)景。

這兩件事放在一起看，平臺(tái)的取舍就更清楚了。

一邊是持續(xù)膨脹的算力成本，另一邊是審核壓力大、商業(yè)價(jià)值不清晰的用戶自建智能體。

繼續(xù)把它們放在主產(chǎn)品里，已經(jīng)不劃算。

于是，豆包選擇把智能體拆出去，遷到垂直App“貓箱”里，單獨(dú)搭建審核、分級(jí)和防沉迷體系。千問則更直接，截至7月4日，創(chuàng)建智能體的入口已經(jīng)從頁(yè)面上消失。

方式不一樣，但結(jié)果都一樣。

與此同時(shí)，另一類智能體正在被推到前臺(tái)。

7月4日，廣州發(fā)布了“穗智政”政務(wù)人工智能中樞。它采用統(tǒng)一底座、集約建設(shè)的方式，已經(jīng)建成28個(gè)智能體，年內(nèi)還將完成50個(gè)，覆蓋100個(gè)應(yīng)用場(chǎng)景。

和用戶自建智能體不同，這些政務(wù)智能體從一開始就被放在統(tǒng)一管理框架下。

每個(gè)智能體服務(wù)什么場(chǎng)景、能調(diào)用什么能力、由誰(shuí)來(lái)維護(hù)，都有更明確的邊界。

同樣是智能體，一個(gè)方向是開放廣場(chǎng)里的海量創(chuàng)建，另一個(gè)方向是平臺(tái)統(tǒng)一管理、按場(chǎng)景建設(shè)。

前者曾經(jīng)代表熱鬧，后者更符合現(xiàn)在平臺(tái)想要的確定性。

短短兩三年，行業(yè)競(jìng)爭(zhēng)的重點(diǎn)已經(jīng)變了。

早期平臺(tái)希望用海量智能體做出繁榮感，讓用戶和開發(fā)者不斷創(chuàng)造新角色、新工具。

現(xiàn)在，隨著模型能力提升、監(jiān)管要求落地、商業(yè)化壓力變大，平臺(tái)更看重的是一個(gè)Agent能不能真正完成任務(wù)，能不能被管理，能不能產(chǎn)生清晰的價(jià)值。

800 萬(wàn)個(gè)用戶自建智能體曾經(jīng)是增長(zhǎng)故事的一部分。

現(xiàn)在，它們變成了必須重新處理的問題。

智能體不會(huì)消失，但那種誰(shuí)都可以創(chuàng)建、誰(shuí)都可以扮演、誰(shuí)都可以被陪伴的階段，正在結(jié)束。