AI數(shù)字人成“情感收割機”，亟需適老化治理

幾年前，網(wǎng)紅“秀才”因誘導(dǎo)中老年人打賞等問題被封號。如今，AI數(shù)字人（即基于人工智能技術(shù)生成的虛擬人物）成了新的“情感收割機”。這些AI“霸總”用著“建華”“建國”“東東”等稱呼，張口姐姐、閉口想你，噓寒問暖、深情表白，溫情背后卻是直播打賞、櫥窗帶貨等賺錢套路。

曾在短劇中引發(fā)爭議的“霸總”，如今有了AI加持變成數(shù)字人“霸總”，不但出現(xiàn)在更多短視頻中，還出現(xiàn)在直播間。這類“霸總”嘴上喊著“姐姐”“老婆”等曖昧稱呼，讓手機屏幕前的老人信以為真，輕則點贊、評論支持，重則打賞、購物。相關(guān)賬號運營者利用AI數(shù)字人，對中老年人進行情感和財富收割。

值得注意的是，相關(guān)賬號已形成“圍獵式收割”。比如11個賬號，全是一模一樣的臉，名字雷同，人設(shè)卻不同——有的穿軍裝坐機艙里說情話，有的西裝革履扮商務(wù)精英；還有的圍著圍巾扮演深情男人……這要么是同一個人或機構(gòu)運營多個賬號，要么多人互相效仿，都對喜歡AI“霸總”的人群形成“圍獵”。

究其原因，業(yè)內(nèi)人士透露，AI數(shù)字人已有成熟的技術(shù)模板，可一鍵生成；有團隊可以批量化生產(chǎn)這類視頻。更有商家表示，可以輕松復(fù)刻AI“霸總”，30秒以內(nèi)視頻最低20元一條，說話口型完全能對上。這意味著相關(guān)賬號運營者能以極小的成本炮制AI“霸總”，然后對中老年人群先收割感情再收割財富。

而中老年人群對AI“霸總”信以為真后，不僅會被誤導(dǎo)面臨經(jīng)濟損失，而且在情感方面也被欺騙了，因為AI數(shù)字人只是口頭上表白，不可能給予真實情感。還不排除有的中老年人的夫妻情感、家庭穩(wěn)定因此受到影響。因此，決不能讓AI數(shù)字人成為“情感收割機”，更不能讓不法分子通過玩弄情感非法獲利。

對此，應(yīng)當(dāng)進行精準(zhǔn)治理。首先，要在《人工智能生成合成內(nèi)容標(biāo)識辦法》基礎(chǔ)上進一步完善規(guī)則。根據(jù)該辦法，AI生成內(nèi)容要添加顯式標(biāo)識。然而，AI短視頻標(biāo)注了AI標(biāo)識后，并沒有對中老年人群起到提醒作用，有的因為標(biāo)注不夠顯著，有的因為老人不認(rèn)識或不懂，也就是說現(xiàn)有規(guī)則沒有起到提醒作用。

只有用中老年人群尤其是不識字、不懂AI的人群，能看懂AI短視頻標(biāo)識和提醒，才對這類人群有實際意義。雖然我國網(wǎng)民規(guī)模巨大，但網(wǎng)民文化水平相差懸殊，不能用統(tǒng)一的標(biāo)識規(guī)則去滿足所有人需求。因此，還應(yīng)該對標(biāo)識規(guī)則進行“適老化”“適盲化”改造，要以中老年人看得懂、聽得懂的方式進行規(guī)范。

其次，平臺要對AI短視頻、AI數(shù)字人加強重點監(jiān)管。只有對中老年人群實施情感收割，進而實施財富收割的AI短視頻、AI數(shù)字人加強精準(zhǔn)治理，才能為中老年用戶提供一個適宜、放心的網(wǎng)絡(luò)環(huán)境。坦率說，之前平臺審核流于形式、管理粗放、算法推薦，給了AI數(shù)字人成“情感收割機”機會，應(yīng)該彌補短板。

另外，中老年人群的家人、所在社區(qū)、老年大學(xué)等方面，也要對中老年人群做好引導(dǎo)工作，既要教會中老年人群識別AI數(shù)字人、AI短視頻，也要明確提醒他們警惕AI數(shù)字人的情感欺騙和賺錢套路。其中，家屬要多些陪伴、多些談心。各地網(wǎng)信、廣電等部門要督促平臺履職盡責(zé)，公安機關(guān)要嚴(yán)防相關(guān)欺詐行為。