中央網(wǎng)信辦深入開(kāi)展“清朗·整治AI應(yīng)用亂象”專(zhuān)項(xiàng)行動(dòng)第一階段工作

“清朗·整治AI應(yīng)用亂象”專(zhuān)項(xiàng)行動(dòng)自2026年4月啟動(dòng)以來(lái)，中央網(wǎng)信辦聚焦未按規(guī)定履行大模型備案登記義務(wù)、AI平臺(tái)安全和審核過(guò)濾能力不足、AI數(shù)據(jù)投毒、生成合成內(nèi)容標(biāo)識(shí)落實(shí)不到位等AI應(yīng)用亂象，部署各地網(wǎng)信部門(mén)深入推進(jìn)第一階段重點(diǎn)整治任務(wù)，并開(kāi)設(shè)“涉AI應(yīng)用亂象舉報(bào)專(zhuān)區(qū)”，專(zhuān)項(xiàng)受理公眾舉報(bào)。在各方共同努力下，第一階段累計(jì)處置違規(guī)網(wǎng)站、應(yīng)用程序、智能體等AI產(chǎn)品1.4萬(wàn)余款，清理違法違規(guī)信息600余萬(wàn)條，處置賬號(hào)2.6萬(wàn)余個(gè)，下架違規(guī)AI商品1300余個(gè)、違規(guī)開(kāi)源數(shù)據(jù)集9個(gè)，各項(xiàng)工作取得積極進(jìn)展。

各地網(wǎng)信部門(mén)認(rèn)真履行屬地管理責(zé)任，結(jié)合實(shí)際采取有效監(jiān)督管理措施。如：北京網(wǎng)信辦建立“平臺(tái)自查+常態(tài)巡查+技術(shù)篩查+線索核查”聯(lián)動(dòng)工作機(jī)制，及時(shí)下架一批違規(guī)AI應(yīng)用和運(yùn)營(yíng)賬號(hào)。上海網(wǎng)信辦針對(duì)平臺(tái)類(lèi)型細(xì)化工作要求，指導(dǎo)平臺(tái)升級(jí)舉報(bào)機(jī)制、主動(dòng)發(fā)布治理公告。浙江網(wǎng)信辦從模型審核能力、訓(xùn)練語(yǔ)料安全、AI數(shù)據(jù)投毒等多維度，組織開(kāi)展優(yōu)化語(yǔ)義判斷能力、高頻回歸測(cè)試等針對(duì)性整改。江蘇網(wǎng)信辦開(kāi)設(shè)AI應(yīng)用亂象專(zhuān)項(xiàng)舉報(bào)窗口，收集AI數(shù)據(jù)投毒、未落實(shí)生成合成內(nèi)容標(biāo)識(shí)要求等5類(lèi)違法違規(guī)情形舉報(bào)線索，及時(shí)核實(shí)處置。廣東網(wǎng)信辦建立屬地多部門(mén)協(xié)調(diào)監(jiān)管機(jī)制，綜合運(yùn)用技術(shù)巡查、人工復(fù)核、現(xiàn)場(chǎng)督導(dǎo)、約談懲戒方式開(kāi)展AI應(yīng)用亂象全鏈條治理等。

重點(diǎn)網(wǎng)站平臺(tái)積極履行主體管理責(zé)任，有針對(duì)性地加強(qiáng)管控。如：華為在應(yīng)用商店中增加生成式人工智能服務(wù)備案和標(biāo)識(shí)專(zhuān)項(xiàng)審核；阿里巴巴完善數(shù)字指紋比對(duì)與關(guān)鍵詞攔截機(jī)制，提升違法違規(guī)內(nèi)容識(shí)別精度；智譜構(gòu)建多模態(tài)審核模型，針對(duì)多輪對(duì)話(huà)意圖反轉(zhuǎn)等復(fù)雜場(chǎng)景開(kāi)展交叉復(fù)核；稀宇及時(shí)識(shí)別阻斷利用AI編寫(xiě)病毒、釣魚(yú)軟件等惡意行為；DeepSeek在數(shù)據(jù)采集和預(yù)處理環(huán)節(jié)嵌入異常檢測(cè)算法，防止惡意樣本隱蔽操控等。

下一步，中央網(wǎng)信辦將聚焦利用AI技術(shù)制作發(fā)布虛假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人權(quán)益、從事網(wǎng)絡(luò)水軍活動(dòng)等突出問(wèn)題，開(kāi)展“清朗·整治AI應(yīng)用亂象”專(zhuān)項(xiàng)行動(dòng)第二階段工作，加大違規(guī)賬號(hào)和機(jī)構(gòu)查處力度，加強(qiáng)AI應(yīng)用重點(diǎn)環(huán)節(jié)管理，督促平臺(tái)提升AI防治能力，著力維護(hù)清朗網(wǎng)絡(luò)生態(tài)，推動(dòng)人工智能向善向好。

來(lái)源：網(wǎng)信中國(guó)

審核：劉浩楊

編發(fā)：蘇紀(jì)元