北京
2026 年 7 月 6 日， “網信中國”發布《中央網信辦深入開展“清朗·整治 AI 應用亂象”專項行動第一階段工作》。
“清朗·整治 AI 應用亂象”專項行動自 2026 年 4 月啟動以來，中央網信辦聚焦未按規定履行大模型備案登記義務、AI 平臺安全和審核過濾能力不足、AI 數據投毒、生成合成內容標識落實不到位等 AI 應用亂象，部署各地網信部門深入推進第一階段重點整治任務，并開設“涉 AI 應用亂象舉報專區”，專項受理公眾舉報。
在各方共同努力下，第一階段累計處置違規網站、應用程序、智能體等 AI 產品 1.4 萬余款，清理違法違規信息 600 余萬條，處置賬號 2.6 萬余個，下架違規 AI 商品 1300 余個、違規開源數據集 9 個，各項工作取得積極進展。
各地網信部門認真履行屬地管理責任，結合實際采取有效監督管理措施。
如：
1）北京網信辦建立“平臺自查 + 常態巡查 + 技術篩查 + 線索核查”聯動工作機制，及時下架一批違規 AI 應用和運營賬號。
2）上海網信辦針對平臺類型細化工作要求，指導平臺升級舉報機制、主動發布治理公告。
3）浙江網信辦從模型審核能力、訓練語料安全、AI 數據投毒等多維度，組織開展優化語義判斷能力、高頻回歸測試等針對性整改。
4）江蘇網信辦開設 AI 應用亂象專項舉報窗口，收集 AI 數據投毒、未落實生成合成內容標識要求等 5 類違法違規情形舉報線索，及時核實處置。
5）廣東網信辦建立屬地多部門協調監管機制，綜合運用技術巡查、人工復核、現場督導、約談懲戒方式開展 AI 應用亂象全鏈條治理等。
重點網站平臺積極履行主體管理責任，有針對性地加強管控。
如：
1）華為在應用商店中增加生成式人工智能服務備案和標識專項審核；
2）阿里巴巴完善數字指紋比對與關鍵詞攔截機制，提升違法違規內容識別精度；
3）智譜構建多模態審核模型，針對多輪對話意圖反轉等復雜場景開展交叉復核；
4）稀宇及時識別阻斷利用 AI 編寫病毒、釣魚軟件等惡意行為；
5）DeepSeek 在數據采集和預處理環節嵌入異常檢測算法，防止惡意樣本隱蔽操控等。
下一步，中央網信辦將聚焦利用 AI 技術制作發布虛假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人權益、從事網絡水軍活動等突出問題，開展“清朗·整治 AI 應用亂象”專項行動第二階段工作，加大違規賬號和機構查處力度，加強 AI 應用重點環節管理，督促平臺提升 AI 防治能力，著力維護清朗網絡生態，推動人工智能向善向好。
云頭條聲明：如以上內容有誤或侵犯到你公司、機構、單位或個人權益，請聯系我們說明理由，我們會配合，無條件刪除處理。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
