![]()
![]()
江乃慈
文 | 福建省網絡與信息安全測評中心 江乃慈 林永悅
生成式人工智能與多智能體技術加速普及,正在從底層重塑網絡空間的攻防格局。當前,智能化技術被大量用于構建自動化、智能化攻擊鏈路,攻擊者可借助人工智能快速生成釣魚內容、構造惡意代碼、挖掘并利用系統漏洞,自主規劃攻擊路徑,攻擊技術門檻顯著降低,攻防失衡程度持續加劇。而以特征匹配、事后補救為核心的傳統被動防御模式,在面對無固定特征、動態迭代的人工智能驅動新型攻擊時,檢測失效、響應遲緩等缺陷集中暴露,已難以滿足智能化時代的網絡安全防護需求。
在此背景下,政企機構的安全建設普遍面臨兩大核心痛點:一是能力黑盒,安全防護設備大規模部署,但防護效能難以量化評估,安全資金投入難以轉化為可落地、可驗證的實戰防御能力;二是響應滯后,威脅研判、處置、溯源全流程高度依賴人工干預,處置耗時通常達到小時級乃至天級,難以匹配人工智能攻擊高速迭代的節奏。同時,攻防資源不對等、安全工具碎片化、跨域數據壁壘等共性問題長期存在,致使傳統被動防御體系逐步觸及效能天花板。為此,亟須構建以實戰效果為導向、以主動對抗為核心、以智能協同為支撐的主動安全實戰化防御體系。
一、AI智能體的雙重挑戰與安全治理目標
AI智能體技術在網絡安全領域呈現鮮明的雙向作用,既為防御能力升級帶來重要機遇,也顯著放大了威脅面與風險強度,這一現實正是構建主動安全體系的核心背景與邏輯起點。
(一)機遇與挑戰并存的雙重圖景
在防御賦能層面,AI智能體為威脅檢測、安全事件響應、安全運營優化等關鍵環節提供高效能支撐。依托大模型的自然語言理解、邏輯推理與泛化歸納能力,智能體可從海量網絡日志與安全告警中快速甄別異常行為模式,顯著提升對未知隱蔽威脅的識別研判效率。根據2024年IT市場研究和咨詢公司IDC《中國安全大模型實測之安全運營》實測數據,融合大模型能力的智能檢測架構可將Web流量綜合威脅檢出率提升至98%,關鍵安全信息提取耗時縮短80%。然而,上述檢測識別能力在工程化部署中仍面臨對抗魯棒性不足、跨域數據合規約束及復雜威脅場景仿真等關鍵挑戰。
在威脅加劇層面,AI與多智能體技術被攻擊者廣泛濫用,催生多條規模化、低成本攻擊路徑,主要包括自動化釣魚文本與深度偽造內容生成、惡意代碼批量變種與免殺構造、漏洞快速挖掘與自動化利用、攻擊鏈路自主規劃與協同執行等。與此同時,多智能體系統與關鍵信息基礎設施深度融合后,帶來自主決策邊界模糊、責任歸屬失效、風險跨域快速擴散、系統級連鎖故障等新型安全風險,治理難度顯著提升。
(二)主動安全治理框架的必要性
基于上述局限影響,傳統被動防御范式已難以適配智能體時代的對抗環境。面向AI與多智能體時代,安全治理必須實現三大根本性轉向:一是從被動防御轉向主動布防,以攻驗防、以對抗強能力,將防御關口前移,提前暴露并修復短板;二是從合規驅動轉向能力驅動,以可量化、可驗證、可持續進化的實戰防護效果為核心目標;三是從工具堆疊轉向體系協同,打通數據、決策、行動全鏈路,構建閉環化、一體化、自主化的防御體系。以上三大轉向共同確立了主動安全實戰化體系的治理目標與建設方向。
二、多智能體協同防御的理論與實踐
多智能體協同是主動安全體系的核心組織形式,也是實現自主防御、破解信息孤島的關鍵支撐。
(一)理論框架
主動安全體系以平行智能ACP理論為核心基礎,通過人工系統(A)、計算實驗(C)、平行執行(P)三位一體的架構,實現物理安全空間與人工安全空間的雙向交互、實時映射、對抗推演與策略引導,構建可描述、可預測、可引導的動態防御機制。物理空間通過資產測繪、流量采集、日志歸一化完成狀態抽象與數字孿生建模,將真實網絡環境轉化為可計算、可推演的虛擬模型;人工空間構建高逼真仿真環境,支撐無風險攻防演練與策略迭代優化;計算實驗提供對抗推演與效果量化能力;平行執行實現最優策略實時下發與防御動作閉環,最終形成虛實共生、持續進化的防御體系。
在架構層面,系統按功能劃分為五類相互協作的專業化智能體。其中,感知類智能體負責網絡流量、系統日志、資產狀態與外部威脅情報的統一采集、清洗及歸一化處理,構建全域統一的數據底座;分析類智能體基于多源數據開展關聯分析、攻擊溯源、意圖識別與風險等級評定,形成高質量研判結果;決策類智能體依據風險態勢與防御目標,生成標準化、可執行、可追溯的處置策略與行動方案;執行類智能體根據決策指令完成自動化封禁、隔離、阻斷、流量牽引、漏洞修復與告警推送等處置操作;反思類智能體則在安全事件閉環后,開展根因分析、策略評估、模型優化與經驗沉淀,推動體系持續迭代進化。
五類智能體通過統一通信協議、協同調度機制與分層沖突消解規則實現高效協同:按威脅等級、業務影響與處置時效設定任務優先級,由全局協調器完成資源調度與指令仲裁,解決任務沖突、資源競爭與決策死鎖問題,確保多智能體協同有序、決策一致。該架構從底層打通傳統安全工具之間的數據鏈路與行動通道,使防御體系具備自主感知、自主分析、自主決策、自主執行、自主進化的綜合能力。值得強調的是,自主化并不排斥人工介入,對于高敏感度或高不確定性的安全事件,體系保留人機增強接口,由智能體完成數據預處理與方案推薦后,交由安全專家最終研判,從而在效率與風險可控性之間取得平衡。
(二)實踐成效
在多模態系統安全防護場景中,依托以上五類智能體協同聯動機制,可對模型越獄、惡意提示注入、越權指令調用等對抗性攻擊實施全鏈路管控。中國信息安全測評中心《人工智能安全風險測評(2025)》公開實測數據顯示,測試環境為覆蓋文本、圖像、語音的多模態大模型服務接口,基于大規模對抗性提示樣本集,涵蓋越獄攻擊、提示注入、越權調用等主流對抗手段,以傳統單一內容審核引擎為基線進行對比測試。結果顯示,傳統防護引擎對惡意誘導攻擊攔截成功率僅為61.4%,多智能體協同防御架構的攔截成功率提升至93.7%,對抗性攻擊滲透成功率下降32.3%;通過多智能體交叉研判過濾無效告警,模型安全監測的誤報率由11.8%降至2.6%;依托反思智能體迭代優化風控規則,模型異常響應頻次減少40.5%,有效解決了多模態系統風控滯后、惡意樣本識別不全、誤告警偏高等行業共性問題。
在金融行業實戰化安全評估場景中,該架構結合生成式對抗模擬攻擊能力,可完成流量監測、威脅研判、自動阻斷、風險復盤全流程作業。依據中國銀行業協會《金融科技安全發展報告(2024)》實測數據,測試環境為金融典型業務架構,覆蓋10類主流攻擊場景,連續觀測30天,基線為傳統規則型防護體系。結果顯示,傳統防御體系隱蔽攻擊檢出率不足38%,平均事件處置時長超過115分鐘;部署多智能體協同架構后,異常流量與隱蔽攻擊檢出率提升至89.2%,高危事件處置時長壓縮至17分鐘,安全告警綜合誤報率下降72.4%,可精準識別傳統設備難以捕獲的慢速滲透、偽裝訪問等隱蔽威脅。
三、支撐多智能體協同的核心使能技術
多智能體協同體系以三類核心使能技術作為底層支撐,這些技能與體系中的五類智能體架構形成了明確的“技術—功能”映射關系。其中,生成式對抗安全技術主要服務于分析、決策與反思三類智能體:為分析智能體提供對抗樣本以優化檢測模型,為決策智能體模擬攻擊路徑以驗證策略有效性,為反思智能體生成多樣化攻擊變體以支撐根因分析與經驗沉淀。聯邦學習與隱私保護技術主要支撐感知智能體的跨域數據協同,在不泄露原始數據的前提下,實現多源威脅情報的聯合建模與知識共享。大規模威脅場景生成技術則為五類智能體體系提供標準化的訓練與驗證環境,支撐感知、分析、決策、執行、反思全鏈路的閉環迭代優化。
(一)生成式對抗安全技術
生成式對抗安全技術為多智能體體系提供主動對抗與策略優化能力,主要服務于分析、決策、反思智能體。該技術通過在體系內部構建攻防博弈環境,模擬多樣化攻擊場景,持續淬煉檢測規則與處置策略,實現以攻驗防、以對抗強能力的目標。該技術可用于對抗樣本防御、自動化紅隊演練、攻擊模擬等場景,幫助防御方提前發現脆弱點、完善防護策略。
需要說明的是,這一類比在教學層面具有有效性,但生成對抗網絡(GAN)在訓練中存在模式崩潰與訓練不穩定的固有問題。在網絡安全對抗場景中,這一問題意味著“判別器”(防御方)可能陷入對特定攻擊變體的過擬合,即僅能有效識別訓練過程中見過的攻擊形態,而對分布外的變種攻擊識別能力驟降,甚至出現漏報。這一缺陷與主動安全體系追求的“全面覆蓋、動態適應”目標存在內在張力。本體系通過引入多樣化攻擊生成策略與周期性模型重置機制加以緩解,但理論上無法完全消除此類風險,因此,在實際部署中需輔以人工抽檢與外部紅隊測試作為補充驗證手段。
在工程應用中,需客觀界定該技術的能力邊界。生成式對抗模型的生成空間本質上受訓練數據分布約束,其生成的樣本為已知攻擊模式的變體與擴展,而非真正意義上的“未知威脅”。更準確的表述是:該技術能夠生成多樣化的攻擊變體,幫助防御體系應對已知威脅的變種及其衍生形態,從而在動態對抗中保持安全能力的相對領先。
(二)聯邦學習與隱私保護技術
該技術支撐多智能體體系實現跨域數據協同,解決跨機構威脅情報共享中的數據安全與合規難題。聯邦學習實現“數據不動模型動”,在不泄露原始數據、不突破合規邊界的前提下,支持多方聯合建模與協同訓練,為跨域智能體協同提供可行路徑。在此基礎上,可結合同態加密、差分隱私、可信執行環境(TEE)等技術,進一步強化計算過程與數據傳輸的安全性。
需要指出的是,同態加密、差分隱私與可信執行環境(TEE)三類技術的疊加使用會帶來顯著的計算開銷。在網絡安全威脅情報的實時共享場景中,系統對延遲的容忍度極低(通常要求毫秒級響應),這一性能與安全之間的張力是工程實踐中重要的落地障礙。例如,在跨機構聯合威脅狩獵場景中,全棧隱私保護可能導致情報共享延遲從毫秒級攀升至秒級,直接影響檢測的時效性。本體系在工程實踐中采用分級策略以應對這一障礙:對延遲敏感的核心檢測環節優先使用輕量級差分隱私,對離線訓練或非實時協同場景啟用全棧隱私保護,從而在安全性與運行效率之間尋求可接受的平衡。
(三)大規模威脅場景生成技術
該技術為多智能體體系提供標準化訓練與驗該技術為多智能體體系提供標準化的訓練與驗證環境,基于大模型與網絡仿真能力,自動生成高逼真、可量化的對抗場景,支撐防御能力檢驗與體系迭代優化。通過約束性場景生成、動態難度調整、閉環評估優化三大機制保障訓練效果。
其中,動態難度調整機制的設計目標是使演練強度始終適配防御方能力水平。然而,實現這一目標面臨一個前置性技術難題:系統需要能夠準確評估防御方的當前能力狀態,包括威脅檢出率、處置時效、策略正確性等多維指標的綜合量化,而這本身在學術界和工業界均尚無成熟統一的解決方案。本體系通過復盤歷史演練數據中的威脅檢出率與處置耗時,構建能力評估代理模型,實現演練難度的分檔調整。但該方法的評估精細度與泛化能力仍有較大提升空間,在復雜業務場景下的工程可靠性尚需進一步驗證。該技術可大幅降低實戰演練成本,提升演練頻次,推動多智能體防御體系在常態化對抗中持續強化。
四、結 語
隨著生成式AI與多智能體技術持續演進,網絡安全治理將從單一技術治理逐步走向全域生態治理。基于多智能體協同的主動安全實戰化體系,以平行智能為理論根基,以五類專業化智能體為執行主體,以生成式對抗、聯邦學習、大規模場景生成為支撐技術,構建自主感知、自主分析、自主決策、自主執行、自主進化的閉環防御能力,可有效破解智能體時代攻防失衡、能力黑盒、響應滯后等核心痛點。未來,防御體系將向自進化、跨域協同、人機增強、可解釋安全方向深度發展,治理模式也將更加注重多方參與、規則明確、責任清晰、技術可控、安全可托。通過構建體系化、實戰化、智能化、生態化的主動安全治理框架,能夠有效應對智能體時代的新型安全風險,推動AI安全與網絡安全同步發展、同步治理、同步提升,讓安全能力真正成為高質量數字化轉型的可靠底座與堅實保障。
(本文刊登于《中國信息安全》雜志2026年第5期)
![]()
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.