人工智能飛速發展對國防科技帶來的安全風險及應對之策

文/高東廣

本文作者高東廣

當前，人工智能技術迭代速度持續加快，全面滲透國防科技研發、裝備迭代、作戰應用、體系建設全鏈條，成為重塑未來戰爭形態、變革國防科技格局的核心驅動力。人工智能在賦能國防科技智能化升級、提升軍事作戰效能、推進未來產業變革的同時，也催生了技術漏洞、數據泄密、作戰失控、戰略失衡等新型安全風險，對我國國防科技安全、軍事體系安全、國家戰略安全構成全方位、深層次挑戰。本文從技術體系、數據安全、作戰應用、戰略格局四個維度，系統梳理人工智能賦能國防科技發展過程中的核心安全風險，結合大國軍事競爭態勢與我國國防建設實際，提出針對性、體系化的防控對策，為我國國防科技智能化安全發展、防范化解智能軍事領域安全隱患、掌握未來戰爭戰略主動權提供理論支撐與實踐參考。

新一輪科技革命與軍事革命深度疊加，人工智能作為顛覆性、通用性、戰略性核心技術，已成為國防科技現代化建設的核心引擎，深刻改變傳統國防科研模式、武器裝備形態與作戰制勝機理。從智能無人裝備、算法輔助決策，到國防科研智能推演、軍事后勤智慧保障，人工智能全面融入國防科技各領域，大幅提升了國防體系的精準化、高效化、自主化水平，推動未來戰爭向智能化、無人化、精準化方向深度演進。但人工智能技術具備“雙刃劍” 屬性，其快速普及與深度應用打破了傳統國防科技安全防護體系的邊界與規則。相較于傳統軍事技術風險，人工智能引發的國防科技安全風險具有隱蔽性強、傳導性快、全域性廣、不可預測性高的突出特征，各類新型風險交叉疊加、動態演化，極易引發國防技術失穩、軍事數據泄露、作戰行動失控、戰略格局失衡等重大安全問題。在大國博弈日趨激烈、智能化軍備競賽持續升級的背景下，精準識別人工智能賦能國防科技的各類安全風險，構建科學完善的風險防控體系，筑牢國防科技智能安全屏障，已成為新時代國防科技建設與軍事戰略布局的重大課題。

人工智能飛速發展給國防科技帶來的核心安全風險

（一）技術體系風險：算法漏洞與技術依賴引發底層安全隱患

算法是人工智能的核心支撐，也是國防科技智能化應用的底層基石，當前我國軍事人工智能技術體系仍存在諸多結構性、基礎性安全隱患。一方面，算法固有缺陷風險突出。軍事智能算法普遍存在黑箱特性、模型泛化能力不足、抗干擾性薄弱等問題，在復雜戰場電磁干擾、環境突變、突發對抗場景下，極易出現算法誤判、決策偏差、模型失效等問題。同時，敵方可通過算法投毒、樣本污染、對抗性攻擊等新型手段，篡改軍事智能模型參數，導致無人作戰裝備失靈、輔助決策系統出錯，直接影響戰場研判與作戰指揮。此外，人工智能“算法幻覺” 問題在軍事領域尤為突出，智能系統可能虛構戰場數據、研判結論，誤導軍事決策，引發戰術失誤甚至戰略誤判。

另一方面，核心技術依賴風險嚴峻。當前高端軍事人工智能芯片、底層算法框架、高精度訓練組件等核心軟硬件，仍存在一定的外部依賴，關鍵核心技術自主可控率有待提升。在國防科技智能化研發、裝備迭代過程中，外部技術供應鏈的不確定性，極易引發技術卡脖子、后門植入、遠程操控等安全隱患，一旦遭遇技術封鎖、供應鏈攻擊，將直接導致國防智能裝備癱瘓、科研體系停滯，威脅國防科技體系完整性與安全性。同時，軍事智能技術快速迭代，現有國防技術標準、防護體系更新滯后，無法適配新型技術風險防控需求，技術體系防護漏洞持續存在。

（二）數據安全風險：全域數據泄露與污染動搖國防科技根基

數據是人工智能訓練迭代的核心資源，國防領域涵蓋裝備參數、科研數據、戰場情報、兵力部署、作戰預案等海量高密級數據，智能化應用過程中的數據流轉、存儲、訓練、共享行為，催生了全方位數據安全風險，成為國防科技安全的薄弱環節。

一是數據泄露風險。國防智能系統的互聯互通特性，打破了傳統軍事數據封閉隔離的防護模式，跨領域、跨平臺、跨區域的數據傳輸共享常態化，大幅拓寬了數據泄露渠道。敵方可利用網絡滲透、漏洞攻擊、深度偽造、社工攻擊等手段，竊取國防科研核心數據、智能裝備核心參數、軍事訓練機密數據，破解我方智能算法邏輯與作戰體系短板，掌握戰場信息主動權。同時，內部人員操作不規范、智能設備管控不嚴、數據權限濫用等問題，也極易引發內部數據泄密隱患。

二是數據污染風險。人工智能模型的精準度完全依賴訓練數據質量，敵方可通過投放虛假數據、篡改真實數據、干擾數據采集等方式，實施數據污染攻擊。被污染的數據集將直接導致軍事智能模型訓練失真、研判失準、決策失效，造成智能偵察識別失誤、無人裝備作戰偏差、戰略推演結果失真，從源頭破壞國防智能體系的可靠性與精準性。此外，海量國防數據的分級分類管理、溯源監管、銷毀機制尚不健全，部分涉密數據留存失控、復用無序，進一步放大數據安全隱患。

（三）作戰應用風險：人機協同失衡與自主失控加劇戰場不確定性

人工智能與武器裝備、作戰體系的深度融合，重塑了作戰模式與戰爭形態，但同時引發人機協同紊亂、自主武器失控、作戰規則失序等新型作戰安全風險，大幅提升智能化戰爭的對抗風險與失控概率。

首先，人機協同異化風險。當前軍事智能化應用存在過度依賴算法、弱化人工干預的傾向，部分智能作戰系統逐步弱化“人在回路” 的核心管控作用。在復雜戰場對抗環境中，強電磁干擾、多域突發對抗、復雜地形氣象條件下，智能系統自主決策能力大幅下降，若人工干預滯后、權限失效，極易出現作戰行動失控、裝備誤擊誤判、戰術執行偏差等問題，引發非預期作戰沖突。

其次，自主武器失控風險。致命性自主武器、無人機蜂群、智能彈藥等新型裝備快速列裝，具備自主搜索、識別、打擊目標的能力，其作戰決策完全依托算法運行。算法漏洞、外界干擾、程序異常等問題，可能導致自主武器脫離指揮管控、隨意發起攻擊，引發戰場誤殺傷、沖突升級等惡性事件。同時，敵方可通過技術劫持、算法破解等方式，反向操控我方智能無人裝備，使其反噬我方作戰體系，造成戰場被動。

最后，新型欺騙對抗風險。基于人工智能的深度偽造技術可偽造戰場影像、指揮指令、兵力動態，制造虛假戰場態勢，干擾我方指揮決策體系。同時，AI驅動的隱蔽式網絡攻擊、無人蜂群突襲、多維混合滲透等新型作戰樣式，突破傳統戰場防御體系，讓國防作戰防御面臨無邊界、隱蔽化、突發性的安全威脅。

（四）戰略格局風險：智能軍備競賽引發國防戰略失衡

人工智能的軍事賦能屬性，使其成為大國軍事競爭的核心焦點，全球智能化軍備競賽持續升溫，深刻改變傳統國防戰略平衡格局，給我國國防戰略安全帶來系統性風險。

一是戰略攻防失衡風險。人工智能技術大幅放大了軍事進攻優勢，相較于傳統防御體系，智能進攻具備速度更快、隱蔽性更強、成本更低、突破能力更強的特點，打破了傳統戰爭“攻防平衡” 的基本規律。各軍事強國加速布局智能作戰體系、自主武器系統、算法輔助戰略決策體系，優先搶占智能化軍事競爭制高點，使得被動防御方的戰略威懾能力、防御抗壓能力被弱化，全球軍事戰略攻防格局持續失衡。

二是軍備競賽升級風險。各國持續加大軍事人工智能研發投入，競相布局無人作戰、智能對抗、算法戰略推演等前沿領域，推動智能化軍備競賽持續升級。這種無序競爭不僅加劇全球軍事對抗風險，也迫使我國加快國防科技智能化迭代節奏，國防科研、裝備建設、體系升級的壓力持續增大。同時，全球尚未形成統一的軍事人工智能治理規則，自主武器使用、算法軍事應用、智能對抗邊界缺乏有效約束，極易引發誤判沖突、摩擦升級，威脅國家戰略穩定。

三是戰略認知博弈風險。在智能戰略推演、態勢研判領域，敵方可利用先進算法構建虛假戰略態勢，誤導我方戰略判斷，干擾國防戰略布局與軍事決策，引發戰略層面的誤判失誤，影響國防科技長遠發展規劃與國家安全戰略落地。

人工智能賦能國防科技安全發展的應對策略

（一）筑牢技術自主根基，構建安全可控的智能技術體系

核心技術自主可控是防范人工智能國防科技風險的根本保障。一是攻堅核心關鍵技術。聚焦軍事人工智能底層算法、高端芯片、專用框架、核心組件等“卡脖子” 領域，整合國防科研院所、軍工企業、高端智庫科研力量，設立專項攻關課題，集中資源突破自主可控軍事智能技術體系，構建自主知識產權的軍事算法庫、模型庫、技術庫，徹底擺脫外部技術依賴。

二是完善技術安全防護體系。針對軍事智能算法黑箱、漏洞缺陷、抗干擾弱等問題，大力發展可解釋人工智能、可信人工智能、抗對抗攻擊技術，優化軍事智能模型架構，提升算法穩定性、可靠性、抗干擾性。建立軍事智能技術全流程測試、驗證、迭代機制，常態化開展算法漏洞排查、風險檢測、攻防對抗演練，從技術源頭化解算法失效、模型失控風險。

三是健全技術標準規范。結合國防科技智能化發展需求，制定軍事人工智能研發、應用、運維、安全的統一標準規范，明確技術準入門檻、安全底線、運維要求，構建標準化、規范化、法治化的軍事智能技術應用體系，補齊技術管理短板。

（二）強化數據全鏈管控，構建涉密國防數據安全防護體系

堅守數據安全底線，構建采集、傳輸、存儲、訓練、銷毀全生命周期數據安全管控體系。一是嚴格分級分類管理。對國防科研數據、裝備數據、戰場數據、涉密軍事數據實施分級分類管控，明確不同層級數據的使用權限、傳輸范圍、保密要求，嚴格落實最小權限原則，杜絕數據無序流轉、越權使用。

二是搭建智能防護屏障。運用加密傳輸、數據脫敏、溯源追蹤、區塊鏈存證、動態監測等技術，構建國防數據智能安全防護系統，實時監測數據泄露、篡改、污染、竊取等異常行為，實現風險自動預警、快速處置。建立軍事數據溯源追責機制，實現數據全流程可追溯、可管控、可問責。

三是規范數據訓練與復用。建立涉密軍事數據篩選、審核、凈化機制，嚴格把控人工智能模型訓練數據質量，常態化開展數據清洗校驗，防范數據污染引發的模型失真問題。同時，嚴控涉密數據對外開放、共享復用，嚴禁高密級數據用于通用AI模型訓練，筑牢數據安全防線。

（三）優化作戰應用管控，健全人機協同安全作戰機制

聚焦智能化作戰風險防控，規范人工智能軍事應用場景，完善作戰管控體系，實現智能賦能與安全可控雙向統一。一是堅守人在回路核心原則。明確所有軍事智能作戰系統必須保留人工干預、緊急關停、權限接管通道，嚴禁全自主、無管控的高危智能作戰模式，牢牢守住人類掌控戰爭的核心底線，杜絕智能裝備失控、誤判、誤擊風險。

二是構建實戰化攻防演練體系。搭建軍事智能攻防對抗演練平臺，常態化開展算法對抗、數據攻擊、無人裝備反制、深度偽造識別等實戰化演練，錘煉部隊應對智能作戰風險的處置能力，提升人機協同作戰、應急管控水平。

三是規范智能裝備應用管理。完善智能無人裝備、自主武器系統的列裝測試、日常運維、實戰應用管理制度，建立全生命周期安全風險評估機制，定期開展裝備漏洞排查、性能校驗、風險整改，確保智能作戰裝備安全可控、可靠可用。

（四）完善戰略治理體系，維護智能化時代國防戰略平衡

立足大國博弈全局，統籌發展與安全，構建全方位、多層次的軍事人工智能戰略治理體系。一是強化頂層戰略布局。立足未來智能化戰爭形態，完善國防科技智能化發展戰略規劃，統籌智能技術研發、裝備迭代、人才培養、風險防控一體化建設，精準布局前沿軍事智能領域，搶占未來軍事競爭戰略主動權。

二是健全國內治理制度。出臺軍事人工智能安全管理條例、倫理規范、應用準則，明確智能軍事技術應用邊界、責任主體、監管機制，規范智能軍備發展、算法軍事應用、無人裝備作戰使用，杜絕無序發展、濫用誤用風險。建立第三方安全評估認證機制，常態化開展軍事AI風險研判與合規審查。

三是積極參與全球治理。主動參與國際軍事人工智能規則制定，深化國際戰略溝通與安全協作，倡導構建公平公正、安全可控、有序規范的全球軍事智能治理體系，抵制無序軍備競賽，化解戰略誤判風險，維護國家國防戰略安全與區域和平穩定。

人工智能引領的軍事智能化革命，是新時代國防科技發展的重大機遇，同時也帶來了技術、數據、作戰、戰略多維度的新型安全風險，對我國國防科技安全建設提出了全新挑戰。新形勢下，必須始終堅持統籌發展和安全，既要搶抓人工智能技術變革機遇，加速國防科技智能化轉型升級、賦能未來戰爭制勝能力提升；更要清醒研判各類安全風險的演化規律，立足國防建設實際，從核心技術攻堅、數據全鏈管控、作戰應用規范、戰略治理完善四個維度持續發力，構建全方位、立體化、體系化的風險防控體系，有效防范化解智能軍事領域安全隱患，牢牢掌握智能化戰爭主動權，為新時代強軍事業、國防科技高質量發展筑牢安全屏障。

（作者系著名軍事戰略專家，研究員，博導。軍委后保部發展規劃委員會專家委員。中國錢學森軍事系統工程研究院首席軍事專家，國家安全政策委員會高級研究員，國防發展戰略專業委員會秘書長，《解放軍報》《國防參考》《中國青年》等報刊特邀評論員，中關村軍民融合信息裝備產業促進會發展戰略委員會主席，多所大學特聘榮譽教授或軍事專家）