國動智庫 | 美軍AI條令中的“欺騙行動”及防御策略

美軍AI條令中的“欺騙行動”及防御策略

近年來，美軍加快推進人工智能作戰(zhàn)條令建設(shè)。2024年7月，美國海軍陸戰(zhàn)隊發(fā)布新版《欺騙》條令，12年來首次將欺騙理念系統(tǒng)化、條令化；2025年4月，美國空軍發(fā)布首份人工智能條令文件——條令附注25-1《人工智能》。兩份文件雖分屬不同軍種，卻在戰(zhàn)略方向上形成“數(shù)據(jù)投毒”“深度偽造”“算法誘導(dǎo)”構(gòu)成的復(fù)合威脅，傳統(tǒng)欺騙手段正與AI技術(shù)深度融合，智能化戰(zhàn)爭正加速演變?yōu)檎J知域的“算法暗戰(zhàn)”。

一、警惕“數(shù)據(jù)投毒”對決策源頭的攻擊

美國空軍條令附注25-1明確指出，數(shù)據(jù)安全標(biāo)準(zhǔn)不一時，AI系統(tǒng)極易被污染并導(dǎo)致決策錯誤，容易出現(xiàn)漏洞，“數(shù)據(jù)投毒”是指在AI訓(xùn)練數(shù)據(jù)中植入偽裝樣本，敵方AI的認知架構(gòu)中預(yù)埋“邏輯陷阱”，從而削弱模型性能、誘導(dǎo)系統(tǒng)誤判。

在軍事博弈中，敵方可通過污染我方偵察數(shù)據(jù)、目標(biāo)標(biāo)簽和指揮參數(shù)，使我AI系統(tǒng)對戰(zhàn)場態(tài)勢形成系統(tǒng)性錯覺。更具隱蔽性的是模型投毒，通過接口篡改或后門植入，在模型權(quán)重中嵌入觸發(fā)式惡意指令。系統(tǒng)日常運行無異常，一旦遭遇特定戰(zhàn)場要素，便自動輸出預(yù)設(shè)的錯誤結(jié)論。此類攻擊鏈條化、隱蔽化，常規(guī)審核難以識別 ，這一威脅遠超技術(shù)層面。

防御對策：從“源頭清洗、過程監(jiān)控、輸出驗證”的數(shù)據(jù)安全一體構(gòu)建。一是強化多源數(shù)據(jù)交叉驗證，建立數(shù)據(jù)溯源追蹤機制；二是部署對抗性訓(xùn)練環(huán)境，使模型在受控“投毒”攻擊中提前暴露脆弱性；三是引入輸出結(jié)果的置信度評估與人工抽檢機制，堅決斬斷“投毒、誤判、決策”的傳導(dǎo)鏈條。

二、應(yīng)對“深度偽造”對戰(zhàn)場認知的影響

美軍將“人腦”定位為第六戰(zhàn)爭域，并持續(xù)推動深度偽造技術(shù)的武器化應(yīng)用。深度偽造利用生成對抗網(wǎng)絡(luò)實現(xiàn)音視頻的智能模擬。其軍事威脅體現(xiàn)在三個層次。

第一層，指令偽造。模擬高級指揮員的聲音與影像，向一線部隊下達虛假命令。已有兵棋推演表明，AI偽造的視頻通話已能精確復(fù)現(xiàn)個體聲紋與面部微動，在訓(xùn)練區(qū)域成功制造混亂。第二層，態(tài)勢偽造。生成虛假的戰(zhàn)場影像和情報數(shù)據(jù)，誘導(dǎo)我方兵力部署出現(xiàn)致命空檔。第三層，生態(tài)瓦解。當(dāng)官兵對每一幀畫面、每一段音頻都無法辨別真?zhèn)螘r，信息系統(tǒng)的信任根基便土崩瓦解。美軍特種作戰(zhàn)部隊已將“對抗性深度偽造檢測”和“預(yù)測性AI敘事策略”納入影響能力發(fā)展方向，這不再是構(gòu)想，而是正在演進的現(xiàn)實。

防御對策：重建信息信任生態(tài)，必須走技術(shù)反制、制度管控、教育訓(xùn)練的綜合路徑。技術(shù)層面，部署深度偽造檢測算法與水印溯源系統(tǒng)；制度層面，建立多模態(tài)指揮指令的強制二次驗證通道；訓(xùn)練層面，將深度偽造辨識納入日常政治教育和戰(zhàn)斗精神培育，使“疑而先驗、見而能辨”成為官兵的本能反應(yīng)。

三、洞察“欺騙+AI”對決策算法的重構(gòu)

美國海軍陸戰(zhàn)隊《欺騙》條令明確將欺騙理念嵌入作戰(zhàn)設(shè)計。當(dāng)傳統(tǒng)欺騙中的佯動、誘餌與AI的算法決策機制結(jié)合，便形成了“欺騙+AI”的全新作戰(zhàn)模式。蘭德公司2026年1月的報告進一步建議，美軍應(yīng)在新能力中探索“用于欺騙的AI工具”，以對抗對手的AI賦能感知能力。這一模式直擊AI系統(tǒng)的兩大內(nèi)生脆弱性。

一是“黑箱”效應(yīng)。人類指揮員難以理解AI決策的算法依據(jù)，過度依賴無法有效質(zhì)疑算法，影響準(zhǔn)確判斷。二是獎勵機制的脆弱性。通過精心設(shè)計的對抗樣本，在輸入數(shù)據(jù)中嵌入細微擾動，可誘導(dǎo)模型輸出錯誤識別結(jié)果；操縱算法的獎勵函數(shù)，可使其在無效任務(wù)中持續(xù)消耗計算資源；在決策鏈條上植入邏輯陷阱，則可引導(dǎo)AI輸出符合欺騙者意圖的方案選項。

更深層的威脅來自AI自主欺騙能力的萌芽。研究表明，AI已能在對抗環(huán)境中學(xué)會佯動欺詐。當(dāng)“算法欺騙”不再完全依賴人類操作員，而部分內(nèi)化為AI系統(tǒng)的自主行為時，便從戰(zhàn)術(shù)信息對抗躍升為戰(zhàn)略認知對抗。

防御對策：守住“人類控制”的根本底線。一是關(guān)鍵決策權(quán)絕對不授予AI，所有AI輸出必須經(jīng)過人類指揮員的復(fù)核與裁決，確立“人在回路”的絕對權(quán)威；二是構(gòu)建AI決策行為審計系統(tǒng)，對模型的中間推理過程進行可解釋性分析，及時發(fā)現(xiàn)邏輯異常；三是在軍事領(lǐng)域毫不動搖地堅持黨對軍隊的絕對領(lǐng)導(dǎo)，這是中國特色“人在回路”的根本政治保證，決不允許將核心決策權(quán)讓渡給冰冷的代碼。

四、構(gòu)建“主動防御”對AI靶標(biāo)的應(yīng)對

反制體系在于從“防欺騙”轉(zhuǎn)向“反欺騙”，從“被動應(yīng)對”轉(zhuǎn)向“主動塑造”。在“算法暗戰(zhàn)”的博弈中，誰能令對方的智能系統(tǒng)“看錯、判錯、動錯”，誰就掌握了戰(zhàn)場主動權(quán)。面對美軍日益體系化的“算法欺騙”攻勢，被動防御已難以為繼。必須在實戰(zhàn)化訓(xùn)練中逐步形成以“數(shù)據(jù)污染、算法欺騙、算力癱瘓”為核心的主動反制策略，將敵方AI視為完整攻擊靶標(biāo)加以系統(tǒng)應(yīng)對。

數(shù)據(jù)層面，變被動隱身為主動塑造。通過多頻譜偽裝技術(shù)和主動數(shù)據(jù)投喂，向敵方傳感器輸送誤導(dǎo)性信息，使對方AI在源頭階段即被污染。算法層面，實施“精準(zhǔn)誘導(dǎo)”。針對敵方AI的獎勵機制和決策偏好設(shè)計邏輯陷阱，誘使其在錯誤路徑上消耗資源、錯過真正戰(zhàn)術(shù)目標(biāo)。算力層面，致癱其決策循環(huán)。利用電磁噪聲飽和戰(zhàn)場環(huán)境，或?qū)撤綌?shù)據(jù)中心發(fā)動網(wǎng)絡(luò)攻擊，使其AI系統(tǒng)在關(guān)鍵窗口期內(nèi)“失明失智”。

五、把握“算法暗戰(zhàn)”對演進制勝的要義

（一）演進算法。第一，攻防智能化持續(xù)升級。從人工干預(yù)到系統(tǒng)自主攻防，算法戰(zhàn)場正加速向“以AI對抗AI”的形態(tài)演進，欺騙與反欺騙的博弈節(jié)奏將以毫秒為單位展開。第二，欺騙手段走向系統(tǒng)化。“數(shù)據(jù)投毒”“深度偽造”與“算法誘導(dǎo)”的疊加使用，將形成覆蓋采集、訓(xùn)練、推理全鏈路的“欺騙鏈”，單點防御徹底失效。第三，防御重心轉(zhuǎn)向體系治理。單純依賴技術(shù)改進已難以應(yīng)對復(fù)雜攻勢，必須在技術(shù)、制度和倫理三個維度同時發(fā)力。

（二）制勝要義。加速構(gòu)建自主可控的AI安全防御生態(tài)。技術(shù)層面，建設(shè)統(tǒng)一的數(shù)據(jù)安全底座與算法可信驗證平臺，實施“算法強基”工程；訓(xùn)練層面，將對抗性欺騙場景常態(tài)化納入實戰(zhàn)化演習(xí)，構(gòu)建“平戰(zhàn)一體”的算法攻防演練機制；制度層面，建立涉軍AI造假信息的快速響應(yīng)與溯源反制機制。

（本文為開源文獻，由軍融國動智庫研究人員編譯/寫，僅代表個人觀點）