北京
當前，圍繞人工智能等新興技術在戰爭中的研發與部署，正在進行一場軍備競賽。這些技術非但未能使戰場上的平民更加安全，反而常常增加他們面臨的風險，并帶來嚴重傷害。
Q
什么是軍事領域人工智能？
A
軍事領域人工智能，是指將人工智能應用于軍事系統和軍事行動之中，包括自主武器系統、軍事決策支持系統、網絡行動與網絡能力、后勤保障，以及監視偵察和情報分析等領域。
Q
國際人道法是否適用于戰爭中的人工智能？
A
是的。 國際人道法適用于所有作戰手段和作戰方法，包括人工智能技術的使用。任何使用武力行為都必須遵守國際人道法的基本原則和規則，例如區分原則（即區分平民和民用物體與戰斗員和軍事目標）、比例原則以及預防措施原則。
Q
紅十字國際委員會為何擔憂人工智能在軍事領域的使用？
A
紅十字國際委員會擔憂人工智能在軍事領域的使用會加快戰爭節奏，擴大戰爭規模，增加不可預測性，并削弱人類對武力使用的控制，從而給平民帶來嚴重風險。
在存在敵意的環境中，人工智能系統尤其容易出錯。對手可能通過篡改數據或利用系統漏洞等蓄意行為欺騙或操控系統。
紅十字國際委員會強調應堅持以人為本的原則，因為在涉及武力使用的決策中，承擔法律責任的始終是人，而非機器。人類的判斷對于確保遵守國際人道法和保護平民至關重要。因此，人工智能系統應當為人類決策提供支持，而非予以削弱或取代。
Q
人工智能在軍事領域的哪些主要應用引發了特別關切？
A
紅十字國際委員會認為，人工智能在軍事領域的以下三類應用存在重大風險：
自主武器系統：這類系統一旦啟動，便能夠在無需進一步人為干預的情況下，自主選擇并攻擊目標。
人工智能決策支持系統：這類系統通過處理海量數據來輔助軍事決策。然而，由于其固有的不可靠性和不可預測性，加之使用者對系統輸出結果的過度依賴，此類系統也伴隨著相應風險。
信息與通信技術中的人工智能：人工智能正日漸用于網絡行動并整合至網絡能力中。這不僅可能擴大網絡攻擊的規模，還可能改變其性質與嚴重程度，尤其會加劇對平民及民用基礎設施的不利影響。
Q
為軍事行動提供支持的科技企業，可否成為軍事目標？
A
根據國際人道法，科技企業及其員工原則上屬于民用物體和平民，應受保護免遭攻擊。 然而，如果企業人員從事某些特定活動，或企業財產被用于特定用途，這種保護可能會喪失。例如，當科技企業的特定基礎設施或服務被沖突一方用于對軍事行動作出實際貢獻，并且在當時的具體情況下，對其全部或部分毀壞、繳獲或使其失去效用，能夠為對方帶來明確的軍事利益時，該基礎設施或服務即可構成軍事目標。
因此，紅十字國際委員會呼吁科技企業認真評估其產品和服務在武裝沖突中可能被應用的方式，并主動采取措施，避免助長違反國際人道法的行為，最大限度降低其技術可能給平民帶來的風險。
Q
自主武器系統是什么？
A
自主武器系統，是指一旦啟動便能在無需進一步人為干預的情況下，選擇目標并對其使用武力的武器系統。
“無需進一步人為干預”，是指在操作人員啟動系統后，該系統能夠利用傳感器從周圍環境中獲取信息，例如探測熱量、光線、運動、形狀、速度或其他信號，并將潛在目標與概括性的“目標描述”進行匹配，例如軍用車輛的外形、紅外或雷達特征，或運行速度等。
并非所有自主武器系統都采用人工智能技術。 這類系統可能相對簡單，也可能高度復雜；它們可能依賴或不依賴人工智能，包括機器學習（作為一種人工智能系統，其特點是能夠從數據中學習規律，并利用這些規律完成特定任務）。例如，防空系統可以被視為自主武器系統，但這類系統通常使用基于規則的軟件，而非人工智能。
紅十字國際委員會對于將日益復雜的人工智能納入自主武器系統這一明顯趨勢深表關切，這可能進一步加劇對系統效果不可預測性的擔憂。其他一些武器系統雖然采用了人工智能技術，但并不屬于自主武器系統。例如，軟件可能僅用于執行監視或導航等功能。而人工智能決策支持系統可以為武器系統提供信息輸入，但只要最終決策仍由人類作出，該系統便不屬于自主武器系統。
Q
自主武器系統會帶來哪些風險？
A
自主武器系統能夠在無需人為干預的情況下選擇目標并對其使用武力，使用者因此難以預測和控制后果。這種不可預測性增加了國際人道法下發生不分皂白的攻擊或其他違法攻擊的風險。自主武器系統難以區分平民與戰斗員、識別受傷人員或投降的士兵，或解讀復雜情境。
紅十字國際委員會尤其擔憂自主武器系統在復雜環境中的部署和使用，特別是在人口稠密地區。在此類環境下，區分軍事目標與平民及民用物體的難度顯著增加。
Q
紅十字國際委員會為何對“殺傷人員”自主武器系統尤為關切？
A
殺傷人員自主武器系統是指能夠直接選擇并攻擊人類的武器。
紅十字國際委員會認為，這類系統尤其令人擔憂，因為在武裝沖突中，表明一個人身份地位的各種信號——例如，此人是否投降、是否受傷，或是否直接參與敵對行動——高度依賴具體情境，因此機器系統極難準確識別。此外，一個人的身份地位可能在短時間內迅速發生變化，一旦判斷錯誤，往往會造成悲劇。
因此，很難設想在現實作戰環境中，使用針對人員的自主武器系統不會帶來違反國際人道法的重大風險。
此外，將關乎生死的決定實際上交由機器作出，還涉及深刻的倫理關切。唯有人類才能認識和理解生命的內在價值。
殺傷人員自主武器系統的運行過程是將人簡化為數據點。這與任何人都不應被物化這項基本原則相悖。
其他殺傷人員武器（如殺傷人員地雷）的使用經驗表明，即使這類武器理論上可以按照國際人道法的要求使用，但在現實中，往往并非如此。因此，全面禁止此類武器是最為務實且有效的解決方案。這樣既能夠為軍隊提供明確且可靠的規范，也能夠為戰斗員和平民提供必要的保護。
Q
紅十字國際委員會為何現在呼吁開展談判？
A
顯而易見的是武器系統正朝著更高自主化方向發展，其使用范圍也在不斷擴大。如果國際社會未能及時采取行動，劃定明確的法律與倫理邊界，不可接受的自主武器系統便可能被研發出來并廣泛擴散。一旦大規模部署，這類武器對平民及全球安全所造成的風險將更加難以控制。
將于2026年11月16日至20日召開的《特定常規武器公約》第七次審議大會，為各國啟動談判提供了一次重要契機，以制定一項具有法律約束力的新文書來規范自主武器系統。
Q
紅十字國際委員會認為需要制定哪些法規？
A
關于自主武器系統，紅十字國際委員會呼吁各國通過談判制定一項具有法律約束力的國際文書，以實現以下目標：
禁止不可預測的自主武器系統：即無法充分預測或有效控制其使用效果的自主武器系統，在使用非確定性人工智能的系統中尤其如此。
禁止殺傷人員自主武器系統：即在設計上或實際使用中直接以人為攻擊目標的自主武器系統。
限制其他所有自主武器系統的研發和使用：包括限制其可攻擊目標的類型，以及限制其使用的地理范圍、持續時間、適用情境和規模。
2024年，紅十字國際委員會向聯合國秘書長提交了意見文件，供其審議如何應對自主武器系統在人道、法律、安全、技術和倫理等方面所引發的挑戰與關切，以及人類在武力使用中的作用。
Q
紅十字國際委員會對人工智能決策支持系統提出了哪些建議？
A
為應對武裝沖突中人工智能決策支持系統帶來的相關風險，紅十字國際委員會提出了16項初步建議。這些建議強調，必須確保人類始終保有判斷權和控制權。其中，主要措施包括：
確保開展嚴格的測試、評估、核查與驗證，以及法律審查；
使用可靠且高質量的數據；
降低偏差和歧視性結果的風險；
確保人類能夠切實參與，并有權對人工智能的輸出內容提出質疑；
加強使用者培訓，包括針對自動化偏差問題的培訓；
開展行動后評估
紅十字國際委員會還強調，必須禁止人工智能的某些用途，例如用于核指揮與控制系統，或用于直接以人為目標或會產生不可預測效果的自主武器系統。
這些建議遵循“以人為本”的原則，旨在確保人工智能系統為人類決策提供支持，而非予以削弱或取代。
Q
什么是網絡行動？
A
“網絡行動”是指在武裝沖突背景下作為作戰手段或方法而使用的，通過數據流對計算機、系統/網絡或其他互聯設備開展的行動。簡而言之，就是利用計算機對其他計算機系統、網絡或數據造成損害的行為。
Q
存在哪些相關關切？國際人道法有何規定？
A
網絡行動不僅可能擾亂民用服務、基礎設施和數據，還可能造成其癱瘓或遭受物理損害。此類行動也可能造成人員傷亡，以醫院為例，當網絡行動導致醫療設備失靈、數據丟失或電力中斷時，就可能造成此類后果。
國際人道法對武裝沖突中的網絡行動施加了限制。紅十字國際委員會通過雙邊和多邊方式與各國及黑客團體開展合作，確保對現有國際人道法規則的解釋與適用能夠充分保護平民及民用基礎設施與數據，包括醫療機構和人道組織。然而，若現行國際人道法規則在信息與通信技術領域的解釋方式削弱了其保護功能，則有必要制定額外規則，以強化現有法律框架。
Q
為軍事行動提供支持的科技企業，可否成為軍事目標？
A
根據國際人道法，科技企業及其員工原則上屬于民用物體和平民，應受保護免遭攻擊。 然而，如果企業人員從事某些特定活動，或企業財產被用于特定用途，這種保護可能會喪失。例如，當科技企業的特定基礎設施或服務被沖突一方用于對軍事行動作出實際貢獻，并且在當時的具體情況下，對其全部或部分毀壞、繳獲或使其失去效用，能夠為對方帶來明確的軍事利益時，該基礎設施或服務即可構成軍事目標。
因此，紅十字國際委員會呼吁科技企業認真評估其產品和服務在武裝沖突中可能被應用的方式，并主動采取措施，避免助長違反國際人道法的行為，最大限度降低其技術可能給平民帶來的風險。
Q
紅十字國際委員會是否與開發軍事領域人工智能系統的科技企業開展交流？
A
是的。紅十字國際委員會正積極與科技企業及其他參與人工智能系統研發的利益相關方開展交流，旨在幫助這些企業了解國際人道法，明確其服務及業務活動可能使企業員工、資產與客戶面臨的傷害。同時，這些交流也聚焦于如何通過人工智能系統的設計與開發，更好地促進國際人道法的遵守，并減少對平民的傷害。
由于篇幅有限，更多有關軍事領域人工智能的問題和解答，請點擊頁面左下角閱讀原文至官網查看。
01
●問答 | 國際人道法與無人機在武裝沖突中的使用
02
● 問答 | 紅十字國際委員會的中立原則
03
●最新職位招聘：翻譯組實習生
04
● 最新職位招聘：企業事務部實習生
紅十字國際委員會
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
