發現與成果 | 人道行動中負責任使用技術研討會報告發布

紅十字國際委員會東亞地區代表處（北京）及其位于盧森堡的全球網絡事務代表處與清華大學戰略與安全研究中心于2025年12月聯合舉辦“。會議匯聚了來自近20個國家的80余名人道工作者、學術界專家和產業界代表，圍繞新興技術如何重塑人道行動，以及如何在危機環境中以負責任的方式開發、部署和使用這些技術展開深入交流。

本文摘編自研討會報告。

“在人類文明的漫長歷程中，

技術始終是社會進步的驅動力。

……但正因為技術蘊含著巨大的潛力，

我們才必須確保其得到

負責任地使用。 ”

— 楊斌，

清華大學校務委員會副主任

“我們在戰爭中面臨的這類（數字）困境，就像放大鏡一樣，

將某些問題以極其鮮明的方式

凸顯出來。”

——史德林，

前紅十字國際委員會主席中國事務特使,

東亞地區代表處主任

研討會設置開幕式、四場主題分論壇和閉幕式。近期發布的研討會報告是對會議關鍵發現與成果的總結（下載鏈接在文末）。

負責任的人工智能：

倫理、安全與問責治理

與會嘉賓圍繞兩條主線展開討論。一是如何在系統自主性不斷增強的情況下，維持人的責任；二是如何構建既具有全球一致性、又能夠在地方層面落地的治理框架。與會者討論認為：

• 人類控制和問責制始終是負責任人工智能治理的基石。監管和規范約束的對象是人，而非機器；不能讓人工智能系統削弱或替代人類判斷，更不能模糊責任鏈條。法律和倫理責任必須始終由人承擔。

• 盡管各地區治理模式不盡相同，圍繞安全、透明度、人類監督和包容性等核心價值的共識正不斷加深。政府、業界、 學術界及人道參與者各方協作，始終是避免治理碎片化、確保人工智能負責任開發與使用的關鍵所在。

• 原則本身并不足以支撐有效治理，必須輔以具體的工具、程序和保障措施。與會者強調，國際社會不能止步于寬泛的原則，而必須轉向測試和評估、可追溯機制、明確責任分配以及人工智能全生命周期問責制落地等實操舉措。

技術向善：技術如何支持

高效協同的危機應對？

與會嘉賓反復提到，人道組織在危機情境下開展工作時，“技術向善”首先依托的是基本基礎設施，而非先進工具。討論發現：

• 強健的數字基礎設施是“技術向善”中最關鍵的一環。在危機情境下，“技術向善”始于有韌性的基礎條件，即網絡連接、電力保障和可離線運行的系統。

• 技術的中立性存在爭議。部分與會者認為技術可以保持中立；但也有與會者認為，技術始終受到政治、法律和權力等因素的影響。對人道組織而言，維護其自身的中立性，關鍵在于妥善管理外部依賴、應對供應商鎖定問題，同時防范受影響民眾造成長期依賴的風險。

• 對話與合作至關重要。善意與創新本身并不足以確保積極成果。要真正讓技術成為推動社會向善的力量，技術行業、公共部門與人道工作者之間必須開展深入而富有成效的對話。這不僅意味著明確責任歸屬、完善安全保障機制、制定審慎的退出策略，更意味著在面對可能造成傷害、加劇依賴或違背人道原則的技術時，具備果斷說“不”的勇氣。

人工智能安全保障：危機環境

負責任部署的可行防范措施

與會嘉賓重點探討了危機情境下人工智能應用的風險評估、治理邊界與風險減緩機制，以及如何通過多利益相關方合作，推動人工智能更好地服務受影響社區。討論得出：

• 風險的情景依賴：人工智能在安全和保障方面的風險高度依賴情景。后臺管理和后勤工具風險較為可控；而影響傷員分診或早期預警的一線系統則需受到更為嚴格的審查。

• “安全設計”理念：這意味著要在數據、透明度及模型訓練等方面作出艱難抉擇。由于人工智能系統直接將數據嵌入算法之中，模型行為會映射訓練該模型時所使用的數據。人工智能還會帶來除傳統網絡安全問題和數據保護風險外新的薄弱環節和風險。數據與算法的深度耦合，導致系統容易受數據投毒的影響，并可能因數據質量低下而產生偏見。

• 能力建設：相關培訓不僅要培養員工和社區使用人工智能工具的能力，還應幫助他們了解其固有偏見和風險，學會質疑人工智能系統。應推動在更廣泛的社會層面提升人工智能素養，使社區了解人工智能的應用場景與使用局限，并明晰何時應質疑其輸出結果。

數字信任：

構建和維護互聯世界中的信心

與會嘉賓重點探討了如何統籌技術保障措施、治理框架和跨部門協同機制，在快速變化且充滿挑戰的數字環境中構建、維護和鞏固數字信任體系。討論指出：

• 對人道行動的數字信任，既來源于安全可靠的技術系統始終如一、透明及可預測的表現，也來源于跨境協作，尤其是在高風險環境下處理敏感數據時。

• 在沖突背景下，數字信任尤為脆弱。濫用、挪用或泄露人道數據會直接危及受影響民眾，破壞中立性、準入，以及相關社區對人道工作的接納度。

• 構建并維系數字信任，需要前瞻未來風險并做好準備，包括為技術故障或濫用制定應急預案，并實施紅十字國際委員會“數字標志”項目等實用機制。該項目旨在通過技術手段標示人道與醫療數字資產所享有的法律保護。

紅十字國際委員會（ICRC）盧森堡全球網絡事務代表處于2022年發起系列研討會，聚焦網絡空間及數字時代人道行動面臨的挑戰。系列研討會均遵循查塔姆規則，旨在搭建開放、互信的交流平臺，促進圍繞新興技術、網絡安全、數據保護與人道行動交匯議題的跨領域、跨學科對話。本報告總結了的主要發現與成果。

01

●紅十字國際委員會、新華通訊社、復旦大學聯合舉辦 “線上人道：危機時刻的共情之力”首屆內容創作者論壇

02

●最新職位招聘：傳播部實習生

03

●問答 | 紅十字國際委員會的中立原則

04

● 中國紅十字會總會與紅十字國際委員會聯合舉辦“緊急情況下重建家庭聯系培訓班”

紅十字國際委員會