通過AI培育數字信任：自動化事實核查對抗虛假信息丨復雜系統管理學第四季第五期

導語

當今世界正深受信息失真與信任危機的困擾。虛假信息在多個領域持續擴散，人為生成或由人工智能生成的不實內容不斷涌現，數字空間中的可信度面臨前所未有的挑戰。與此同時，面對不斷演化的攻擊與威脅，人工智能系統自身的安全性與魯棒性也亟待重新審視。本期讀書會將聚焦塑造當代技術生態的關鍵議題：自動化事實核查及其可信性挑戰。本期讀書會為「復雜系統管理學讀書會第四季」第五期，香港浸會大學李鈺鵬教授將從技術框架、魯棒性評估到跨學科視角，全面剖析自動化核查的機遇與挑戰，展望人機協同的未來。本期讀書會將于7月11日周六14:30-16:30線上進行。

集智俱樂部邀請清華大學教授、西南財經大學社會發展研究院客座教授羅家德，電子科技大學計算機科學與工程學院教授周濤，復旦大學計算與智能創新學院教授陳陽，暨南大學新聞與傳播學院副教授趙甜芳，以及產業復雜科學推動者、北大縱橫合伙人陳雁鴻共同發起，聚焦討論如何在人工智能時代用復雜科學與AI技術滋養自組織生態，用復雜系統理論指導真正的AI原生組織重構。

報告簡介

在數字信任既是進步基石又是脆弱商品的時代，當前技術景觀面臨著關鍵挑戰：人為或AI生成的不實信息肆意傳播，以及AI系統面對不斷演化威脅的脆弱性。本次講座將深入探討對抗虛假信息的斗爭。我們將探討不實信息辟謠的魯棒性問題，并介紹一個精心構建的基準數據。隨著虛假信息的廣泛傳播，自動化事實核查已成為學術研究與社會關注的焦點。報告還將討論在大語言模型時代信息可信度面臨的新挑戰。當今世界正深受信息不可信現象在多個領域無節制擴散之苦，我們希望通過對信息可信度與人工智能可信度的持續研究，為構建更安全、更具韌性的數字未來貢獻力量，助力讓世界變得更加美好。

分享大綱

1. 數字信任危機與虛假信息挑戰

數字信任為何正在成為數字社會的重要基礎？從人為制造到AI生成，不實信息的生產與傳播方式正在發生變化，并持續影響個人判斷、社會共識與公共決策。本部分將梳理虛假信息治理面臨的現實挑戰，說明自動化事實核查研究的社會意義。

1. AI驅動的自動化事實核查

介紹自動化事實核查的基本框架，包括待核查聲明識別、可信證據檢索、證據分析、真實性判斷與結果解釋等關鍵環節，展示人工智能如何幫助人們更快速、更系統地辨別信息真偽。

1. 事實核查的魯棒性與基準數據

現實中的虛假信息并不會以固定形式出現。措辭改寫、語境變化、證據缺失和有意干擾，都可能導致事實核查系統失效。本部分將聚焦自動化辟謠的魯棒性問題，并結合相關研究中構建的基準數據，介紹如何系統評估模型在復雜場景下的穩定性與泛化能力。

1. 自動化事實核查的跨學科研究屬性

虛假信息不僅是一個算法問題，也與信息傳播、社會認知、新聞實踐及公共治理密切相關。本部分將說明自動化事實核查如何連接計算機科學、傳播學、社會科學等領域，通過整合多學科理論、方法與實踐知識，更完整地理解不實信息的生成、傳播、影響與干預。

1. 人機協同：從可信信息走向數字信任

事實核查的未來并非以機器完全取代人類，而是充分發揮人與AI各自的優勢：機器負責大規模篩查、證據檢索與模式識別，人類承擔語境理解、復雜判斷與結果審核。本部分將進一步討論人機協同如何提升事實核查的效率與可靠性，為構建更安全、更具韌性的數字信息生態提供支撐。

核心概念

• 數字信任（Digital Trust）

指個人和社會對數字信息、網絡平臺及人工智能系統真實性、可靠性與安全性的信心。數字信任不僅取決于信息是否準確，也與信息來源、傳播過程和技術機制能否被驗證有關。

• 不實信息與虛假信息（Misinformation and Disinformation）

不實信息泛指與事實不符或可能誤導受眾的內容，既包括因誤解或疏忽而無意傳播的錯誤信息，也包括被有意制造和擴散、用于欺騙或操縱認知的虛假信息。宣傳標題中使用“虛假信息”更具辨識度，研究中則需要對不同類型的不實信息進行區分。

• 自動化事實核查（Automated Fact-Checking）

指利用自然語言處理、信息檢索、機器學習等技術，自動識別待核查聲明、尋找相關證據，并判斷聲明是否得到事實支持。其目標是提升事實核查的速度、規模與一致性。

• 事實核查的魯棒性（Fact-Checking Robustness）

指事實核查系統在信息表述變化、證據不完整、數據環境改變或受到有意干擾時，仍能維持穩定判斷能力的程度。魯棒性決定了系統能否從實驗環境真正走向復雜的現實場景。

• 基準數據集（Benchmark Dataset）

指按照統一任務和標準構建、用于訓練與評估不同事實核查方法的數據集合。高質量的基準數據能夠揭示模型在準確性、魯棒性和泛化能力方面的優勢與局限，為相關研究提供可比較、可復現的基礎。

• 跨學科研究（Transdisciplinary Research）

指圍繞復雜現實問題，超越單一學科邊界，整合不同領域的理論、方法與實踐知識。自動化事實核查既涉及計算機科學中的算法與系統，也需要結合傳播學、社會科學、新聞實踐及公共治理，理解不實信息從產生到干預的完整過程。

• 人機協同（Human-AI Collaboration）

指人類與人工智能在事實核查過程中形成互補分工。機器擅長處理海量信息、快速檢索證據和識別模式，人類則更適合進行語境理解、復雜推理、社會與倫理判斷以及最終審核。二者協同能夠更好地兼顧核查效率、判斷質量與社會責任。

主講人介紹

主講人：李鈺鵬，香港浸會大學互動媒體系，博士生導師，現任人工智能媒體研究中心“AI向善實驗室”主任。

主要從事面向社會的人工智能、可信大模型與社會計算等跨學科研究，致力于研發具有社會價值的創新人工智能技術，應對虛假信息甄別、可信網絡系統、聽障群體無障礙溝通等具有重要社會意義的前沿挑戰。

現任計算社會科學交叉學科期刊《ACM Transactions on Social Computing》信息主任，曾擔任 IEEE ICDCS程序委員會聯合主席（TPC Co-Chair），并兩度獲評 IEEE INFOCOM 杰出程序委員會委員。入選微軟亞洲研究院 StarTrack Scholars計劃，先后獲香港浸會大學校長杰出青年研究學者獎、香港浸會大學知識轉移獎、日內瓦國際發明展“國際傳媒大獎”等多項榮譽。

參考文獻

[1] “Debating Truth: Debate-driven Claim Verification with Multiple Large Language Model Agents,” H. He et al., Proceedings of the ACM Web Conference (WWW), 2026.

當真假信息在數字媒體中不斷交鋒，AI能否像專業核查員一樣“辯論求真”？DebateCV讓多個大模型智能體分別陳述、質疑和裁決證據，以提升復雜信息的核查準確率和論證質量。這項研究融合人工智能、事實核查與傳播研究，為理解人機協同的信息驗證提供了新視角。

[2] “TVGN: Mastering Predictions of Information Transmissibility in Time-Varying Networks,” X. Shi and Y. Li, Proceedings of International Conference on Computational Data and Social Networks, 2024. [Best Student Paper Award]

一條信息為何會迅速擴散，另一條卻悄無聲息？TVGN聚焦不斷變化的傳播網絡，預測信息在不同時間和網絡結構中的傳播潛力。研究連接網絡科學、計算社會科學與傳播研究，可為輿情分析、內容傳播和擴散風險研判提供技術支持，并獲“最佳學生論文獎”。

[3] “Near-Optimal Online Learning with Non-Stochastic and Unbounded Erroneous Feedback,” D. Wen et al., Proceedings of IEEE INFOCOM, 2026.

當反饋數據充滿噪聲、故障甚至惡意操縱，AI還能否持續作出可靠決策？RONEF通過識別和削弱極端錯誤反饋的影響，幫助在線學習系統在復雜環境中保持穩定。這項工作為資源分配、移動眾包和智能網絡等應用提供了更具韌性的決策方法。

[4] “Message Injection Attack on Rumor Detection under the Black-Box Evasion Setting Using Large Language Model,” Y. Luo et al., Proceedings of the ACM Web Conference (WWW), 2024.

社交媒體上的謠言檢測系統，可能僅因幾條由大模型生成的新回復而受到誤導。HMIA-LLM模擬現實平臺中的黑盒攻擊，通過注入惡意信息干擾檢測結果，揭示自動化內容治理工具的潛在漏洞，也提醒傳媒平臺重新審視AI審核與傳播安全之間的關系。

[5] “Fact2Fiction: Targeted Poisoning Attack to Agentic Fact-checking System,” H. He et al., Proceedings of AAAI, 2026.

事實核查AI本應阻止虛假信息，卻也可能被精心設計的證據“帶偏”。Fact2Fiction針對智能體核查系統構造定向投毒攻擊，揭示自動化事實核查在數字媒體環境中的安全風險。這項研究連接人工智能安全、信息可信與傳播治理，為構建更可靠的媒體核查機制敲響警鐘。

[6] “Robust Decentralized Online Learning against Targeted and Untargeted Malicious Data Feature Manipulation,” Y. Li et al., IEEE Trans. Mobile Comput., vol. 25, no. 6, pp. 7611–7625, 2026.

當多個設備共同訓練AI時，少量被篡改的數據也可能在系統中持續擴散。該研究針對不同類型的數據操縱攻擊提出三種防御方法，提升去中心化學習的穩定性與可靠性。工作橫跨機器學習、網絡系統與安全研究，為可信分布式AI提供了新的解決思路。

[7] “Augment Online Linear Optimization with Arbitrarily Bad Machine-Learned Predictions,” D. Wen et al., Proceedings of IEEE INFOCOM, 2024.

AI系統常常需要參考其他模型給出的預測，但這些“建議”也可能嚴重失準。OLOAP能夠在預測可靠時充分利用其價值，在預測錯誤時及時降低依賴，讓在線決策既能借助AI，又不被AI誤導，為復雜環境中的穩健智能決策提供了實用方法。

[8] “MCFEND: A Multi-source Benchmark Dataset for Chinese Fake News Detection,” Y. Li et al., Proceedings of the ACM Web Conference (WWW), 2024.

社交媒體、即時通訊和網絡新聞中的虛假信息，往往具有截然不同的表達與傳播方式。MCFEND匯集多類數字媒體平臺的中文新聞，為檢驗模型能否跨平臺識別虛假內容提供了重要基準。該研究結合人工智能、新聞傳播、心理學與計算社會科學，推動虛假新聞檢測走向更加真實、復雜的傳播場景。

時間信息

2026年7月11日周六14:30-16:30，騰訊會議線上進行，集智俱樂部B站號同步直播。

感興趣的朋友下滑掃描二維碼報名，加入復雜系統管理學第四季讀書會后，可進入學員群進行交流。

報名讀書會：

「尋找AI驅動復雜組織進化的新路徑丨復雜系統管理學第四季 」

集智俱樂部邀請西南財經大學社會發展研究院客座教授、清華大學教授羅家德，電子科技大學計算機科學與工程學院教授周濤，復旦大學計算與智能創新學院教授陳陽，暨南大學新聞與傳播學院副教授趙甜芳，以及產業復雜科學推動者、北大縱橫合伙人陳雁鴻共同發起。

第四季復雜系統管理學讀書會立足于“AI驅動的復雜組織系統管理”這一主題，旨在突破單一視角的局限，從管理哲學與前沿技術的雙重視角，探尋人工智能時代組織進化的未來路徑。從 2026 年 6 月 13 日開始，每周六14:30-16:30，預計持續 8～10 周，采用騰訊會議線上直播與北京、廣州、成都、上海四城線下聯動的混合模式。期待與各位同仁共同學習復雜系統管理領域的前沿理論、共同探討復雜科學理論在 AI 組織管理場景的實踐與展望，一起應對百年未有之大變局下的組織發展未來。

掃描海報中二維碼報名參加讀書會

報名方式：

第一步：微信掃碼填寫報名信息。

第二步：填寫信息后，付費報名。如需用支付寶支付，請在PC端進入讀書會頁面報名支付：

第三步：添加運營助理微信，拉入對應主題的讀書會社區（微信群）。

PS：我們鼓勵圍繞復雜系統管理學與人工智能及相關具體問題的深入探討。為保證討論質量，請避免發表脫離本期讀書會主題、缺乏實證基礎或過于空泛的哲學思辨類內容。

若討論內容明顯偏離主題，經主持人提醒后仍未調整，為維護整體學習環境，我們將不得不將該成員請出討論群，并根據其實際參與進度，對未參與部分按比例辦理退費。

感謝您的理解與配合，讓我們共同營造一個專注、深入、有收獲的共學空間。

加入社區后可獲得的資源

完整權限包括：線上問答、錄播回看、資料共享、社群交流、信息同步、共創任務獲取積分等。

特色退費與激勵機制

我們提供以下兩種途徑，讓您的投入獲得實際回饋：

1. 任務達標退費路徑
   

   認領并合格完成任意兩期字幕任務，即可退還全額報名費，并額外獲得集智專屬周邊獎勵。

2. 運營成長激勵路徑
   

   合格完成一個字幕任務后，可申請成為運營助理。在讀書會項目順利結項后，將退還學費。表現優異者，還有機會獲得額外的獎學金。

1.讀書會推薦閱讀材料

掃描下方二維碼可跳轉至集智斑圖網站閱讀文章：《復雜系統管理學讀書會第四季》讀書會推薦閱讀材料。

2.往期公眾號相關內容推薦