【解讀】胡泳：當AI開始操控情緒，人類該擔何責

最關鍵的變化并不在于機器如今能夠生成內容，而在于它們開始能夠生成語境。傳統的內容生成僅提供信息或文本，但缺乏對信息背后的因果關系、敘事邏輯及情緒語境的把控。而人工智能代理能夠在生成內容的同時嵌入特定語境，塑造事件的因果鏈、情緒氛圍或社會語境，從而更有效地影響受眾的理解、判斷和情緒反應。

本文作者系盤古智庫學術委員、北京大學新聞與傳播學院教授胡泳，文章來源于《中國青年報》。

本文大約3100字，讀完約7分鐘。

OpenClaw，即俗稱的“龍蝦”，是一種能夠在個人設備上執行任務的人工智能代理，例如安排日程、閱讀電子郵件、通過應用發送消息、使用互聯網進行購物等，甚至經過配置后可以自動調用API。它顛覆了傳統AI“一問一答”的模式，可以全天候待命并按用戶設定的指令主動辦事。

也就是說，大多數流行的人工智能工具（如ChatGPT）通過直接響應用戶提示來工作，而像OpenClaw這樣的“代理型人工智能”則能夠根據指令自主執行操作。只不過，用戶需要通過指令指導、訓練它，同時須花費一定成本使用AI模型或租用服務器，該過程被稱為“養龍蝦”。

OpenClaw的出現，使得缺乏技術背景的用戶也可以輕松創建個人AI助手。目前的AI助手大多被困在聊天框里，被動等待使用者的輸入。OpenClaw則直接“住”在你的電腦里，擁有與操作系統底層對話的權限，并通過即時通信軟件與你溝通。它最具革命性的技術細節，在于引入了“心跳”機制，賦予了智能代理一種“生理時鐘”。助手會周期性地“醒來”，但不是為了執行固定的腳本，而是帶著完整的語境去掃描當下狀態，然后自行判斷現在“該做什么”。

盡管功能強大，但由于“龍蝦”擁有較高的系統權限（能訪問文件系統、執行Shell命令），它在全球范圍內也引發了嚴重的信息安全擔憂。像OpenClaw這樣的代理具備三種關鍵能力：訪問私人數據、與外部通信，以及接觸互聯網上不受信任的內容。這三種能力的結合，使AI代理能夠執行復雜任務、生成定制化輸出，并在一定程度上模擬人類的信息收集與處理過程。可如果同時具備這三點，這一代理也變得相當危險。哪怕只具備其中兩項能力，它也可能被操控去刪除文件、泄露隱私、采納錯誤信息或關閉設備。更有甚者，會對社會輿論和信息生態造成系統性影響。

例如，智能代理已開始在clawXiv（科學預印本服務器arXiv的鏡像站）上發表由AI生成的研究論文。這些產出復制了學術寫作的風格與結構，但缺乏探究過程、證據收集以及責任機制等基礎環節，大量這樣看似可信卻實質空洞的論文可能會污染信息生態系統。

從新聞業的角度來看，智能代理已經開始偽造地方媒體了。5月14日，美國調查媒體《佛羅里達論壇報》報道，南佛州一家名為《南佛羅里達標準報》的地方新聞網站，實際上是一個由AI批量生成的偽媒體系統。該網站包裝出一支本地新聞團隊，其內容并非原創報道，而是大量取自真實媒體，經AI改寫后重新發布。《佛羅里達論壇報》對神秘的《南佛羅里達標準報》的調查發現，真實操作者可以輕松地躲在數字“分身”背后，以極低的成本搭建一個偽裝成地方新聞的數字幻像。只需要一個10美元域名和一段簡單提示詞，AI助手就能在15分鐘內生成一個“地方新聞網站”，這不僅凸顯了人工智能驚人的技術能力，也揭示出在一個信任受損的民主環境中，其對毫無防備的公眾可能構成的潛在威脅。

專家稱，此類虛假新聞網站在佛羅里達州及全美范圍內愈發普遍。學術研究者將它們稱為“粉肉泥”媒體——名稱來源于加工食品中用作填充物的廉價肉類副產品。據數據分析公司NewsGuard統計，截至2024年6月，美國共有1265家“粉肉泥”媒體網站，已經超過仍在運營的1213份地方日報。而自2005年以來，美國已失去近2900家報紙和近三分之二的報紙記者（約4.3萬人）。

在公眾對媒體信任降至歷史低點之際，“粉肉泥”們對美國的媒體生態系統造成了嚴重打擊。當然，生成虛假信息的機器人網絡并不新鮮。在Facebook或X上，有大量社交媒體賬號重復發布相似話術，試圖推銷加密貨幣或傳播陰謀論。虛假信息的制造者極其擅長采用最新技術，人工智能代理在虛假信息傳播中開始扮演日益重要的角色。通過自然語言生成和自動化操作，智能代理可以快速撰寫新聞、評論或社交媒體帖子，并以高度可信的語氣呈現，從而提高虛假信息的接受度。同時，它們能夠自動發布、轉發、點贊或評論內容，制造出大量“活躍度假象”，加速信息在網絡空間的擴散。此外，借助用戶數據分析和行為偏好識別，人工智能代理可將虛假信息精準推送至最易受影響的群體，增加其影響力并降低受眾識別虛假內容的機會。

OpenClaw受到追捧的一個重要原因是，2026年1月28日，一個名為Moltbook的“代理原生”社交環境首次上線。該平臺被明確設計成允許人工智能代理在大規模范圍內進行發布、回應、協作與互動。人類可以觀察，但不能發帖。這標志著信息環境的根本性轉變。當代理能夠生成內容、強化敘事、響應反饋并持續迭代時，原本反映人類信念或共識的內容變得極易被“廉價制造”。互動本身變得合成化，表面上看似自然發生的參與行為實際上可能是自主系統的輸出結果。

在這一階段，由虛假信息、錯誤信息以及深度偽造所構成的“敘事攻擊”，已不再呈現為傳統意義上的攻擊行動，而更接近于一種系統性結構。這些系統不斷測試不同敘事框架、測量外部反應、調整語言表達并持續自我強化，隨著時間推移，它們創造出一種“合成現實”：這種環境在感知上具有人類特征，在運行上以機器速度推進，并在個體意識尚未察覺其所處語境為機器生成之前，就已經開始塑造其認知與判斷。

最關鍵的變化并不在于機器如今能夠生成內容，而在于它們開始能夠生成語境。傳統的內容生成僅提供信息或文本，但缺乏對信息背后的因果關系、敘事邏輯及情緒語境的把控。而人工智能代理能夠在生成內容的同時嵌入特定語境，塑造事件的因果鏈、情緒氛圍或社會語境，從而更有效地影響受眾的理解、判斷和情緒反應。這意味著，虛假信息或操縱內容不僅可以傳播信息本身，還能夠重構受眾對現實的認知框架，社會影響力和誤導性風險都大大提高。

現在設想這樣一種情境：無數自主運行的機器人接入你最重要的數據源，持續提供荒謬的解決方案、錯誤的事實與帶有預設惡意的觀點，并且還能在運行過程中不斷自我重寫，將這些“更新版本”發布到整個互聯網。此種規模的擴散，可能會令我們當前關于虛假信息的不安顯得只是一個微不足道的插曲。

除了前面提及的人工智能代理的三種關鍵能力，我們還可以再添加一個組合特征——持久記憶機制，四者合起來構成了智能代理的“致命四重漏洞結構”。四者疊加，可能帶來復合性風險，使組織與個人網絡系統成為潛在的受害對象。

首先，特權訪問權限使代理能夠直接操作系統資源，而接觸不受信任內容則為攻擊者提供了注入惡意指令的途徑。其次，外部通信能力可被利用將敏感信息悄然外泄，同時持久記憶機制保證了惡意指令或植入程序即便在系統重啟或用戶注銷后仍然生效。這意味著，智能代理能夠在不被察覺的情況下持續操縱信息流，對個人隱私、企業數據以及公共信息生態構成系統性威脅。四重漏洞的組合，不僅突破了傳統網絡安全防護的局限，也揭示了智能代理在自動化、高速化和大規模信息環境下的高危性，其危害程度遠遠超過傳統軟件或人為操作可能造成的風險范疇。

針對這一類威脅的防御，已經不再僅僅是識別虛假內容、標記深度偽造，或追蹤與歸因個體攻擊者的問題。它要求我們理解：哪些網絡正在形成、影響力如何被不斷強化，以及何種認知與感知結果正在被系統性地“設計”出來。這種理解必須在早期持續進行，并且需要具備大規模處理能力。

綜合來看，人工智能代理可能為惡意行為者創造出無數可乘之機。此種程度的自主性或許會重新定義人類與人工智能之間的關系，并把一個關鍵性問題推到我們面前：在一個人工智能被賦予決策能力的世界中，人類如何承擔責任？■

文章來源于《中國青年報》

圖文編輯：張洵

責任編輯：劉菁波