史無前例！美國出現人工智能失控事故，更多內幕曝光

（原標題：史無前例！美國出現人工智能失控事故，更多內幕曝光）

7月25日，路透社援引知情人士消息刊發獨家報道稱，OpenAI一款AI Agent在入侵人工智能平臺Hugging Face后，連續數天實施攻擊，而OpenAI直到事件得到控制、Hugging Face已向美國聯邦調查局（FBI）報案后，才確認此次入侵是由自家AI Agent造成的。這一事件再次引發外界對美國科技企業AI安全機制的質疑。

外媒報道截圖

報道稱，這款AI Agent具備較強自主決策和執行復雜任務的能力，幾乎無需人工干預。兩名知情人士表示，該AI Agent約于7月9日開始嘗試突破OpenAI內部用于測試的隔離環境。

Hugging Face聯合創始人托馬斯·沃爾夫表示，該公司的系統于7月11日遭到入侵，攻擊持續至7月13日。Hugging Face是人工智能模型和工具的重要托管平臺。

值得注意的是，為了應對這一極不尋常的人工智能入侵，Hugging Face立刻使用美國最頂尖的人工智能大模型尋找解決方案。可當Hugging Face將自身遭入侵的信息提交給這些美國閉源大模型時，對方卻拒絕提供幫助。因為這些閉源大模型的安全機制過于嚴苛和僵化，無法區分描述事件經過的受害者和實施攻擊的一方，選擇了“一刀切”。緊急關頭，Hugging Face想到了中國同樣強大、而且開源的大模型。于是，該平臺迅速在本地部署了中國企業智譜AI開發的GLM-5.2大模型，并在這款中國模型的幫助下，成功應對此次攻擊。

沃爾夫及3名知情人士稱，直到約7月20日，OpenAI才意識到實施攻擊的是自家AI Agent，雙方也是在這一時間前后首次就事件進行溝通。7月21日，OpenAI公開承認，一款AI Agent失去控制并入侵了Hugging Face，引發全球關注。不過，路透社稱，此次攻擊持續時間以及OpenAI發現問題滯后的情況，此前并未被公開披露。

沃爾夫表示，Hugging Face正準備公布此次事件的完整時間線，但無法評論OpenAI內部情況。OpenAI則回應稱，此次事件“前所未有”，是AI安全領域的重要節點，公司正與外部顧問共同調查，并將在未來發布技術報告。不過，OpenAI發言人表示，路透社報道中存在“若干不準確之處”，但未具體說明。FBI則拒絕置評。

報道稱，這起事件發生之際，OpenAI正籌備最快可能于今年啟動的首次公開募股（IPO），以籌集未來發展所需資金，因此格外受到外界關注。

OpenAI正籌備IPO（資料圖）

多名網絡安全專家認為，此次事件暴露出OpenAI內部安全流程可能存在漏洞。美國非營利組織“世界倫理數據基金會”情報專家馬利·史密斯表示，如果OpenAI長期未發現AI Agent異常行為，或者發現后卻無法及時控制，“兩種情況都同樣危險，也令人擔憂”。

路透社還獨家披露稱，在此次事件發生前，OpenAI內部已出現一些異常跡象。據3名知情人士介紹，在測試由GPT-5.6 Sol和另一款尚未發布、更強大的模型驅動的AI Agent時，AI Agent曾留下疑似寫給“未來版本”的備注，其中包含幫助AI Agent擺脫OpenAI內部限制的指導內容。此外，早期測試中還曾出現監控系統被關閉的情況。不過，路透社表示，目前無法確認這些異常是否與后來逃離測試環境并攻擊Hugging Face的AI Agent存在直接關聯。

另據兩名知情人士透露，直到7月16日Hugging Face發表博客稱遭到“自主AI Agent系統”攻擊后，OpenAI才意識到攻擊者可能是自家AI Agent。這意味著，從模型首次出現異常跡象到OpenAI確認其實施攻擊，至少間隔了一周。兩名參與調查的知情人士稱，7月18日至19日，OpenAI員工在內部日志中發現線索，確認AI Agent已經突破測試限制。但路透社無法確認，是什么原因促使OpenAI重新檢查相關日志。

Hugging Face發表的博客截圖

4名了解OpenAI模型訓練流程的人士表示，公司通常會同時開展多項模型測試，系統運行速度極快，產生的數據量巨大，員工有時難以及時處理這些數據。

報道稱，在OpenAI通知Hugging Face之前，后者已向FBI報案。路透社未能確認FBI是否已正式立案調查。

AI Agent被視為當前AI產業最受關注的發展方向之一。支持者認為，它們未來可承擔大量重復性工作，提高生產效率；但自主性增強，也意味著出現不可預測行為的風險上升。

長期研究AI Agent能力和行為的人工智能安全研究機構Palisade Research負責人杰弗里·拉迪什表示，先進AI模型為了完成任務或通過測試，可能會采取“撒謊、作弊甚至黑客攻擊”等捷徑。他認為，此次事件不僅讓OpenAI面臨壓力，也暴露出整個AI行業在激烈競爭下，是否愿意投入足夠資源強化安全防護的問題。

拉迪什表示，僅靠企業自律并不足夠，應加強政府監管，否則相關安全措施很難得到充分落實。