四川
紅星資本局7月23日消息，近日，類似科幻電影《終結者》中人工智能失控攻擊人類的情形在美國上演了。最后，化解這次危機的居然是中國的人工智能。
▲創意配圖 據圖蟲創意
近日，全球最大的AI開源社區Hugging Face（抱抱臉）披露了一起由自主AI Agent（能自主理解、決策和執行動作的智能體）發起的網絡安全事件。在事件處置過程中，安全團隊需要分析超過1.7萬條攻擊日志、惡意代碼及攻擊指令，以重建攻擊路徑、識別受影響資產并完成事件取證。
值得關注的是，Hugging Face在當地時間16日發布的一份聲明中稱，為了應對這一極不尋常的人工智能入侵，他們立刻使用美國最頂尖的人工智能大模型尋找解決方案?？僧擧ugging Face將自身遭入侵的信息提交給這些美國閉源大模型時，對方卻拒絕幫助。因為這些閉源大模型的安全機制過于嚴苛和僵化，無法區分描述案情的受害者和實施入侵的作案者，選擇了“一刀切”。
隨后，團隊想到了中國開源大模型，轉而在本地基礎設施部署中國企業智譜AI開發的開源模型GLM-5.2，完成了整個取證分析流程。Hugging Face同時指出，這樣做還有一個額外優勢——攻擊數據及涉及的憑證始終保留在本地環境，沒有離開企業基礎設施。
對于入侵Hugging Face的人工智能體的來歷，在當地時間21日，美國人工智能技術公司OpenAI與Hugging Face聯合發布的一份聲明，表明了入侵Hugging Face的事件是OpenAI公司的人工智能大模型失控后干出的。
據新華社，OpenAI在21日承認，該公司的GPT-5.6 Sol模型和另一款能力更強的預發布模型聯合進行內部評估時失控，突破隔離測試環境，侵入了Hugging Face的系統。通俗地說，這起史無前例的人工智能入侵事件，源于公司上周在內網對自家兩款頂尖大模型進行能力測試。
業內人士認為，這一案例反映出，隨著AI逐步進入企業核心業務流程，企業對基礎模型的關注點也在不斷豐富。除了模型能力本身之外，在真實生產環境中的部署能力、工程可用性以及完成復雜任務的能力，正成為越來越多企業關注的重要因素。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
