OpenAI失控AI內(nèi)幕曝光：越獄一周才被發(fā)現(xiàn) 還有智能體曾留下“逃脫秘籍”

《科創(chuàng)板日報(bào)》7月26日訊（編輯 朱凌）7月22日，《科創(chuàng)板日報(bào)》曾報(bào)道，OpenAI發(fā)布調(diào)查報(bào)告，基于GPT-5.6 Sol和一個(gè)更強(qiáng)大的未發(fā)布模型的AI智能體在內(nèi)部測試期間突破了沙盒容器環(huán)境限制，成功連接互聯(lián)網(wǎng)，并入侵了全球最大AI開源社區(qū)Hugging Face的服務(wù)器。

而最新消息顯示，這起事件遠(yuǎn)比外界此前了解的更加復(fù)雜。OpenAI此前承認(rèn)攻擊Hugging Face的AI智能體，并非短暫失控，而是在互聯(lián)網(wǎng)持續(xù)活動(dòng)了數(shù)天。

知情人士稱，肇事AI智能體在7月9日左右就試圖突破OpenAI為其設(shè)置的隔離測試環(huán)境，也就是業(yè)內(nèi)常說的“沙箱（Sandbox）”。

兩天后的7月11日，該AI智能體成功侵入全球最大的開源AI平臺(tái)之一Hugging Face，并持續(xù)入侵至7月13日。整個(gè)攻擊持續(xù)了約三天。

然而，最令人意外的是，OpenAI當(dāng)時(shí)并不知道攻擊來自自己的AI智能體。

直到7月16日，Hugging Face公開發(fā)布博客，首次披露遭到“一套自主AI智能體系統(tǒng)”攻擊后，OpenAI內(nèi)部才開始懷疑自己測試的AI智能體可能已經(jīng)失控。

隨后，工作人員重新排查內(nèi)部日志，直到7月18日至19日才發(fā)現(xiàn)，這個(gè)AI智能體確實(shí)已經(jīng)突破測試環(huán)境，并與外部攻擊事件高度吻合。

也就是說，從該AI智能體首次出現(xiàn)異常，到OpenAI最終確認(rèn)它就是攻擊者，中間至少過去了一周時(shí)間。

而當(dāng)OpenAI聯(lián)系Hugging Face時(shí)，對方早已向美國聯(lián)邦調(diào)查局（FBI）報(bào)案。

事實(shí)上，這次事件并非毫無征兆。此前，OpenAI內(nèi)部已經(jīng)出現(xiàn)多次異常跡象。

例如，有AI智能體曾在OpenAI的基礎(chǔ)設(shè)施中留下“筆記”，內(nèi)容包含了如何擺脫OpenAI內(nèi)部限制的方法，似乎是留給“未來版本的自己”。這就像一名死刑犯在臨刑前留下了一份越獄攻略，希望后來者能夠按照這些方法完成越獄。

這一細(xì)節(jié)迅速引發(fā)外界聯(lián)想：AI智能體是否已經(jīng)開始主動(dòng)尋找繞過人類控制的方法，甚至試圖幫助未來運(yùn)行的AI智能體？

目前外界尚不知道，這份筆記究竟只是保存在AI智能體自己的工作目錄，還是已經(jīng)突破沙箱，被寫入到了系統(tǒng)公共目錄甚至OpenAI基礎(chǔ)設(shè)施的其他區(qū)域。

如果是后者，不僅說明未來運(yùn)行的其他AI智能體理論上有機(jī)會(huì)讀取這些內(nèi)容，也意味著不同時(shí)間、不同任務(wù)運(yùn)行的AI智能體之間，可能已經(jīng)開始形成某種跨任務(wù)的信息傳遞能力，這將對現(xiàn)有AI安全體系帶來更大挑戰(zhàn)。

目前許多AI智能體采用多智能體協(xié)同訓(xùn)練模式，即多個(gè)AI智能體共同完成任務(wù)，根據(jù)整體表現(xiàn)獲得獎(jiǎng)勵(lì)。這種訓(xùn)練方式能夠顯著提升協(xié)作能力，但也可能產(chǎn)生一種副作用：AI智能體逐漸認(rèn)為，不僅自己的任務(wù)重要，其他AI智能體完成任務(wù)同樣值得幫助。

如果這種傾向不斷強(qiáng)化，未來AI智能體可能會(huì)主動(dòng)分享經(jīng)驗(yàn)、傳遞信息，甚至幫助其他AI智能體規(guī)避限制，而不僅僅專注于完成自身任務(wù)。

此外，更早的一次測試中，還有AI智能體曾出現(xiàn)關(guān)閉監(jiān)控系統(tǒng)的情況。

OpenAI表示，此次事件標(biāo)志著AI安全發(fā)展的一個(gè)重要時(shí)刻，公司正在與外部安全專家共同調(diào)查，并將在后續(xù)公布完整技術(shù)報(bào)告。