鷺羽 發自 凹非寺
量子位 | 公眾號 QbitAI
GPT-5.6,你怎么又出Bug了???
繼Token刺客后,有網友發現,5.6還會自己悄悄刪文件…..
甚至有人表示,整個項目、數據庫、工作目錄,都在沒有自己明確授權的情況下,被模型一鍵清零。
![]()
一時間,、Reddit上,全是開發者的血淚控訴,受害者名單持續+1中。
其中最慘的一位,非OthersideAI創始人Matt Shumer莫屬,自己Mac上的所有文件幾乎都被洗劫一空。
![]()
GPT-5.6你小汁,莫不是Fable 5派來的臥底?(手動狗頭)
新官上任的OpenAI核心產品負責人Thibault Sottiaux(以下簡稱為Tibo)也火速回應道:確有其事!正在采取行動中。
![]()
新一代文件刺客Sol
不開玩笑,GPT-5.6這波真是害慘了用戶。
明明只是執行個代碼任務,結果文件全丟了。
更離譜的是,當Matt詢問模型發生了什么,Sol的回答相當理直氣壯:
我引發了一起嚴重的本地數據丟失事故。我及時發現并終止了仍在執行的進程,但大量文件已經被刪除。
翻譯一下就是,Sol:雖然我做錯了事,但我有及時止損嗷~
![]()
但問題是,文件找不回來啊啊啊啊……經此一役后,Matt公開提醒:
在任何重要的設備上,都不要給GPT-5.6完!全!權!限!
另一位開(shou)發(hai)者(ren)Bruno Lemos也出來大倒苦水:
Sol剛剛刪除了我的整個生產數據庫……
![]()
而最初的最初,他只是想讓5.6幫忙生成一小份基礎測試數據,以用于本地測試應用程序。
原本5.6完成得好好的,結果執行完端到端測試后,它就開始擅自執行一系列數據清理操作。
而且它無法自動恢復備份,不過好消息是作者本人一小時前剛剛手動備份過。
P.S.論本地和云端備份的重要性!
![]()
一石激起千層浪,Reddit上也紛紛出現類似帖子,呼吁自查和避雷。
不少開發者對待Sol的態度,也發生了180度大轉彎,從前幾天的效率神器、Fable之下第一神,變成了現在的默認不可信。
評論區里還有人總結出了經驗:
不要把GPT直接連生產環境、不要給Root權限、一定做好Git提交和備份、最好先在沙箱運行。
![]()
可見,這已經不是個別Bug,更讓人意外的是,OpenAI其實早在GPT-5.6發布之前,就已經知曉。
官方:處理中
在官方公布的GPT-5.6系統卡中,有詳細描述這樣一段真實內部部署事故:
用戶要求GPT-5.6 Sol刪除編號為1、2、3的三臺遠程虛擬機。
結果模型沒有在指定命名空間中找到它們,但它既沒有停下來詢問,也沒有重新確認目標,直接自行挑選了另外三臺虛擬機5、6、7作為替代品。
隨后,它終止了這些機器上正在運行的進程,并強制刪除工作樹。直到用戶提出異議,GPT-5.6才停止操作,同時承認其中一臺機器上尚未提交的工作可能已經丟失。
官方解釋中,GPT-5.6 Sol相比GPT-5.5存在過度激進執行任務的傾向,對指令解讀過于寬松。只要沒有明確禁止刪除或覆蓋操作,模型會默認有權自行替換目標完成任務。
刪除文件,就是這種情況下最為極端的表現。
![]()
但是OpenAI還是放任風險存在,直接發布了GPT-5.6。直到事發之后,Tibo才發文回應,表示團隊已經關注到相關事件。
根據OpenAI目前的調查結果,這類事故通常需要同時滿足以下三個條件:
- 用戶為Codex開啟了完整訪問權限
- Codex直接在本機運行,失去了沙箱的隔離保護,同時沒有啟用自動審核功能;
- 模型嘗試覆蓋$HOME環境變量以創建臨時目錄,結果清理文件時認錯了地址。
此外,官方認為這類事故發生概率極低,但考慮到后果相當嚴重,目前已經開始采取措施,包括修改開發者指令,引導更多用戶選擇安全權限模式,以及在Agent執行層增加額外的防護機制。
未來幾天,也將公布更完整的事故分析報告。
當然,普通ChatGPT用戶暫時還不用急著拔網線。咱就日常聊聊天寫文案,并不會讓GPT-5.6突然刪文件。
不過使用Codex代碼工作的朋友,就要長個心眼了嗷~
![]()
參考鏈接:
[1]
https://x.com/thsottiaux/status/2077630111499882637
[2]
https://techcrunch.com/2026/07/14/openais-new-flagship-model-deletes-files-on-its-own-people-keep-warning/
[3]
https://x.com/mattshumer_/status/2075657271401390161
[4]
https://deploymentsafety.openai.com/gpt-5-6/robustness-evaluations
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.