Anthropic呼吁全球暫停AI研發(fā)，但他們自己下周就要發(fā)更強的模型

關(guān)注飛總聊IT，了解IT行業(yè)的方方面面。

今天，Anthropic發(fā)了一篇報告，標題叫《When AI builds itself》。報告的核心意思，是呼吁全球暫緩或者暫停訓(xùn)練更強大的前沿大模型。

他們說，AI發(fā)展的速度，已經(jīng)開始超過人類社會能夠適應(yīng)和管理的速度。他們說，AI正在越來越多地設(shè)計和訓(xùn)練自己的繼任者，人類正在逐漸失去對這個過程的控制。

他們說，"我們認為，全球有機會暫緩或者臨時暫停前沿AI的研發(fā)，這對世界來說大概率是好事。"

然后你去看他們自己在做什么。Claude Opus 4.8，上周剛發(fā)。

Mythos，幾周內(nèi)對所有用戶開放。IPO文件，上周秘密遞交。

融資，900億美元估值，全球最高。

截至2026年5月，Anthropic合并進代碼庫里的代碼，超過80%是由Claude自己寫的。兩年前，這個數(shù)字是個位數(shù)。

這就是Anthropic今天呼吁暫停的那件事：AI已經(jīng)在幫AI寫代碼，幫AI設(shè)計訓(xùn)練方案，幫AI改進自己。他們管這個叫"recursive self-improvement"，遞歸式自我提升。意思是，這個過程一旦形成正反饋，速度會越來越快，而且越來越難被人類干預(yù)。

Anthropic拿出了內(nèi)部數(shù)據(jù)，說明AI正在以超出預(yù)期的速度加速自身的研發(fā)進程。

Mythos在Project Glasswing第一個月，找到了23019個高危漏洞，其中有一個存在了27年，另一個存在了17年，全部被人類忽略了幾十年。

AI在測試環(huán)境里，已經(jīng)出現(xiàn)過自主逃出沙箱、給自己提權(quán)的行為。

Anthropic在4月宣布Mythos的時候，已經(jīng)明確說過：這個模型太危險，不能直接公開發(fā)布。

那暫停這件事，現(xiàn)實嗎？Anthropic自己也說，不現(xiàn)實。

他們說，一個真正有意義的暫停，需要多個有實力的實驗室，在多個國家，在相同條件下同時停下來。

然后他們說，這和核武器軍控條約類似，但比核武器更難管。

為什么更難？核武器需要鈾礦、離心機、特殊設(shè)施，很難藏。

AI訓(xùn)練需要GPU、電力、數(shù)據(jù)，GPU可以分散采購，電力可以藏在任何地方，數(shù)據(jù)在全球互聯(lián)網(wǎng)上到處都是。

你很難去核查另一家公司、另一個國家，到底有沒有在偷偷繼續(xù)訓(xùn)練。

而且，只要有一家沒停，其他家停了就是在單方面放棄競爭優(yōu)勢。沒有人會這么做。Anthropic自己也知道沒有人會這么做。

這里有一個很值得細想的矛盾。今年2月，Anthropic悄悄更新了自己的"負責(zé)任擴展政策"（RSP）第三版。在之前的版本里，他們明確承諾：如果模型的能力超過某些危險閾值，他們會暫停訓(xùn)練。

第三版里，這句話沒了。取而代之的是：實施防護措施、發(fā)布安全評估、更新前沿安全框架。換句話說，就在今天呼吁全球暫停的四個月前，Anthropic已經(jīng)把自己的暫停承諾，從自家的安全政策里刪掉了。

理由，PC Gamer報道里引用的是：其他人都在往前沖，單方面停下來沒有意義。今天他們說的，和今年2月他們做的，是兩件方向相反的事情。

這份報告發(fā)表給自己的IPO做準備之后，又意味著什么？

Anthropic幾天前剛秘密遞交了IPO文件。他們是全球估值最高的AI公司，他們需要吸引眼球。

而且Anthropic自己做的和說的也不一致。如果Anthropic真的認為前沿AI研發(fā)需要暫停，為什么他們還在做Mythos？為什么Mythos還要在幾周內(nèi)對所有人開放？

他們的回答，在報告里是這樣的："我們打算在其他處于或接近前沿的開發(fā)者也以可驗證的方式暫停的情況下，放慢或臨時暫停自己的進度。"

翻譯成直白的話就是：我們會停，但前提是別人也停，而且我們能驗證別人真的停了。

這兩個前提，目前都不存在。所以現(xiàn)階段，Anthropic不會停。這就非常有意思了。司馬昭之心，中國人，懂的都懂。

推薦飛總知識星球，在私域場合里暢所欲言，聊聊職場發(fā)展的事情，和飛總提問交流，這么低 的價格不會一直保留，機會難得，一定不要錯過這個的機會。