Anthropic“狼來了”：喊停的人，跑得最快

遞表、喊停、上新，十天之內完成。

AIX財經（AIXcaijing）原創

作者 | 陳丹

編輯 | 魏佳

向SEC秘密遞交了IPO文件三天后，Anthropic突然拋出一篇萬字長文，呼吁全世界為前沿AI開發準備一個“剎車”。又過了五天，它上線迄今最強的模型Claude Fable5，同時發布不設限版本Mythos5。

遞表、喊停、上新，都發生在十天內。

這篇6月初發表的文章名為《When AI Builds Itself（當AI開始構建自身）》，由Anthropic研究負責人Marina Favaro與政策負責人、聯合創始人Jack Clark共同執筆。其核心概念是“遞歸自我改進”，即AI幾乎無需人類介入，就能自行設計、訓練并升級出下一代自己。

過去幾年，AI流行的風險被視為“AI替代人”。Anthropic這一次把問題往前推了一層，當AI開始替代AI研究者，技術進步就不再只是線性加速，而可能進入自我加速。

另一家AI巨頭OpenAI，也加入了這場剎車討論。

6月8日，OpenAI發布由首席執行官Sam Altman與首席研究官Jakub Pachocki聯署的戰略愿景文件，提出應建立一個國際組織，協調全球領先AI開發，并在必要時“放緩前沿開發”，讓社會韌性、安全和對齊研究跟上技術進步。

一邊是估值逼近萬億美元、沖在公開市場最前面的賽車手；一邊是提醒全世界“我們手里只有油門，沒有剎車”的吹哨人。兩種身份，集于一身。

于是問題來了：這究竟是發自良知的警告，還是領先者在為下一程競爭，提前劃賽道規則？

01.Anthropic到底在怕什么？

Anthropic這篇長文最令人不安的地方，是它把風險的發生地，從外部世界拉回到了AI公司內部。

在Anthropic內部，一個人資歷越深，接到的任務就越開放。打個比方，新人的任務如果是“導出按鈕壞了，修一下”；那么資深員工則要查清“為什么高負載下網絡會變慢”；更高層的可能要回答“團隊下個季度該做什么”。

如果把AI比作一名普通員工，那么它正順著這個金字塔一步步往上爬。

早期，AI只是補全工具，人類寫代碼、搭系統、訓練模型。后來，它能生成代碼片段、修復Bug。再往后，編碼智能體開始自己運行代碼，把幾小時的工作交給另一個智能體完成。Anthropic稱之為“閉環”——未來，智能體可能具備自行構建和訓練模型的能力。若真如此，Claude的后續版本，將由Claude自己持續改進。

這就是“遞歸自我改進”。

這并非科幻推演，它來自Anthropic自己的生產數據。

截至2026年5月，Anthropic代碼庫中合并的代碼，超過80%由AI寫成；2025年初Claude Code還是研究預覽版時，這個比例只有個位數。落到具體的人身上，2026年第二季度，一名典型工程師每天合并的代碼量是2024年的8倍。一位員工說，他已大約五個月沒有親手寫過一行代碼。

Claude寫的也不只是簡單代碼。在最開放、最難定義的任務上，它的成功率在2026年5月達到76%，半年內提升了50個百分點。舉個例子：一次例行升級讓數萬個訓練任務接連崩潰，工程師幾乎只丟給Claude一段說明和集群權限，它逐個環境變量測試，兩小時內揪出一個冷僻的調試參數，復現并修復。這放在以前，通常是兩三天的工作量。

更讓Anthropic警覺的是研究環節。每次發布新模型，它都讓Claude做同一道題：把一段訓練小模型的代碼改到盡可能快、又不出錯。通常來說，一個熟練的人類研究員，要花四到八小時才能做到4倍。2025年5月，Opus4平均提速約3倍，還略遜于人類；到2026年4月，這個數字變成約52倍。不到一年，Claude在這件事上就從接近人類，變成了把人類遠遠甩在身后。

把這些曲線連起來，是一條人類不斷后撤的路徑。

即便是這家全球前沿的AI公司內部，員工也經常產生虛無感。一位員工說：“在一切順利的日子里，我忍不住覺得自己做的事都不重要了。”

今天人類還守得住的，是所謂的研究品味與判斷力：判斷哪個問題值得做、哪個結果可信、哪條路是死胡同，以及看見眼前任務之外那張更大的圖景。但Anthropic對這塊最后的陣地也并不樂觀。所謂“品味”，或許只是又一項AI先失敗一陣，然后就能學會的能力。

基于此，Anthropic拆解了三種未來：其一，趨勢停在今天，但現有能力被廣泛擴散；其二，AI大量接管開發，人類仍掌著方向盤，組織效率成倍放大；其三，AI具備完整的自我改進能力，開始設計并訓練自己的繼任者，即“遞歸自我改進”。

Anthropic說，第三種尚未到來，也并非注定，“但可能比多數機構準備好的時間更早到來”。

那么，該怎么辦？

Anthropic的答案是希望世界保留一個選項——必要時能放慢甚至暫停前沿開發，讓社會結構和對齊研究跟上技術的腳步。

02.呼吁暫停，但很難暫停

Anthropic設計的暫停鍵，分三層。

公司內部，設立更嚴格的安全評估、紅線與發布門檻；行業層面，前沿實驗室彼此協調，不能一家踩剎車、另一家繼續加速；國際層面，讓政府、科學家、倡議組織與競爭對手坐到同一張桌前，討論如何核實“暫停”是否真的發生。

它把自己的態度也寫得很清楚：只要這樣的驗證機制存在，且其他同處前沿的開發者也以可驗證的方式停下，它就愿意一起放慢，甚至暫停。

但每一個前提，都指向同一句潛臺詞，它不會一個人停。

這像是一個囚徒困境。

Anthropic認為，如果沒有全球協調機制，公司和政府都會在競爭壓力下做安全決策。而訓練前沿模型，不像看守一口導彈發射井，算力可以租，任務可以拆，云服務可以跨境調用。只要有人停下，偷偷往前跑的那一方，就可能順勢接過領先位置。

最直接的例子，就是Anthropic和OpenAI的貼身肉搏。

4月23日，OpenAI發布GPT-5.5，同時推出編程助手Codex，正面狙擊Anthropic的Claude Code。一個多月后，Anthropic把旗艦模型升級至Opus4.8。外界普遍認為，這一步正是被GPT-5.5和Codex逼出來的。

當地時間6月9日，Anthropic又上線了Fable 5版本，同時發布Mythos5系列模型和新一代智能體開發工具，繼續把戰線推向代碼生成、復雜任務執行和企業級工作流。Anthropic稱，Fable5的能力超過它此前公開發布的所有模型。一邊警告前沿AI可能失控，一邊把最強模型推向市場，中間只隔了五天。

現在，這場競爭已經蔓延到了資本市場。

就在更新Opus 4.8的同一天，Anthropic宣布完成新一輪650億美元融資，公司投后估值9650億美元，逼近萬億。6月1日，它搶在OpenAI前面，向SEC秘密遞交了IPO文件。OpenAI也很快跟上：6月8日，宣布秘密提交S-1招股書草案，最快9月、最晚今年四季度上市，市場給出的估值預期最高到1萬億美元。

兩家公司爭的是誰能先成為資本市場上“前沿模型公司”的標桿，在這種量級的資本競賽里，沒人敢主動松油門。

還是拿Anthropic來說，它的最新估值已經超過了OpenAI在3月融資后8520億美元的估值，但兩家的用戶規模完全不在一個量級。今年3月，ChatGPT移動端月活約9.61億，Claude約2350萬，相差40倍。撐起這個估值的，是企業客戶和單用戶價值。按第三方測算，每個Claude用戶貢獻的年化營收約808美元，是ChatGPT用戶的30倍。

它現在的估值、融資能力和IPO預期，都建立在同一個前提上：它能持續推出更強模型，并把模型能力轉化成收入、客戶和平臺地位。如果它真的單方面停下來，估值邏輯會被削弱，企業客戶會擔心迭代放緩，開發者可能流向OpenAI、Google或其他平臺，人才也會重新判斷自己是否還站在最前沿。

所以，Anthropic真正呼吁的不是“我先停”，而是“如果大家都能被驗證地停，我也停”。

OpenAI的態度也是如此。

在Sam Altman和首席研究官Jakub Pachocki聯署文章里，OpenAI提出應建立一個國際組織協調全球領先AI開發，在必要時放緩前沿開發，讓社會韌性、安全和對齊研究跟上技術進步。

OpenAI說的是國際協調，不是單方面減速；Anthropic說的是可驗證暫停，是確保別人停了我也停。兩家公司都承認剎車有必要，但都把前提放在“大家一起踩”上。

更何況，這條賽道上不只有兩家公司。它們身后連著云廠商、芯片商、主權AI、軍工需求、金融資本和國家戰略。模型越強，利益鏈越長，任何一環都可能成為減速的反對者。在這樣的結構里，“暫停”很難是一個簡單的道德選擇。它更像一份高難度的多方協議，所有人都要相信別人真的停了，也要相信自己不會因為先停而失去未來。

停不下來，卻偏偏在這個節點提出來。于是很多人質疑的，不是Anthropic對不對，而是它真不真誠。

NYU教授Gary Marcus的批評頗具代表性。在他看來，Anthropic并不真想暫停，這不過是一場配合IPO的修辭表演，用一個“幾乎零成本”的姿態，讓人們認真討論一個它本就沒打算執行的選項。

03.為什么一邊喊“狼來了”，一邊繼續加速？

一邊警告風險，一邊加速迭代，幾乎成了前沿AI公司的標準動作。臺面上，它們反復談安全、對齊、監管與社會準備；臺面下，模型照發、算力照擴、開發者照搶、融資和上市照常推進。

過去一年，這種矛盾變得越來越明顯。

Anthropic的CEO Dario Amodei頻繁警告，未來幾年內，AI可能獲得足以改變社會結構的能力，甚至帶來失控風險。他呼吁政府和行業提前建立更嚴格的安全機制。但與此同時，Anthropic并沒有放慢腳步，而是在一年內連續推出更強大的Claude模型，不斷刷新上下文長度、代碼能力和智能水平，并積極爭奪企業客戶和開發者市場。

OpenAI的表現同樣典型。CEO Sam Altman長期強調超級智能可能帶來的巨大風險，多次表示人類需要為AGI做好準備，甚至支持建立針對前沿模型的監管框架。但在現實中，OpenAI持續加快產品發布節奏，從GPT-4到GPT-4o，再到后續更強模型和Agent能力的開放，幾乎每隔幾個月就把競爭門檻再往前推一步。

圍觀的人，開始不買賬了。

在不少人看來，兩家頭部模型公司是趕在上市前，先把自己擺到“負責任玩家”的位置。

另一種批評更直接。有媒體稱，Anthropic等公司是想把“安全”變成護城河。

當一家已經站在第一梯隊、即將進入公開市場的公司反復強調“前沿模型過于危險”，討論很容易轉向更高的準入門檻、更復雜的評估制度、更昂貴的合規成本。對頭部公司來說，這些都不難實現，甚至可以變成優勢；但對開源社區、中小團隊和后發者來說，可能會面臨出局的風險。

站在這個角度，問題就從“AI是否危險”變成了“誰有權定義危險”。一旦標準由少數前沿AI公司參與制定，最后被擋在門外的，未必是最危險的玩家，反而可能是最沒有話語權的玩家。

這也是為什么英偉達CEO黃仁勛多次批評Dario Amodei等人的災難敘事。在他看來，把AI說得過于可怕，只會放大社會恐慌。

黃仁勛的觀點背后，其實代表著兩種生意的對撞。

對英偉達來說，AI越開放、越擴散，芯片、開發者和云生態越繁榮。對Anthropic這樣的前沿模型公司來說，AI越被定義為高風險，行業越可能走向許可制、評估制和高合規成本，而頭部公司天然更能承受這種成本。

所以，反對者真正介意的，是Anthropic同時占據了三個位置：前沿競賽的領先者、風險敘事的提出者，以及未來規則的潛在受益者。

哈耶克在《通往奴役之路》中曾寫道，人們在努力按照崇高理想塑造未來時，可能在不知不覺中創造出與初衷截然相反的結果。把這句話放到今天的AI行業，幾乎像一句精準的預言。

OpenAI在2015年以非營利身份成立，使命是確保AGI“造福全人類”。但隨著模型競賽加速、算力成本膨脹、資金需求上升，它在2019年設立“有限盈利”子公司，隨后被更深地卷入商業化、融資和平臺競爭。

一個把“為全人類”寫進章程的組織，十年里也被競爭和資本不斷改寫。

Anthropic今天面對的是同一個結構。它可能真心相信AI風險正在逼近，也可能真心想為行業爭取時間。但在這個行業里，崇高的初衷很難單獨對抗激烈競爭。

前沿AI競賽的現實是：誰先停，誰就可能失去市場、人才、資本和話語權。于是，所有公司都知道速度危險，卻都繼續加速；所有公司都討論剎車，卻都希望別人先踩剎車。

因此，Anthropic未必是在撒謊，也未必只是作秀。它可能既害怕自己正在制造的東西，又無法停止制造它。

*文中配圖來源于pexels。