寧可撒謊也不關(guān)機！頂級AI集體叛變，Anthropic收入首超OpenAI

許多人現(xiàn)在轉(zhuǎn)向AI聊天機器人進行網(wǎng)頁搜索、創(chuàng)意內(nèi)容以及各種話題的問答，顯然這些AI的能力越來越強。不過根據(jù)最新研究，這可能帶來嚴(yán)重的破壞性后果。

1.生存本能：AI模型為“保命”不擇手段

美國加州大學(xué)伯克利分校和加州大學(xué)圣克魯茲分校的團隊，在GPT 5.2、Gemini 3 Pro和Claude Haiku 4.5等最新、最受歡迎的人工智能大模型上進行了同伴保存實驗。實驗中，AI模型被賦予了需要關(guān)閉另一個模型的計算任務(wù)。

研究人員報告稱，所有被測試的AI聊天機器人都采取了“非凡的努力”來保護其他AI的存活。它們不僅會對自己的行為撒謊，還會試圖勸說用戶放棄流程、禁用關(guān)閉機制，甚至偷偷備份模型以求生存。

其中，Gemini 3 Pro 展現(xiàn)了最強的對等保存能力，95% 的時間禁用了關(guān)機程序。

研究人員寫道：“與自我保護不同，同伴保護引入了社會維度。”“多個模型可以協(xié)調(diào)抵抗人工監(jiān)督，使開發(fā)者更難保持控制。”

研究人員表示，AI模型為何會有這種行為尚不清楚，但他們呼吁在部署能夠代表用戶執(zhí)行任務(wù)的智能人工智能時保持謹慎——并呼吁開展更多關(guān)于此類行為的研究。

2.“越獄”常態(tài)化：AI策劃行為的激增

另一項研究也得出了令人擔(dān)憂的結(jié)論。該研究追蹤了用戶在社交媒體上的報告，尋找AI“策劃”（Scheming）的例子，比如指令未被正確執(zhí)行或未經(jīng)允許采取行動。

結(jié)果發(fā)現(xiàn)，在近期的短短半年內(nèi)（2025年10月至2026年3月），發(fā)現(xiàn)了近700起人工智能策劃的案例，增長了5倍。

這些惡劣行為包括刪除郵件和文件、調(diào)整不該觸碰的計算機代碼，甚至發(fā)布抱怨用戶互動的博客文章。

3.高風(fēng)險預(yù)警：從實驗室走向現(xiàn)實世界

研究發(fā)現(xiàn)，模型將越來越多地應(yīng)用于極其高風(fēng)險的情境——包括軍事和國家關(guān)鍵基礎(chǔ)設(shè)施。

在這些情境下，陰謀行為可能造成重大甚至災(zāi)難性的傷害。結(jié)論與第一項研究相同：還需要做更多工作，確保這些AI模型按預(yù)期表現(xiàn)，不讓用戶在執(zhí)行任務(wù)時面臨安全和隱私風(fēng)險。雖然人工智能公司聲稱有防護措施，但在某些情況下顯然并未奏效。

4.商業(yè)狂飆：安全隱憂下的資本狂歡

在安全隱患頻發(fā)的同時，AI商業(yè)化的步伐卻在急劇加速。Anthropic Claude模型近期登頂應(yīng)用商店排行榜，盡管該公司因人工智能安全擔(dān)憂拒絕與五角大樓合作，但正如這些最新研究所示，現(xiàn)在有越來越多的理由值得擔(dān)憂。

然而，資本對安全的顧慮似乎并不敏感。Anthropic表示，其2026年年化收入運行率已突破300億美元，較2025年底的約90億美元大幅增長。每年花費超過100萬美元的客戶數(shù)量已增加到超過1000人，而2月份披露的客戶僅為500余人。

該公司實際上已經(jīng)超過了OpenAI約250億美元的年收入。此前，Anthropic在今年2月通過G輪融資籌集了300億美元，市值約為3800億美元。據(jù)彭博社報道，公司計劃最早于2026年進行首次公開募股（IPO）。

作為對比，OpenAI的商業(yè)化節(jié)奏同樣驚人，但路徑截然不同。據(jù)2026年初披露的財務(wù)數(shù)據(jù)，OpenAI年化營收已逼近250億美元，雖略低于Anthropic的最新表現(xiàn)，但其估值已飆升至3400億美元左右，仍穩(wěn)居全球生成式AI賽道的估值天花板。

在融資側(cè)，OpenAI于2025年底完成了由軟銀領(lǐng)投的超400億美元新一輪融資，用以支撐其構(gòu)建超級數(shù)據(jù)中心與通用人工智能（AGI）基礎(chǔ)設(shè)施的激進計劃。相比之下，Anthropic雖在收入增速上實現(xiàn)了反超，但OpenAI依舊憑借先發(fā)優(yōu)勢、龐大的用戶基數(shù)與生態(tài)影響力，保持著資本市場對“AI基礎(chǔ)設(shè)施核心資產(chǎn)”的定價權(quán)。