北京
Anthropic與OpenAI兩大巨頭同周預(yù)警AI危！
6月5日消息，Anthropic發(fā)布長篇技術(shù)文章《當(dāng)AI自我構(gòu)建》，援引大量內(nèi)部數(shù)據(jù)論證一個核心判斷：AI系統(tǒng)正逼近無需人類干預(yù)就能自主改進(jìn)的臨界點(diǎn)，即遞歸自我改進(jìn)，這一情況可能在未來兩年內(nèi)發(fā)生，甚至更早。
Anthropic內(nèi)部數(shù)據(jù)顯示：截至2026年5月，Anthropic代碼庫中超過80%的新增代碼由Claude生成，工程師人均代碼產(chǎn)出是2024年的8倍。在最開放的編程任務(wù)上，Claude成功率達(dá)76%，六個月前僅26%。研究層面，Claude Mythos Preview在代碼優(yōu)化任務(wù)中將基準(zhǔn)代碼加速52倍，而熟練人類研究員四到八小時只能做到4倍。在自主提出實(shí)驗(yàn)方案方面，Claude曾在約800小時算力內(nèi)將一項(xiàng)AI安全研究任務(wù)的人類-基準(zhǔn)差距縮小97%，消耗算力成本約18000美元，而兩名人類研究員一周僅縮小23%。
Anthropic據(jù)此推演三種未來：AI增速放緩進(jìn)入平臺期；AI研發(fā)持續(xù)復(fù)利式加速但人類仍掌方向盤；AI實(shí)現(xiàn)完全遞歸自我改進(jìn)、自主迭代下一代模型。公司認(rèn)為第二種情景“最可能發(fā)生”，第三種最危險。
Anthropic正式呼吁建立可核查、可驗(yàn)證的全球機(jī)制協(xié)調(diào)暫停前沿AI研發(fā)，并表示若機(jī)制建立，公司“預(yù)計將選擇減速或暫停，前提是其他前沿開發(fā)者也以可核實(shí)方式同步行動”。公司同時明確拒絕單方面停擺，稱那只會讓最不謹(jǐn)慎者迎頭趕上。
Anthropic剛完成650億美元H輪融資、秘密遞交IPO申請，年化收入從140億飆至470億美元，估值達(dá)9650億美元。其內(nèi)部模型Mythos Preview仍在全速迭代。
就在Anthropic發(fā)文前三天，OpenAI也發(fā)布了類似預(yù)警。OpenAI在文件中表示，“我們還在當(dāng)今的系統(tǒng)中看到了遞歸自我改進(jìn)的早期跡象：AI的發(fā)展本身被AI加速了。”O(jiān)penAI預(yù)計這將加劇開發(fā)商和國家之間的競爭壓力，并帶來現(xiàn)有機(jī)構(gòu)難以應(yīng)對的治理挑戰(zhàn)。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
