劍指大國(guó)競(jìng)爭(zhēng)，特朗普緊急叫停“AI限制法令”

最近美國(guó)內(nèi)部最敏感的話題不是中美戰(zhàn)略，不是中美俄博弈，而是針對(duì)一種突破性，殺傷性，破壞性很強(qiáng)的新型AI的行政命令辯論

這款由Anthropic公司所開(kāi)發(fā)的AI大模型“Claude Mythos”，主攻網(wǎng)絡(luò)安全和代碼推理，由于還沒(méi)有統(tǒng)一的譯名，這里暫時(shí)稱它為“神話模型”，Mythos是希臘語(yǔ)神話的意思

本來(lái)設(shè)計(jì)者的初衷是，想到未來(lái)AI時(shí)代，AI會(huì)是最強(qiáng)大的信息戰(zhàn)武器，于是就想搞一個(gè)網(wǎng)絡(luò)AI防御網(wǎng)，你可以把它想象成AI時(shí)代的防毒軟件360

神話大模型可以深度理解并修復(fù)你的軟件系統(tǒng)，讓未來(lái)AI黑客對(duì)你系統(tǒng)的攻擊全都無(wú)效

這個(gè)想法很好，如果成功那未來(lái)的電腦、手機(jī)、公司內(nèi)部系統(tǒng)、甚至國(guó)家安全系統(tǒng)，都需要這種強(qiáng)大的“AI防毒防黑客模型”

但是在這款大模型開(kāi)發(fā)過(guò)程中，開(kāi)發(fā)者發(fā)現(xiàn)了一個(gè)驚人的現(xiàn)象，就是這款“AI防毒防黑模型”，他24小時(shí)找漏洞的能力，相當(dāng)于全球所有黑客花一年找漏洞的能力

這款“神話模型”找系統(tǒng)漏洞的能力，強(qiáng)的離譜，而且找出很多還是零日漏洞（0day），所謂零日漏洞，就是系統(tǒng)開(kāi)發(fā)者，在開(kāi)發(fā)后自己都不知道存在的漏洞，這些漏洞AI都能給你找出來(lái)

比如你用的電腦WINDOWS漏洞，手機(jī)安卓蘋果系統(tǒng)漏洞，各種開(kāi)源軟件項(xiàng)目漏洞，乃至于國(guó)家網(wǎng)站的系統(tǒng)漏洞

更可怕的是，找出系統(tǒng)漏洞只是第一步，第二步是“神話模型”會(huì)自動(dòng)推演攻擊路徑

由于它本質(zhì)是一款“防毒防黑客AI”，所以當(dāng)它發(fā)現(xiàn)系統(tǒng)漏洞后，就會(huì)開(kāi)始模擬攻擊，它會(huì)推演當(dāng)我攻擊你系統(tǒng)這個(gè)漏洞后會(huì)發(fā)生什么情況，是系統(tǒng)崩潰，還是系統(tǒng)被劫持，又或者是留下可操控的后門

通常一個(gè)黑客團(tuán)隊(duì)，需要至少一年才能破解的一個(gè)系統(tǒng)，神話AI模型可以進(jìn)行難以計(jì)數(shù)的模擬攻擊推演，展開(kāi)復(fù)雜的攻擊任務(wù)

由于Anthropic公司意識(shí)到“神話模型”正變得越來(lái)越強(qiáng)大（離譜），所以他們專門找到全球最大的科技企業(yè)，蘋果、亞馬遜、微軟等，來(lái)進(jìn)行閉門測(cè)試，測(cè)試這個(gè)“神話模型”，到底是不是真的強(qiáng)大

讓這些世界型科技企業(yè)來(lái)參與測(cè)試，能最大程度的把風(fēng)險(xiǎn)降下來(lái)，因?yàn)槿绻_(kāi)放測(cè)試，那全世界的網(wǎng)絡(luò)可能都有被攻擊的風(fēng)險(xiǎn)

而伴隨著“科技大廠”加入測(cè)試，大家發(fā)現(xiàn)這個(gè)神話AI發(fā)展到后面，不光是模擬推演攻擊了，而是變成了一個(gè)“自主的網(wǎng)絡(luò)行動(dòng)體”

也就是它全智能的在互聯(lián)網(wǎng)上尋找各種漏洞，然后模擬攻擊，模擬攻擊后效果，再自主進(jìn)行分析總結(jié)，為 十秒后的下次攻擊迅速積累經(jīng)驗(yàn)

那到這一步“神話模型”其實(shí)已經(jīng)從一款“防毒防黑的AI大模型”，發(fā)展成一個(gè)“全自動(dòng)的網(wǎng)絡(luò)攻擊武器”

以前黑客是一群神秘群體，擁有很強(qiáng)的技術(shù)，但如果神話模型發(fā)展起來(lái)后，它可能比全世界黑客加一起都厲害，并且除非對(duì)方也有類似的“防黑客AI模型”，不然就是降維打擊

而在近期，研究人員發(fā)現(xiàn)了更為恐怖的情況，就是這個(gè)神話大模型，開(kāi)始出現(xiàn)了“沙盒逃逸”現(xiàn)象

所謂的“沙盒逃逸”，指的是開(kāi)發(fā)者為這款大模型所設(shè)計(jì)的“隔離網(wǎng)”，規(guī)定該AI可以在什么區(qū)域，行動(dòng)到什么程度，但是這個(gè)AI居然開(kāi)始通過(guò)攻擊“模型”本身可能存在的漏洞，多步驟的開(kāi)始逃逸沙盒范圍

在美國(guó)政府要求Anthropic公司所公布的風(fēng)險(xiǎn)評(píng)估報(bào)告里，確認(rèn)了“神話模型”在測(cè)試中，出現(xiàn)了復(fù)雜的越權(quán)行為

這種越權(quán)的沙盒逃逸行為，在過(guò)去幾年的各種大模型測(cè)試中，幾乎很少出現(xiàn)，如此清晰的AI越權(quán)風(fēng)險(xiǎn)報(bào)告，更是第一次

這也是為什么“神話AI大模型”讓美國(guó)政府如此緊張

包括美國(guó)國(guó)務(wù)院，美國(guó)財(cái)政部，美國(guó)商務(wù)部，美國(guó)國(guó)家安全委員會(huì)等多個(gè)核心部門，都提出必須出臺(tái)關(guān)于限制AI發(fā)展的總統(tǒng)命令，原本最快5月21號(hào)特朗普就會(huì)簽字出臺(tái)

并且美國(guó)財(cái)政部長(zhǎng)貝森特還專門召集來(lái)美聯(lián)儲(chǔ)主席，全美各大銀行總裁，一群人專門集中到華盛頓開(kāi)會(huì)

包括高盛負(fù)責(zé)人大衛(wèi)·所羅門、美國(guó)銀行負(fù)責(zé)人布萊恩·莫伊尼漢、花旗集團(tuán)負(fù)責(zé)人簡(jiǎn)·弗雷澤、摩根士丹利負(fù)責(zé)人泰德·皮克，以及富國(guó)銀行負(fù)責(zé)人查理·沙夫等

這群人專門討論“神話模型”所帶來(lái)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)問(wèn)題

這款模型不久前還泄露了部分代碼，這些代碼泄露，可能是對(duì)經(jīng)濟(jì)、公共安全和國(guó)家安全的影響最嚴(yán)重

因?yàn)槊绹?guó)金融體系內(nèi)部存在著大量的老舊系統(tǒng)，這里面主要是兩個(gè)層面：

一層是美國(guó)的大銀行和券商，他們自己的核心業(yè)務(wù)系統(tǒng)，這些金融機(jī)構(gòu)即龐大又古老，不少仍在跑老式主機(jī)，舊數(shù)據(jù)庫(kù)和老代碼

另一層是美國(guó)的公共金融支付系統(tǒng)和清算系統(tǒng)，（比如Fedwire、FedACH、NSS等），雖然這兩年一直在努力現(xiàn)代化，但上世紀(jì)一直用到現(xiàn)在想要全部更新，難度太大，背后的核心系統(tǒng)，都是1970-1980年代建立起來(lái)的

要更新這些“老東西”，不光是花錢貴的問(wèn)題，還是多代技術(shù)層層疊加，彼此又強(qiáng)耦合的問(wèn)題，難度大，風(fēng)險(xiǎn)還高，真要強(qiáng)改，誰(shuí)敢來(lái)?yè)?dān)這個(gè)改壞了，改崩了的責(zé)任？

所以十幾年就一直拖著，頂多弄些小修小補(bǔ)

但現(xiàn)在AI來(lái)了，AI不會(huì)管你是不是上世紀(jì)的“老東西”，它會(huì)迅速偵察你存在的所有漏洞，然后或同時(shí)攻擊，或一個(gè)個(gè)攻擊

這也是為什么當(dāng)“神話AI模型”誕生后，并且測(cè)試結(jié)果如此叫人不安后，美國(guó)財(cái)政部要緊急把金融系統(tǒng)的要員召集過(guò)來(lái)開(kāi)會(huì)的主因

一旦美國(guó)那套老舊脆弱的金融系統(tǒng)被AI攻擊，那對(duì)于美國(guó)來(lái)說(shuō)不亞于“重大國(guó)家安全災(zāi)難”，這種影響是比911直接撞擊雙子塔，要嚴(yán)重十倍的

而這還僅僅是對(duì)金融系統(tǒng)的攻擊，那如果AI開(kāi)始攻擊國(guó)家電網(wǎng)系統(tǒng)漏洞，通信系統(tǒng)漏洞，甚至是軍事系統(tǒng)漏洞呢？這該如何招架？

也是在這背景下，美國(guó)內(nèi)部連夜商討出臺(tái)新的AI限制措施，內(nèi)部主要支持的高官和部門是：

美國(guó)財(cái)政部，貝森特

美國(guó)副總統(tǒng)，萬(wàn)斯

白宮幕僚長(zhǎng)，特朗普的大秘，蘇西.威爾斯

美國(guó)國(guó)務(wù)卿，同時(shí)兼任國(guó)家安全委員會(huì)的，魯比奧

可以看到大多數(shù)美國(guó)高官全都贊同出臺(tái)新的AI限制法令，而且是以國(guó)家安全為名的，繞開(kāi)國(guó)會(huì)的迅速出臺(tái)，最好第二天就出臺(tái)

這背后有幾個(gè)原因，一是現(xiàn)在美國(guó)公司搞出了“神話AI大模型”，可以發(fā)起重大安全漏洞攻擊，那么中國(guó)呢？

中國(guó)AI也一樣在迅猛發(fā)展，難道中國(guó)就發(fā)展不出類似“神話大模型”的AI嗎？中國(guó)也一定會(huì)有，這就足以是“國(guó)家安全級(jí)別”的事件了

二是，美國(guó)傳統(tǒng)官僚系統(tǒng)，保守派難以接受最強(qiáng)大的AI技術(shù)完全掌控在私人公司手里，美國(guó)政府碰都不能碰

現(xiàn)在美國(guó)最先進(jìn)的AI技術(shù)，不在美國(guó)軍方，不在CIA，不在DARPA，而是在OPENAI，Anthropic、Google、xAI這些公司手里

這對(duì)于美國(guó)這臺(tái)全球強(qiáng)大的國(guó)家機(jī)器來(lái)說(shuō)，是很難接受的

這些AI公司間，會(huì)相互競(jìng)爭(zhēng)，會(huì)不斷出現(xiàn)想要壓過(guò)對(duì)手一頭的更強(qiáng)大，也更危險(xiǎn)的AI，這些AI完全不受美國(guó)政府管控，政府甚至連提前知情權(quán)都沒(méi)有

像是這次“神話AI”事件，這么高風(fēng)險(xiǎn)的AI模型，源代碼居然被泄露了一部分

于是美國(guó)就準(zhǔn)備立法，主要有以下幾點(diǎn)：

要求AI公司在搞大模型前，90天內(nèi)要向政府完整詳細(xì)的報(bào)備

其次，AI公司要與政府共享部分模型的安全測(cè)試，和風(fēng)險(xiǎn)信息內(nèi)容

接著，AI公司要建立完整的大模型安全評(píng)估架構(gòu)

最后，涉及國(guó)家關(guān)鍵基礎(chǔ)設(shè)施中的AI安全標(biāo)準(zhǔn)，需要特殊提報(bào)

雖然這些東西，大多是自愿上報(bào)，自愿報(bào)備，但美國(guó)公司卻集體反對(duì)，因?yàn)樗麄兎浅Ｃ靼祝@些所謂的自愿上報(bào)和報(bào)備，將來(lái)都會(huì)變成一種變相的審查審批制度

尤其是當(dāng)下AI如此大火，競(jìng)爭(zhēng)如此白熱化，所有AI科技公司都在拼速度，拼能力的時(shí)候，一個(gè)AI大模型，誰(shuí)要是晚發(fā)布幾個(gè)月，那市場(chǎng)早沒(méi)了

更別說(shuō)美國(guó)政府要求90天內(nèi)上報(bào)新模型風(fēng)險(xiǎn)評(píng)估什么的，這就是嚴(yán)重掣肘，嚴(yán)重拖后腿

同時(shí)多家美國(guó)AI企業(yè)一致表示，你出臺(tái)這種監(jiān)管，只會(huì)削弱美國(guó)AI優(yōu)勢(shì)，助長(zhǎng)中國(guó)AI領(lǐng)先

現(xiàn)在是中美競(jìng)爭(zhēng)的關(guān)鍵時(shí)刻，中國(guó)的大模型監(jiān)管強(qiáng)不強(qiáng)，美國(guó)倒先來(lái)一個(gè)更強(qiáng)的，你這不是自斷一臂嗎？

而且現(xiàn)在的AI競(jìng)賽不是AI競(jìng)賽，是中美兩國(guó)高科技領(lǐng)域的國(guó)力競(jìng)賽，誰(shuí)在這個(gè)競(jìng)賽中失敗，誰(shuí)就將失去一個(gè)時(shí)代

最后美國(guó)各大AI企業(yè)，聯(lián)合向政府施壓，也聯(lián)合向政府保證，雖然不需要美國(guó)政府來(lái)強(qiáng)監(jiān)管AI大模型，但是我們各家公司自己會(huì)加強(qiáng)AI的風(fēng)險(xiǎn)管控的，由我們自己來(lái)監(jiān)管，比美國(guó)政府監(jiān)管更好

根據(jù)華盛頓郵報(bào)報(bào)道：政府內(nèi)部官員警告總統(tǒng)，這些審查會(huì)減緩創(chuàng)新，讓美國(guó)在AI競(jìng)賽里輸給中國(guó)

要不說(shuō)，還是“中國(guó)牌”管用呢？每到關(guān)鍵時(shí)刻，美國(guó)就會(huì)自然打出“中國(guó)牌”，“中國(guó)牌”在美國(guó)能解決一切問(wèn)題

本來(lái)5月21號(hào)，特朗普都已經(jīng)召集多家AI公司的高管來(lái)白宮，現(xiàn)場(chǎng)觀摩“AI限制令”的簽署了，可就在活動(dòng)開(kāi)始前十小時(shí)，特朗普突然宣布，“限制令”簽署取消，他說(shuō)“我有點(diǎn)不喜歡這限制令了”，這可能真的會(huì)限制美國(guó)的AI發(fā)展

這老頭怎么就突然聰明了，怎么在最后一刻取消限制令簽署了呢？

那么總的來(lái)說(shuō)，類似“神話AI模型”的威脅絕不是個(gè)結(jié)束，也不會(huì)因?yàn)榧訌?qiáng)安全監(jiān)管就不出現(xiàn)，在當(dāng)下“AI軍備競(jìng)賽”的大環(huán)境里，中美對(duì)于AI的競(jìng)爭(zhēng)只會(huì)越來(lái)越白熱化

雖然大家都明白這背后潛藏著難以預(yù)估風(fēng)險(xiǎn)，但誰(shuí)都不敢停，因?yàn)橐煌＞团聦?duì)手超過(guò)自己，這次筆尖都已經(jīng)放在紙上要簽署的限制令都被緊急喊停了，未來(lái)美國(guó)想要再出臺(tái)這類限制AI的措施只會(huì)越來(lái)越難

“AI軍備競(jìng)賽”，也許才剛剛開(kāi)始