哈薩比斯發(fā)表重磅宣言：AGI數(shù)年內(nèi)到來，前沿模型應(yīng)先審后發(fā)

7月14日，Google DeepMind 聯(lián)合創(chuàng)始人兼 CEO、2024年諾貝爾化學(xué)獎(jiǎng)得主 Demis Hassabis 在 X 平臺發(fā)表長文《前沿 AI 的框架與新時(shí)代的黎明》（A Framework for Frontier AI and the Dawning of a New Age）。

文章的核心判斷直截了當(dāng)：通用人工智能（AGI）“可能只需短短幾年就會(huì)到來”，人類“正站在奇點(diǎn)的山腳下”。Hassabis 將 AGI 的意義類比為電和火的發(fā)現(xiàn)，并給了一個(gè)頗有畫面感的說法：“我們本質(zhì)上找到了一種讓沙子思考的方法”。 而這項(xiàng)技術(shù)的影響規(guī)模將是史無前例的，也許是工業(yè)革命的 10 倍，速度也是 10 倍。

在這個(gè)判斷的基礎(chǔ)上，Hassabis 提出了一項(xiàng)具體的政策主張：由美國牽頭，建立一個(gè)前沿 AI 標(biāo)準(zhǔn)機(jī)構(gòu)。他給這個(gè)機(jī)構(gòu)找了一個(gè)現(xiàn)成的參照物：FINRA，即美國金融業(yè)監(jiān)管局（Financial Industry Regulatory Authority），一個(gè)在美國證券交易委員會(huì)（SEC）監(jiān)督下運(yùn)作的、由行業(yè)出資的自律組織。

Hassabis 設(shè)想的 AI 標(biāo)準(zhǔn)機(jī)構(gòu)沿用同樣的邏輯：聯(lián)邦監(jiān)督、行業(yè)出錢、獨(dú)立專家做技術(shù)判斷。前沿實(shí)驗(yàn)室在模型發(fā)布前最多 30 天自愿提交審查；一旦審查機(jī)制被證明有效，就從自愿轉(zhuǎn)為強(qiáng)制，前沿模型必須通過測試才能在美國市場部署。這個(gè)機(jī)構(gòu)甚至被賦予了一項(xiàng)頗為大膽的權(quán)力：在必要時(shí)協(xié)調(diào)前沿實(shí)驗(yàn)室放慢開發(fā)速度。

過去數(shù)月，美國政府圍繞前沿 AI 模型的監(jiān)管動(dòng)作密集，白宮正在加速與 OpenAI、Anthropic、Google 等公司協(xié)商自愿性安全標(biāo)準(zhǔn)框架。Hassabis 今年 3 月就曾公開警告 AI 開發(fā)中的“競速狀態(tài)”（race conditions），即競爭壓力推動(dòng)實(shí)驗(yàn)室在驗(yàn)證安全性之前就急于發(fā)布。此次長文以個(gè)人名義發(fā)表，但作為 Google AI 業(yè)務(wù)的實(shí)際掌舵者，他對監(jiān)管框架的詳細(xì)構(gòu)想在某種程度上可能也是 Google 在 AI 治理議題上的一次正式表態(tài)。

以下是全文編譯。

這是人類歷史上的一個(gè)關(guān)鍵時(shí)刻。通用人工智能（Artificial General Intelligence，AGI），也就是具備人類大腦全部認(rèn)知能力的系統(tǒng)，可能只需短短幾年便會(huì)到來。幾十年后回望今天，我想我們會(huì)意識到，自己當(dāng)時(shí)正站在通往奇點(diǎn)的山腳下，一個(gè)屬于人類的新時(shí)代正在開啟。

我一生都在研究 AGI，因?yàn)槲沂冀K深信，只要以負(fù)責(zé)任的方式構(gòu)建和部署，它就會(huì)成為人類發(fā)明過的最有益、最具變革性的技術(shù)之一。AGI 無法與一般的技術(shù)突破相提并論，即便互聯(lián)網(wǎng)或移動(dòng)技術(shù)這類影響深遠(yuǎn)的發(fā)明也不例外。它更接近于人類發(fā)現(xiàn)電或火。仔細(xì)想想，我們實(shí)際上找到了一種讓沙子開始思考的方法。這近乎奇跡。

這項(xiàng)技術(shù)帶來的影響將前所未有，其規(guī)模或許會(huì)達(dá)到工業(yè)革命的 10 倍，發(fā)生速度也會(huì)是工業(yè)革命的 10 倍。它將幫助我們解決社會(huì)面對的一些重大問題，包括加快藥物研發(fā)、開發(fā)新的清潔能源、創(chuàng)造先進(jìn)的新材料。我們甚至可能走到這樣一個(gè)階段：資源不再是限制人類進(jìn)步的因素，一個(gè)物質(zhì)豐裕的新時(shí)代由此到來。

前沿地帶的挑戰(zhàn)

AI 已經(jīng)開始在現(xiàn)實(shí)世界中創(chuàng)造價(jià)值。但要兌現(xiàn)它的巨大潛力，我們必須審慎地度過當(dāng)前這段關(guān)鍵的發(fā)展時(shí)期。隨著 AGI 日益臨近，我們需要立即行動(dòng)，應(yīng)對可能出現(xiàn)的風(fēng)險(xiǎn)。

前沿模型給網(wǎng)絡(luò)安全帶來的挑戰(zhàn)已經(jīng)顯現(xiàn)。隨著能力繼續(xù)提升，核安全、生物安全等領(lǐng)域的威脅也可能很快出現(xiàn)。再往前看，我們需要建立強(qiáng)有力的安全保障，以確保人類仍能控制自主性越來越強(qiáng)、能夠遞歸式自我改進(jìn)的系統(tǒng)，同時(shí)處理那些目前尚不明確、只能隨著時(shí)間逐漸顯現(xiàn)的問題。

我始終相信，人類的智慧和創(chuàng)造力足以解決任何問題。我有信心，AI 帶來的技術(shù)風(fēng)險(xiǎn)是我們能夠共同應(yīng)對的挑戰(zhàn)，前提是我們給自己留下足夠的時(shí)間和空間，把接下來這個(gè)關(guān)鍵步驟做好。眼下，無論 AI 行業(yè)還是更廣泛的社會(huì)，都沒有做到這一點(diǎn)。

我們正深陷一場極其激烈、由多重層次交織而成的商業(yè)和地緣政治競賽。這種競爭推動(dòng)了技術(shù)快速進(jìn)步，讓 AI 的巨大益處更快顯現(xiàn)，但前沿能力的發(fā)展速度已經(jīng)超過了我們理解這項(xiàng)技術(shù)的速度。

世界上沒有人確切知道接下來會(huì)發(fā)生什么，即使專家之間也存在分歧。當(dāng)不確定性如此之大、利害關(guān)系如此重大時(shí)，保持審慎的樂觀才是明智的選擇。

這要求公共政策一面促進(jìn)創(chuàng)新，一面激勵(lì)負(fù)責(zé)任且重視安全的行為；在關(guān)鍵安全問題上推動(dòng)國際合作；同時(shí)認(rèn)真考慮，應(yīng)該如何部署 AI，才能讓它真正造福社會(huì)。

建立前沿 AI 標(biāo)準(zhǔn)機(jī)構(gòu)

AI 的快速進(jìn)步要求我們采用一種新的前沿模型能力測試方法。這套方法需要?jiǎng)討B(tài)、靈活，并且足夠嚴(yán)格。

憑借自身的經(jīng)濟(jì)和技術(shù)實(shí)力，美國很適合率先建立這樣的框架。美國可以設(shè)立一個(gè)新的標(biāo)準(zhǔn)機(jī)構(gòu)，采用由聯(lián)邦政府監(jiān)督的公私合作模式或自律組織模式，類似于美國金融業(yè)監(jiān)管局（Financial Industry Regulatory Authority，F(xiàn)INRA）。該機(jī)構(gòu)的董事會(huì)應(yīng)包括獨(dú)立的頂尖技術(shù)專家和開源社區(qū)代表。

這項(xiàng)工作需要大量資金，而且資金很可能主要來自產(chǎn)業(yè)界。只有這樣，機(jī)構(gòu)才能吸引世界一流的技術(shù)人才，并獲得開展大規(guī)模測試所需的算力資源。

標(biāo)準(zhǔn)機(jī)構(gòu)將負(fù)責(zé)制定評估規(guī)程，并與相關(guān)聯(lián)邦機(jī)構(gòu)及美國國家實(shí)驗(yàn)室合作，在涉及國家安全的領(lǐng)域開展測試。

如果一個(gè)模型在標(biāo)準(zhǔn)機(jī)構(gòu)設(shè)定的一組基準(zhǔn)測試中達(dá)到特定門檻，它就會(huì)被認(rèn)定為“前沿級”模型。這些基準(zhǔn)需要定期更新，以跟上 AI 能力演進(jìn)的速度。擁有此類“前沿模型”的組織將被認(rèn)定為“前沿實(shí)驗(yàn)室”。

前沿實(shí)驗(yàn)室應(yīng)被鼓勵(lì)采用一系列最佳實(shí)踐，包括發(fā)布披露技術(shù)細(xì)節(jié)的模型卡、維持高水平的內(nèi)部網(wǎng)絡(luò)安全、審查關(guān)鍵崗位人員，以及為安全與安保研究投入充足資源等。

在框架實(shí)施初期，前沿實(shí)驗(yàn)室可以自愿在模型發(fā)布前最多提前 30 天，將模型交給標(biāo)準(zhǔn)機(jī)構(gòu)評估。一旦評估規(guī)程被證明有效且穩(wěn)健，就可以迅速推動(dòng)制度化。屆時(shí)，前沿模型必須通過評估，才能在美國市場部署。實(shí)驗(yàn)室還需要與標(biāo)準(zhǔn)機(jī)構(gòu)合作，處理模型發(fā)布后發(fā)現(xiàn)的重大漏洞。

模型評估應(yīng)采用嚴(yán)格的科學(xué)方法，測試其在網(wǎng)絡(luò)安全、生物威脅以及其他高風(fēng)險(xiǎn)領(lǐng)域的能力。

針對智能體型 AI 的專項(xiàng)測試，可以檢查模型是否試圖繞過安全護(hù)欄，或者是否表現(xiàn)出欺騙跡象。評估還應(yīng)確保相關(guān)方遵循最佳實(shí)踐，例如為 AI 生成的圖像添加數(shù)字水印，以及生成便于人類閱讀的輸出詞元，幫助人們理解模型的推理過程。

這些評估需要定期更新。初期可以每季度更新一次，淘汰已經(jīng)過時(shí)或失去區(qū)分度的基準(zhǔn)，并用新的測試取代。

剛開始時(shí)，評估可以由標(biāo)準(zhǔn)機(jī)構(gòu)與前沿實(shí)驗(yàn)室共同制定。但最終，標(biāo)準(zhǔn)機(jī)構(gòu)應(yīng)建立足夠的技術(shù)能力，獨(dú)立于實(shí)驗(yàn)室設(shè)計(jì)自己的保留測試集，防止模型針對評估過度擬合。在美國政府的配合下，該機(jī)構(gòu)還可以推動(dòng)形成一個(gè)第三方審計(jì)生態(tài)，協(xié)助開展模型評估，并開發(fā)新的基準(zhǔn)和測試方法。

這套方案的優(yōu)勢在于，它聚焦技術(shù)問題，同時(shí)支持創(chuàng)新，激勵(lì)負(fù)責(zé)任的行為。它能夠跟上 AI 領(lǐng)域的加速發(fā)展，并隨著重大風(fēng)險(xiǎn)逐漸顯現(xiàn)而不斷調(diào)整。

如果形勢的嚴(yán)重程度需要，監(jiān)管強(qiáng)度還可以進(jìn)一步提高，包括在必要時(shí)協(xié)調(diào)各家前沿實(shí)驗(yàn)室放慢開發(fā)速度。

獲得“前沿實(shí)驗(yàn)室”認(rèn)定將帶來很高的聲望。任何組織只要構(gòu)建出符合基準(zhǔn)要求的模型，都可以獲得這一身份。

無論一個(gè)前沿級模型來自哪個(gè)國家，也無論它是開放還是封閉模型，這套框架都可以適用。初創(chuàng)企業(yè)或?qū)W術(shù)機(jī)構(gòu)開發(fā)的非前沿模型則不必接受這一流程。

由美國發(fā)起的行動(dòng)，可以成為建立國際前沿 AI 共同標(biāo)準(zhǔn)的重要起點(diǎn)。這項(xiàng)技術(shù)將影響整個(gè)地球。理想情況下，這套框架能夠推動(dòng)國際社會(huì)形成共識：一面管理最嚴(yán)重的風(fēng)險(xiǎn)，一面確保所有人都能接觸并受益于 AI 帶來的機(jī)會(huì)。

未來尚未寫定

AGI 有潛力成為推動(dòng)科學(xué)和醫(yī)學(xué)進(jìn)步的終極工具，同時(shí)帶來巨大的生產(chǎn)率提升和經(jīng)濟(jì)增長。

要實(shí)現(xiàn)這些目標(biāo)，我們需要把技術(shù)基礎(chǔ)打牢：圍繞一套全球共同框架展開協(xié)調(diào)，采用最嚴(yán)格的科學(xué)方法，并讓最優(yōu)秀的人才共同解決我們面對的挑戰(zhàn)。

即使我們解決了這些艱難的技術(shù)問題，仍有更加復(fù)雜的經(jīng)濟(jì)和哲學(xué)問題等待處理：在一個(gè)資源不再稀缺的世界里，我們需要怎樣的新經(jīng)濟(jì)模式，才能讓所有人過上富足的生活？我們希望遵循怎樣的價(jià)值觀？人生的意義和目的將是什么？人類的生存狀態(tài)本身又會(huì)發(fā)生怎樣的變化？

這些問題顯然不能、也不應(yīng)該只交給技術(shù)人員。社會(huì)的每一個(gè)部分都需要參與進(jìn)來，共同定義這個(gè)新的篇章。

圍繞 AI，人們既懷有巨大的興奮，也面對巨大的不確定性。這兩種情緒都有充分的理由。

未來尚未寫定。我們必須利用 AGI 到來前這段寶貴的窗口期，引導(dǎo)這項(xiàng)技術(shù)造福全人類。我們現(xiàn)在共同采取的行動(dòng)，將決定文明下一個(gè)階段如何展開。

如果能夠安全地引導(dǎo) AGI 進(jìn)入世界，我們就有機(jī)會(huì)邁入科學(xué)發(fā)現(xiàn)與進(jìn)步的新黃金時(shí)代，迎來一個(gè)人類空前繁榮的光明未來。

參考資料：

1. https://x.com/demishassabis/status/2076957440109625718