諾獎(jiǎng)得主哈薩比斯震撼發(fā)聲：AGI影響將是工業(yè)革命10倍！

新智元報(bào)道

剛剛，諾貝爾獎(jiǎng)得主、DeepMind掌舵人Demis Hassabis擲地有聲地宣告：

通用人工智能（AGI）即將實(shí)現(xiàn)。

哈薩比斯豪言：

藥物研發(fā)將不再需要十年漫長試錯(cuò)，新型清潔能源或?qū)⒃趲啄陜?nèi)突破，先進(jìn)材料將讓「資源稀缺」成為歷史名詞。

我們甚至可能抵達(dá)這樣一個(gè)節(jié)點(diǎn)——資源不再是人類進(jìn)步的制約因素。

一個(gè)令人驚嘆的富足新時(shí)代，正在敲門。

他直言：現(xiàn)在是人類史上的關(guān)鍵時(shí)刻，AGI或?qū)⒃诙潭處啄陜?nèi)實(shí)現(xiàn)！

哈薩比斯給出了一個(gè)令人戰(zhàn)栗的算式：AGI的影響規(guī)模將是工業(yè)革命的10倍，而速度也是10倍。

這是「降維打擊」。這意味著，人類即將迎來一個(gè)100倍速的震蕩時(shí)代。

在如此激進(jìn)的預(yù)言下，哈薩比斯拋出了他最具爭(zhēng)議的方案：設(shè)立一個(gè)類似金融監(jiān)管局（FINRA）的組織，要求所有「前沿實(shí)驗(yàn)室」在發(fā)布模型前，必須經(jīng)歷30天的「預(yù)審期」。

甚至在極端情況下，該機(jī)構(gòu)有權(quán)協(xié)調(diào)全球?qū)嶒?yàn)室共同放緩研發(fā)速度。

但哈薩比斯沒有停在這里。

他把鏡頭拉得更遠(yuǎn)，直擊人類最深層的困惑：「即使我們解決了這些艱巨的技術(shù)難題，仍會(huì)有更復(fù)雜的經(jīng)濟(jì)和哲學(xué)問題有待解決。」

在后稀缺時(shí)代，需要什么樣的新型經(jīng)濟(jì)模式來幫助所有人共同繁榮？我們希望秉承什么樣的價(jià)值觀？意義和目的將是什么？甚至，人類自身的境況將如何改變？

下面，就是哈薩比斯的文章譯文——《前沿AI框架與新時(shí)代的曙光》「A Framework for Frontier AI and the Dawning of a New Age」。

前沿AI框架與新時(shí)代的破曉

這是人類歷史上一個(gè)關(guān)鍵的時(shí)刻。

通用人工智能（AGI）——一種具備人腦全部認(rèn)知能力的系統(tǒng)，距離我們可能只有短短幾年。幾十年后再回望此刻，我想我們會(huì)意識(shí)到：我們當(dāng)時(shí)正站在奇點(diǎn)的山腳下，說這是人類新紀(jì)元的破曉，毫不為過。

我一生都在研究AGI，因?yàn)槲沂冀K深信：只要負(fù)責(zé)任地構(gòu)建與部署，它將被證明是人類有史以來最有益、最具變革性的技術(shù)之一。AGI無法與一般的技術(shù)突破相提并論，哪怕是互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)這種影響深遠(yuǎn)的技術(shù)也不行——它更像人類發(fā)現(xiàn)電、學(xué)會(huì)用火的那種時(shí)刻。

靜下來想一想：我們本質(zhì)上是找到了一種讓沙子思考的方法。這是奇跡。

這項(xiàng)技術(shù)的影響規(guī)模將史無前例——或許是工業(yè)革命的10倍量級(jí)，且以10倍的速度展開。它將幫助我們解決社會(huì)面臨的一些最重大的難題：從加速新藥研發(fā)，到開發(fā)新型清潔能源，再到創(chuàng)造全新的先進(jìn)材料。

我們甚至可能走到這樣一個(gè)節(jié)點(diǎn)：資源不再是人類進(jìn)步的限制因素，一個(gè)令人驚嘆的富足新紀(jì)元就此開啟。

前沿的挑戰(zhàn)

AI已經(jīng)開始帶來實(shí)實(shí)在在的現(xiàn)實(shí)收益，但要兌現(xiàn)它的巨大前景，我們必須深思熟慮、小心謹(jǐn)慎地渡過這段關(guān)鍵的發(fā)展期。隨著我們?nèi)找姹平麬GI，必須采取緊急行動(dòng)，應(yīng)對(duì)可能隨之而來的風(fēng)險(xiǎn)。

我們已經(jīng)見識(shí)了前沿模型給網(wǎng)絡(luò)安全帶來的挑戰(zhàn)；而隨著能力持續(xù)提升，包括核風(fēng)險(xiǎn)與生物風(fēng)險(xiǎn)在內(nèi)的其他威脅可能很快顯現(xiàn)。放眼更遠(yuǎn)處，我們還需要強(qiáng)有力的防護(hù)措施，以維持對(duì)日益智能體化（agentic）、能夠遞歸式自我改進(jìn)的系統(tǒng)的掌控——并處理那些只有隨時(shí)間推移才會(huì)逐漸清晰的未知問題。

我始終相信，人類的才智與創(chuàng)造力足以解決任何難題。我有信心，化解AI相關(guān)的技術(shù)風(fēng)險(xiǎn)，是我們能夠共同應(yīng)對(duì)的挑戰(zhàn)。但前提是，我們得給自己留出時(shí)間和空間，把接下來這關(guān)鍵的一步走對(duì)。而眼下，無論作為一個(gè)領(lǐng)域，還是作為更廣泛的社會(huì)，我們都沒有做到這一點(diǎn)。

此刻，我們深陷一場(chǎng)異常激烈、多層交織的商業(yè)與地緣政治競(jìng)賽。這種競(jìng)爭(zhēng)態(tài)勢(shì)固然推動(dòng)了快速進(jìn)步、加速兌現(xiàn)驚人的紅利，但前沿的進(jìn)展速度，已經(jīng)超過了我們對(duì)這項(xiàng)技術(shù)本身的理解速度。

世界上沒有人能確定接下來會(huì)發(fā)生什么，連專家們也各執(zhí)一詞。當(dāng)不確定性如此之大、賭注又如此之高時(shí)，帶著「審慎的樂觀」穩(wěn)步前行，才是明智且正確的策略。這就要求公共政策做到：在促進(jìn)創(chuàng)新的同時(shí)，激勵(lì)責(zé)任與安全；推動(dòng)關(guān)鍵安全議題上的國際協(xié)作；并鼓勵(lì)各方審慎考量AI應(yīng)如何部署，方能造福社會(huì)。

「前沿AI標(biāo)準(zhǔn)機(jī)構(gòu)」：一個(gè)框架

眼下AI的飛速進(jìn)展，要求我們以一種全新的方式測(cè)試前沿AI模型的能力——這種方式必須動(dòng)態(tài)、靈活且嚴(yán)格。

美國有充分條件邁出第一步，率先制定這樣一個(gè)框架：設(shè)立一個(gè)新的「標(biāo)準(zhǔn)機(jī)構(gòu)」（Standards Body），仿照受聯(lián)邦監(jiān)督的公私合作或行業(yè)自律組織的模式——就像金融業(yè)監(jiān)管局（FINRA）那樣——其董事會(huì)應(yīng)納入獨(dú)立的頂尖技術(shù)專家與開源社區(qū)代表。

資金規(guī)模必須可觀，且很可能主要來自產(chǎn)業(yè)界，如此才能吸引世界級(jí)的技術(shù)人才，并為大規(guī)模測(cè)試提供必需的算力資源。

模型若在標(biāo)準(zhǔn)機(jī)構(gòu)設(shè)定的一組基準(zhǔn)測(cè)試上達(dá)到特定門檻，即被認(rèn)定為「前沿級(jí)」（Frontier-class）；這套基準(zhǔn)會(huì)定期更新，以跟上AI能力的演進(jìn)。

依照這些基準(zhǔn)被認(rèn)定擁有「前沿模型」的組織，將被視為「前沿實(shí)驗(yàn)室」（Frontier Labs），并被鼓勵(lì)采納一系列最佳實(shí)踐，例如：發(fā)布載有技術(shù)細(xì)節(jié)的模型卡（model card）、維持強(qiáng)有力的內(nèi)部網(wǎng)絡(luò)安全、對(duì)關(guān)鍵崗位人員做背景審查、為安全與安保研究投入充足資源，等等。

初期，前沿實(shí)驗(yàn)室將在模型發(fā)布前最多提前30天，自愿把模型交給標(biāo)準(zhǔn)機(jī)構(gòu)評(píng)審。一旦評(píng)估規(guī)程被證明行之有效且足夠穩(wěn)健，就可以迅速將其正式化。

屆時(shí)，前沿模型必須通過評(píng)估，方可在美國市場(chǎng)部署。實(shí)驗(yàn)室還需與標(biāo)準(zhǔn)機(jī)構(gòu)合作，處理模型發(fā)布后暴露出的任何重大漏洞。

模型評(píng)估應(yīng)包含對(duì)網(wǎng)絡(luò)安全、生物威脅及其他高風(fēng)險(xiǎn)領(lǐng)域能力的嚴(yán)格科學(xué)測(cè)評(píng)。

針對(duì)智能體AI的專項(xiàng)測(cè)試，可以排查模型是否試圖繞過安全護(hù)欄、是否露出欺騙的苗頭，并確保各項(xiàng)最佳實(shí)踐落地。例如，為AI生成的圖像添加數(shù)字水印，以及生成人類可讀的輸出token，以便理解模型的推理過程。

這些測(cè)評(píng)將定期更新：起步階段或許每季度一次，過時(shí)或已經(jīng)「飽和」（被刷到滿分）的基準(zhǔn)將被棄用、替換。

初期，測(cè)評(píng)可與前沿實(shí)驗(yàn)室協(xié)商共建；但最終，標(biāo)準(zhǔn)機(jī)構(gòu)應(yīng)當(dāng)建立起自己的技術(shù)能力，獨(dú)立于各實(shí)驗(yàn)室開發(fā)「保留測(cè)試集」（held-out tests），以防模型對(duì)測(cè)試過擬合。

它還可與政府?dāng)y手，培育一個(gè)第三方審計(jì)機(jī)構(gòu)的生態(tài)，協(xié)助開展評(píng)估，并參與打造新的基準(zhǔn)與測(cè)評(píng)。

這一方案的優(yōu)勢(shì)在于：它以技術(shù)為本，同時(shí)又支持創(chuàng)新、激勵(lì)負(fù)責(zé)任的行為。它的設(shè)計(jì)初衷，就是要跟得上這個(gè)領(lǐng)域的加速度，并隨著最大風(fēng)險(xiǎn)被逐一識(shí)別而不斷調(diào)整；如果形勢(shì)的嚴(yán)重程度有此要求，還可以逐級(jí)收緊，包括在必要時(shí)，協(xié)調(diào)各前沿實(shí)驗(yàn)室一致放緩開發(fā)節(jié)奏。

獲得「前沿實(shí)驗(yàn)室」的認(rèn)定將是一份重要的聲望，而這扇門對(duì)任何組織敞開，只要造出達(dá)到基準(zhǔn)標(biāo)準(zhǔn)的模型即可。該框架可適用于一切「前沿級(jí)」模型，無論來自哪個(gè)國家、開源還是閉源；而所有非前沿模型，比如出自初創(chuàng)公司或?qū)W術(shù)界的，都可豁免這一流程。

既然這項(xiàng)技術(shù)終將影響整個(gè)星球，理想狀態(tài)下，這一框架能促使國際社會(huì)達(dá)成共識(shí)：如何管控最嚴(yán)重的風(fēng)險(xiǎn)，同時(shí)確保每個(gè)人都能獲取并受益于AI帶來的機(jī)遇。

未來尚未寫就

AGI有潛力成為推動(dòng)科學(xué)與醫(yī)學(xué)進(jìn)步的終極工具，并帶來巨大的生產(chǎn)力躍升與經(jīng)濟(jì)增長。

但要實(shí)現(xiàn)這一切，我們必須先夯實(shí)技術(shù)根基：圍繞一個(gè)全球共享的框架協(xié)同行動(dòng)，運(yùn)用最嚴(yán)格的科學(xué)方法，匯聚最優(yōu)秀的頭腦，共同攻克眼前的挑戰(zhàn)。

即便這些棘手的技術(shù)難題都被解決，還有更復(fù)雜的經(jīng)濟(jì)與哲學(xué)問題等在后面：

在一個(gè)「后稀缺」的世界里，需要怎樣的新經(jīng)濟(jì)模式，才能讓每個(gè)人都過得興旺？我們想依循怎樣的價(jià)值觀生活？意義與目標(biāo)將安放何處？甚至，「人的境況」本身又會(huì)如何改變？

這些問題的解答，顯然不能、也不應(yīng)只留給技術(shù)人。它需要社會(huì)的每一個(gè)部分走到一起，共同定義這個(gè)新篇章。

圍繞AI，既有巨大的興奮，也有巨大的不確定——兩者都有道理。

但未來尚未寫就。我們必須抓住AGI到來之前這扇珍貴的窗口，把這項(xiàng)技術(shù)塑造成造福全人類的力量。我們此刻的共同作為，將決定文明的下一階段如何展開。只要安全地護(hù)送AGI來到這個(gè)世界，我們就能步入一個(gè)科學(xué)發(fā)現(xiàn)與進(jìn)步的黃金新時(shí)代，迎來一個(gè)人類空前繁盛的光明未來。

參考資料：

https://x.com/demishassabis/status/2076957440109625718?s=20

編輯：大衛(wèi) 所羅門