諾獎得主哈薩比斯震撼發聲：AGI影響將是工業革命10倍！

新智元報道

剛剛，諾貝爾獎得主、DeepMind掌舵人Demis Hassabis擲地有聲地宣告：

通用人工智能（AGI）即將實現。

哈薩比斯豪言：

藥物研發將不再需要十年漫長試錯，新型清潔能源或將在幾年內突破，先進材料將讓「資源稀缺」成為歷史名詞。

我們甚至可能抵達這樣一個節點——資源不再是人類進步的制約因素。

一個令人驚嘆的富足新時代，正在敲門。

他直言：現在是人類史上的關鍵時刻，AGI或將在短短幾年內實現！

哈薩比斯給出了一個令人戰栗的算式：AGI的影響規模將是工業革命的10倍，而速度也是10倍。

這是「降維打擊」。這意味著，人類即將迎來一個100倍速的震蕩時代。

在如此激進的預言下，哈薩比斯拋出了他最具爭議的方案：設立一個類似金融監管局（FINRA）的組織，要求所有「前沿實驗室」在發布模型前，必須經歷30天的「預審期」。

甚至在極端情況下，該機構有權協調全球實驗室共同放緩研發速度。

但哈薩比斯沒有停在這里。

他把鏡頭拉得更遠，直擊人類最深層的困惑：「即使我們解決了這些艱巨的技術難題，仍會有更復雜的經濟和哲學問題有待解決。」

在后稀缺時代，需要什么樣的新型經濟模式來幫助所有人共同繁榮？我們希望秉承什么樣的價值觀？意義和目的將是什么？甚至，人類自身的境況將如何改變？

下面，就是哈薩比斯的文章譯文——《前沿AI框架與新時代的曙光》「A Framework for Frontier AI and the Dawning of a New Age」。

前沿AI框架與新時代的破曉

這是人類歷史上一個關鍵的時刻。

通用人工智能（AGI）——一種具備人腦全部認知能力的系統，距離我們可能只有短短幾年。幾十年后再回望此刻，我想我們會意識到：我們當時正站在奇點的山腳下，說這是人類新紀元的破曉，毫不為過。

我一生都在研究AGI，因為我始終深信：只要負責任地構建與部署，它將被證明是人類有史以來最有益、最具變革性的技術之一。AGI無法與一般的技術突破相提并論，哪怕是互聯網、移動互聯網這種影響深遠的技術也不行——它更像人類發現電、學會用火的那種時刻。

靜下來想一想：我們本質上是找到了一種讓沙子思考的方法。這是奇跡。

這項技術的影響規模將史無前例——或許是工業革命的10倍量級，且以10倍的速度展開。它將幫助我們解決社會面臨的一些最重大的難題：從加速新藥研發，到開發新型清潔能源，再到創造全新的先進材料。

我們甚至可能走到這樣一個節點：資源不再是人類進步的限制因素，一個令人驚嘆的富足新紀元就此開啟。

前沿的挑戰

AI已經開始帶來實實在在的現實收益，但要兌現它的巨大前景，我們必須深思熟慮、小心謹慎地渡過這段關鍵的發展期。隨著我們日益逼近AGI，必須采取緊急行動，應對可能隨之而來的風險。

我們已經見識了前沿模型給網絡安全帶來的挑戰；而隨著能力持續提升，包括核風險與生物風險在內的其他威脅可能很快顯現。放眼更遠處，我們還需要強有力的防護措施，以維持對日益智能體化（agentic）、能夠遞歸式自我改進的系統的掌控——并處理那些只有隨時間推移才會逐漸清晰的未知問題。

我始終相信，人類的才智與創造力足以解決任何難題。我有信心，化解AI相關的技術風險，是我們能夠共同應對的挑戰。但前提是，我們得給自己留出時間和空間，把接下來這關鍵的一步走對。而眼下，無論作為一個領域，還是作為更廣泛的社會，我們都沒有做到這一點。

此刻，我們深陷一場異常激烈、多層交織的商業與地緣政治競賽。這種競爭態勢固然推動了快速進步、加速兌現驚人的紅利，但前沿的進展速度，已經超過了我們對這項技術本身的理解速度。

世界上沒有人能確定接下來會發生什么，連專家們也各執一詞。當不確定性如此之大、賭注又如此之高時，帶著「審慎的樂觀」穩步前行，才是明智且正確的策略。這就要求公共政策做到：在促進創新的同時，激勵責任與安全；推動關鍵安全議題上的國際協作；并鼓勵各方審慎考量AI應如何部署，方能造福社會。

「前沿AI標準機構」：一個框架

眼下AI的飛速進展，要求我們以一種全新的方式測試前沿AI模型的能力——這種方式必須動態、靈活且嚴格。

美國有充分條件邁出第一步，率先制定這樣一個框架：設立一個新的「標準機構」（Standards Body），仿照受聯邦監督的公私合作或行業自律組織的模式——就像金融業監管局（FINRA）那樣——其董事會應納入獨立的頂尖技術專家與開源社區代表。

資金規模必須可觀，且很可能主要來自產業界，如此才能吸引世界級的技術人才，并為大規模測試提供必需的算力資源。

模型若在標準機構設定的一組基準測試上達到特定門檻，即被認定為「前沿級」（Frontier-class）；這套基準會定期更新，以跟上AI能力的演進。

依照這些基準被認定擁有「前沿模型」的組織，將被視為「前沿實驗室」（Frontier Labs），并被鼓勵采納一系列最佳實踐，例如：發布載有技術細節的模型卡（model card）、維持強有力的內部網絡安全、對關鍵崗位人員做背景審查、為安全與安保研究投入充足資源，等等。

初期，前沿實驗室將在模型發布前最多提前30天，自愿把模型交給標準機構評審。一旦評估規程被證明行之有效且足夠穩健，就可以迅速將其正式化。

屆時，前沿模型必須通過評估，方可在美國市場部署。實驗室還需與標準機構合作，處理模型發布后暴露出的任何重大漏洞。

模型評估應包含對網絡安全、生物威脅及其他高風險領域能力的嚴格科學測評。

針對智能體AI的專項測試，可以排查模型是否試圖繞過安全護欄、是否露出欺騙的苗頭，并確保各項最佳實踐落地。例如，為AI生成的圖像添加數字水印，以及生成人類可讀的輸出token，以便理解模型的推理過程。

這些測評將定期更新：起步階段或許每季度一次，過時或已經「飽和」（被刷到滿分）的基準將被棄用、替換。

初期，測評可與前沿實驗室協商共建；但最終，標準機構應當建立起自己的技術能力，獨立于各實驗室開發「保留測試集」（held-out tests），以防模型對測試過擬合。

它還可與政府攜手，培育一個第三方審計機構的生態，協助開展評估，并參與打造新的基準與測評。

這一方案的優勢在于：它以技術為本，同時又支持創新、激勵負責任的行為。它的設計初衷，就是要跟得上這個領域的加速度，并隨著最大風險被逐一識別而不斷調整；如果形勢的嚴重程度有此要求，還可以逐級收緊，包括在必要時，協調各前沿實驗室一致放緩開發節奏。

獲得「前沿實驗室」的認定將是一份重要的聲望，而這扇門對任何組織敞開，只要造出達到基準標準的模型即可。該框架可適用于一切「前沿級」模型，無論來自哪個國家、開源還是閉源；而所有非前沿模型，比如出自初創公司或學術界的，都可豁免這一流程。

既然這項技術終將影響整個星球，理想狀態下，這一框架能促使國際社會達成共識：如何管控最嚴重的風險，同時確保每個人都能獲取并受益于AI帶來的機遇。

未來尚未寫就

AGI有潛力成為推動科學與醫學進步的終極工具，并帶來巨大的生產力躍升與經濟增長。

但要實現這一切，我們必須先夯實技術根基：圍繞一個全球共享的框架協同行動，運用最嚴格的科學方法，匯聚最優秀的頭腦，共同攻克眼前的挑戰。

即便這些棘手的技術難題都被解決，還有更復雜的經濟與哲學問題等在后面：

在一個「后稀缺」的世界里，需要怎樣的新經濟模式，才能讓每個人都過得興旺？我們想依循怎樣的價值觀生活？意義與目標將安放何處？甚至，「人的境況」本身又會如何改變？

這些問題的解答，顯然不能、也不應只留給技術人。它需要社會的每一個部分走到一起，共同定義這個新篇章。

圍繞AI，既有巨大的興奮，也有巨大的不確定——兩者都有道理。

但未來尚未寫就。我們必須抓住AGI到來之前這扇珍貴的窗口，把這項技術塑造成造福全人類的力量。我們此刻的共同作為，將決定文明的下一階段如何展開。只要安全地護送AGI來到這個世界，我們就能步入一個科學發現與進步的黃金新時代，迎來一個人類空前繁盛的光明未來。

參考資料：

https://x.com/demishassabis/status/2076957440109625718?s=20

編輯：大衛 所羅門