德米斯·哈薩比斯｜前沿人工智能治理框架與新時代的曙光

由于不可抗力的限流導致無法接收推送文章的問題，我們迫切需要以下操作：點擊標題下方藍字 “一半杯 ” → 點擊右上角“...” → 點選“設為星標 ★ ”，這樣就更容易找到我們和收到推送文章！

保持愛讀文章，保持領先！

作者｜德米斯·哈薩比斯（Demis Hassabis），1976年生于倫敦，是英國人工智能科學家、認知神經科學家、企業家及國際象棋高手，現任Google DeepMind和Isomorphic Labs聯合創始人兼首席執行官。少年時期的棋手經歷使他開始思考機器智能，17歲參與開發《主題公園》，后畢業于劍橋大學計算機科學專業，并在倫敦大學學院取得認知神經科學博士學位。2010年，他聯合創立DeepMind，領導和參與DQN、AlphaGo、AlphaFold等重要項目。其中，AlphaFold突破蛋白質結構預測難題，使他與約翰·江珀獲得2024年諾貝爾化學獎。哈薩比斯主張把人工智能用于藥物、能源、材料和基礎科學研究，同時強調防范網絡、生物及系統失控風險。

這是人類歷史上的一個關鍵時刻。通用人工智能（Artificial General Intelligence，AGI），也就是能夠展現人腦所具備的一切認知能力的系統，很可能再過短短幾年便會問世。未來幾十年里，當我們回望這段時期，我想我們會意識到，當時的自己正站在通往技術奇點的山腳下。這無異于人類新時代的曙光初現。

我一生都在投身AGI研究，因為我始終篤信：如果能夠以負責任的方式加以開發和部署，事實終將證明，AGI是人類有史以來最有益、最具變革力量的技術之一。AGI不能與通常意義上的技術突破相提并論——即使是互聯網或移動技術這樣影響深遠的突破，也不足以與之相比。它更接近于人類對電或火的發現。停下來仔細想想：從本質上說，我們已經找到了一種讓沙子思考的方法。這堪稱奇跡。

這項技術的影響規模將前所未有，或許會達到工業革命的十倍，而這種影響展開的速度也可能快上十倍。它將幫助我們解決社會面臨的一些最重大難題，從加快藥物發現，到開發新的清潔能源，再到創造新型先進材料。我們甚至可能走到這樣一個階段：資源不再成為制約人類進步的因素，由此開啟一個令人驚嘆的豐裕新時代。

人工智能前沿面臨的挑戰

人工智能已經開始在現實世界中帶來切實益處；但要兌現它的巨大潛力，我們必須深思熟慮、謹慎穩妥地度過這一發展的關鍵時期。隨著我們日益接近AGI，必須立即采取行動，應對可能隨之出現的風險。我們已經看到前沿模型給網絡安全帶來的挑戰；隨著模型能力繼續提升，核風險、生物風險等其他威脅也可能很快顯現。展望不遠的未來，我們需要建立強有力的安全防護機制，保持對自主行動能力日益增強、能夠遞歸自我改進的系統的控制，同時應對那些只能隨著時間推移才會逐漸明朗的未知問題。

我始終相信，人類的才智與創造力足以解決任何問題。我相信，AI相關的技術風險并非無法化解，我們完全可以共同應對。但前提是，我們必須給自己留出足夠的時間和余地，把接下來這關鍵一步走對。可眼下，無論是AI領域自身，還是整個社會，都沒有給自己留下這樣的時間與余地。

目前，我們正身處一場異常激烈、商業與地緣政治多層交織的競賽。這種競爭格局固然會推動技術飛速進步，加快釋放其驚人的積極效益；但技術前沿的發展速度已經超過了我們理解這項技術的速度。世上沒有人確知今后會發生什么，專家之間也存在分歧。

面對如此巨大的不確定性和如此高昂的利害得失，以審慎樂觀的態度前行，才是明智而正確的策略。這就要求公共政策既促進創新，也為負責任且注重安全的行為提供激勵；推動各國圍繞關鍵安全問題開展合作；并促使各方審慎考慮如何部署AI，才能使社會受益。

前沿人工智能標準機構的框架

人工智能正在飛速進步，這要求我們采用一種動態、能夠適應變化且嚴謹的新方法，測試前沿AI模型的能力。憑借自身的經濟與技術實力，美國具備率先著手構建此類框架的有利條件。

美國可以設立一個新的標準機構，采用由聯邦政府監督的公私合作機制或行業自律組織模式，類似于美國金融業監管局（FINRA）。該機構的理事會應包括獨立的頂尖技術專家和開源社區代表。它需要獲得充足經費，而大部分資金很可能要由行業提供，以便吸引世界一流的技術人才，并提供開展大規模測試所需的算力資源。

標準機構將負責制定評估規程，并與相關聯邦機構及美國國家實驗室合作，在涉及國家安全的領域開展測試。如果一個模型在該機構確定的一組基準測試中達到相應閾值，就可被認定為“前沿級”模型。這些基準將定期更新，以跟上AI能力不斷演進的步伐。

按照上述基準，擁有“前沿模型”的組織將被認定為“前沿實驗室”，并受到鼓勵采用最佳實踐，例如發布載有技術細節的模型卡，維持強有力的內部網絡安全防護，審查關鍵人員，為安全性與安全保障研究投入充足資源，以及采取其他相關措施。

在初期階段，前沿實驗室將在模型發布前自愿將模型提交給標準機構，使其有最多30天時間進行審查。一旦評估規程被證明行之有效且足夠穩健，這一機制便可迅速進入制度化階段。也就是說，前沿模型若要在美國市場部署，就必須通過該項評估。各實驗室還將與標準機構合作，處理模型發布后發現的任何重大漏洞。

模型評估應當包括嚴格的科學評測，考察模型在網絡安全、生物威脅及其他高風險領域所具備的能力。針對具備自主行動能力的AI，還可設置專項測試，檢查模型是否試圖繞過安全防護機制，是否顯露欺騙跡象，并確保相關最佳實踐得到落實，例如為AI生成的圖像添加數字水印，以及生成可供人類解讀的輸出詞元，以便理解模型的推理過程。

這些評估將定期更新，初期或可每季度更新一次。過時或已趨飽和的基準測試將被停用并替換。最初，評估方案將在征詢前沿實驗室意見后制定；但最終，標準機構應逐步形成足夠的技術能力，獨立于各實驗室建立自己的留出測試，以防止過擬合。

該機構還可與美國政府合作，培育由第三方審計機構組成的生態系統，協助開展評估，并開發新的基準測試和評測方法。

這種方案的優勢在于，它將聚焦技術，同時支持創新并激勵負責任的行為。其設計旨在跟上該領域不斷加快的發展步伐，并隨著重大風險被識別出來而作出調整。如果形勢的嚴重程度有此要求，還可逐步提高管控強度；必要時，甚至可以協調各前沿實驗室共同放緩研發速度。

被認定為前沿實驗室將帶來很高的聲望。這一認定也將向任何開發出符合基準要求模型的組織開放。該框架可以適用于所有前沿級模型，無論它們來自哪個國家，也無論采用開放模式還是封閉模式。但凡不屬于前沿級的模型，例如來自初創企業或學術界的一些模型，都將免于這一程序。

由美國發起的這一努力，將為制定各方共同遵循的前沿人工智能國際標準提供堅實起點。這項技術將影響整個世界。理想情況下，該框架將推動國際社會就如何管理最嚴重的風險達成共識，同時確保人人都能獲得AI帶來的機遇并從中受益。

未來尚未寫就

AGI有潛力成為推動科學與醫學進步的終極工具，并推動生產率大幅提升和經濟增長。但要實現這些潛力，我們必須把技術基礎打牢，圍繞一套共同的全球框架協調行動，采用最嚴謹的科學方法，并匯聚最優秀的人才，共同應對我們面臨的挑戰。

即使我們解決了這些艱深的技術問題，仍會有更多復雜的經濟與哲學問題等待處理：在一個后稀缺世界里，需要怎樣的新型經濟模式，才能讓每個人都蓬勃發展？我們希望奉行怎樣的價值觀？屆時，人生的意義與目標何在？甚至人類處境本身又可能發生怎樣的變化？顯然，這些問題既不能、也不應只交給技術專家來解決。

這需要社會各界共同參與，一起塑造這個新篇章。

圍繞AI，既有巨大的振奮，也有巨大的不確定性；兩者都有充分根據。但未來尚未寫就。我們必須充分利用AGI到來前這一寶貴的時間窗口，塑造這項技術，使其造福全人類。我們此刻共同采取的行動，將決定文明的下一階段如何展開。只要以安全、審慎的方式引導AGI進入現實世界，我們就能邁入科學發現與進步的新黃金時代，迎來一個人類實現非凡繁榮與充分發展的光明未來。

德米斯·哈薩比斯，諾貝爾獎得主｜谷歌 DeepMind 與 Isomorphic Labs 聯合創始人兼首席執行官。

End