北京
谷歌DeepMind首席執行官德米斯·哈薩比斯于周二在X平臺發文，呼吁建立一個新的監管機構，專門負責監督前沿AI模型的發布。這篇題為《前沿AI框架與新時代的曙光》的文章，主張參照金融業監管局（FINRA）的模式，成立一個"標準機構"，負責測試前沿AI模型并制定發布最佳實踐規范。
文章寫道："初期階段，前沿實驗室將在模型發布前最多30天，自愿將模型提交給標準機構進行審查。一旦評估協議被證明切實有效，正式化進程將隨之跟進，屆時前沿模型須通過審查方可在美國市場部署。各實驗室還將與標準機構合作，共同應對發布后出現的關鍵安全漏洞。"
這一擬議體系將在美國政府此前對Anthropic的Mythos和OpenAI的Sol所進行的臨時審查基礎上加以完善。上述兩次審查因技術專業性不足、模型發布決策過程不透明等問題而飽受批評。按照哈薩比斯的設想，相關職能將移交給一個新的獨立機構——該機構將獲得美國政府背書，但由AI行業提供資金，并獨立運營。
AI監管問題目前仍具爭議，在科技行業和特朗普政府層面均未形成共識。白宮AI顧問、知名風投機構a16z普通合伙人斯里拉姆·克里希南近期明確表示，行政部門內不會設立AI監管機構，"不會有針對AI的FDA"。
將標準機構定位為類似FINRA的自律組織，或許能為上述顧慮提供一條出路。哈薩比斯設想該機構由來自行業內部的開源領域代表和技術專家組成，所需資金由各AI實驗室共同承擔，以確保機構能夠吸引并留住專業人才。該機構甚至可以將部分評估工作外包給日益壯大的AI安全研究群體，使其能夠專注于特定類型的風險評估。
哈薩比斯強調："這一方案的優勢在于，它將以技術為核心導向，同時兼顧創新支持與負責任行為的激勵機制。它的設計目標是緊跟這一領域的加速發展節奏，隨時應對已識別的最大風險，并可在形勢需要時進一步強化監管力度。"
Q&A
Q1：哈薩比斯提議的AI標準機構與FINRA有什么關系？
A：哈薩比斯建議參照FINRA（金融業監管局）的模式建立AI標準機構。FINRA是金融行業的自律監管組織，由行業出資、獨立運營。哈薩比斯認為，AI標準機構也可以采用類似結構——獲得美國政府背書，由AI實驗室提供資金，獨立于政府之外運營，從而在技術監管與行業創新之間取得平衡。
Q2：這個AI標準機構會如何審查前沿模型？
A：按照哈薩比斯的設想，初期階段前沿AI實驗室將在模型發布前最多30天，自愿提交模型供標準機構審查。審查協議成熟后，將推進正式化，屆時前沿模型須通過審查才能在美國市場部署。此外，各實驗室還需與機構合作，共同處理模型發布后出現的關鍵安全漏洞。部分評估工作也可能外包給專業的AI安全研究機構。
Q3：特朗普政府對AI監管機構持什么態度？
A：特朗普政府整體上對設立AI監管機構持保留態度。白宮AI顧問、a16z普通合伙人斯里拉姆·克里希南明確表示，行政部門內部"不會有針對AI的FDA"，即不會在政府層面專門設立AI監管機構。正因如此，哈薩比斯將標準機構定位為行業自律組織，以期繞開政府直接介入的爭議。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
