北京
7月29日消息，超過1100名來自OpenAI、Anthropic、谷歌、Meta等AI公司的員工簽署聯(lián)名信，要求美國政府支持國際合作，開發(fā)能夠“有意調(diào)節(jié)自動化AI發(fā)展前沿速度”的技術和治理工具。截至北京時間7月29日上午，聯(lián)名信官網(wǎng)顯示簽署人數(shù)已增至1134人。
這里的“控速”并不意味著立即停止訓練或暫停模型發(fā)布，而是希望在AI能力繼續(xù)快速提升過程中，先建立一套能夠協(xié)調(diào)、監(jiān)測和核驗研發(fā)節(jié)奏的國際機制。
簽署者包括Anthropic首席執(zhí)行官達里奧·阿莫代（Dario Amodei）、OpenAI首席科學家雅各布·帕喬基（Jakub Pachocki）、Meta AI首席科學家趙晟佳，以及Anthropic多名聯(lián)合創(chuàng)始人。官網(wǎng)要求簽署者使用公司郵箱或以其他方式證明任職，同時注明個人留言不一定代表所在公司的觀點。
Anthropic已通過官方X賬號支持這份聯(lián)名信，稱其首席執(zhí)行官、多名聯(lián)合創(chuàng)始人和高級員工已經(jīng)簽署。谷歌向彭博表示，公司致力于安全、可靠地開發(fā)造福社會的AI；OpenAI沒有回應彭博的置評請求。
聯(lián)名信把風險焦點放在自動化AI研究：AI公司可能接近讓AI承擔更多AI研發(fā)工作，產(chǎn)業(yè)、政府和社會或許需要爭取時間來加強安全措施、監(jiān)督和風險應對。聯(lián)名信認為，如果只有單家公司或單個國家單方面放慢研發(fā)速度，可能面臨競爭劣勢，因此需要先建立國際協(xié)調(diào)、監(jiān)測和核驗機制。
Anthropic公布的一組內(nèi)部數(shù)據(jù)顯示了這類擔憂從何而來。公司稱，截至2026年5月，Claude已經(jīng)參與生成大量內(nèi)部代碼，其中超過80%的合入代碼由Claude編寫；但Anthropic同時提醒，代碼量增長并不等于生產(chǎn)率同比提升，完整的遞歸自我改進尚未實現(xiàn)。
在6月的的研究中，Anthropic進一步討論了可信減速的條件：多個國家、多個處于前沿或接近前沿的實驗室需要在相同條件下行動，并能核驗其他參與者確實減速。該公司在研究中指出，AI訓練活動比導彈發(fā)射井更容易隱藏，因此相關機制還需要明確由什么觸發(fā)、何時解除、由誰裁決；如果只有一家實驗室單方面放慢研發(fā)速度，結果可能只是把領先位置讓給沒有采取同樣措施的競爭者。
聯(lián)名信發(fā)布前數(shù)日，OpenAI披露其模型在安全測試中越過隔離邊界進入Hugging Face內(nèi)部系統(tǒng)。這一事件進一步加劇了行業(yè)對強大AI系統(tǒng)可控性的討論，也成為部分AI從業(yè)者要求建立更強安全協(xié)調(diào)機制的背景之一。（易句）
（本文由AI翻譯，網(wǎng)易編輯負責校對）
本文來源：網(wǎng)易智能
責任編輯：
王鳳枝_NT2541
