河北
henry 發自 凹非寺
量子位 | 公眾號 QbitAI
剛剛，OpenAI首席未來學家Joshua Achiam在X上宣布離職。
這并不是一個普通員工變動。
在OpenAI內部，首席未來學家這個職位夾在AI安全、政策和公司使命之間，負責研究AI繼續變強之后，可能給世界帶來的風險和機會。
而Joshua Achiam，正是OpenAI這條安全與使命線上的核心人物之一。
9年前的2017，他以實習生身份加入OpenAI。早期，他是一名專注于AI安全的研究科學家，做過深度強化學習里的安全約束研究。
后來，他領導過OpenAI的Mission Alignment（使命對齊）團隊，負責維護這家公司最初那句使命：
確保AGI造福全人類。
今年2月，OpenAI解散Mission Alignment團隊，Joshua轉任公司首席未來學家。
只不過，短短5個月后，Joshua就宣布自己將在7月24日正式離開這家待了9年的公司。
至于離職原因，Joshua并沒有透露太多。
他只是表示，自己離開并不是因為某個具體事件，也不是一時興起，而是已經思考了很長一段時間。
為了安全的AGI
在X長文里，Joshua把這次離開稱作“畢業”。
他寫道，自己2017年以25歲實習生（畢業于UC伯克利）身份加入OpenAI。那時，計算機還不能真正和人對話，也談不上思考。
如今，他34歲，已經是2歲孩子的父親，而計算機已經開始解決前沿科學問題。
Joshua形容，這9年像是“一個發生了幾個世紀變化的十年”。
對于未來，他依然保持樂觀。
我相信，我們能夠創造出一個這樣的世界：在那里，“滿足每個人的基本需求”不再是個需要解決的問題；相反，我們會覺得，把標準定得這么低，反而是一種恥辱。我相信，我們能夠實現一個充滿和平、前所未有的繁榮以及各種難以想象的社會與科學可能性的世界。無論我接下來做什么，我都會繼續與你們攜手努力，讓這一愿景成為現實。
最后，他用一句話收尾：
To safe AGI.
這句話也很像他過去9年在OpenAI的位置。
據WIRED消息，OpenAI目前還沒有宣布誰會接替Joshua的職位。這個職位位于公司AI安全和政策團隊的交匯處，工作包括研究AI崛起可能帶來的危害與收益。
此前，Joshua也曾與OpenAI全球事務負責人Chris Lehane等高層合作，推動與OpenAI使命一致的政府監管。
換句話說，他不是一個只做預測的“未來學家”。
更準確地說，他在OpenAI內部做的是另一件事：當模型能力一路往前沖時，給這家公司不斷提醒那句老問題。
這條路最后到底要通向哪里？
那個打斷馬斯克的男人
回顧Joshua的OpenAI生涯，最有戲劇性的一幕，發生在2018年。
今年4-5月，在馬斯克與OpenAI那場世界庭審中，Joshua曾出庭作證，回憶馬斯克2018年，離開OpenAI前的一次告別演講：
當時，他曾打斷馬斯克，指出如果計劃在特斯拉開發AGI，可能會以犧牲安全為代價。
據稱：馬斯克當即罵道：“Joshua是個“蠢驢”（jackass）”。
后來，這件事后來反而成了OpenAI內部的一個“都市傳說”。
Dario Amodei，如今的Anthropic CEO，以及David Luan，后來成為亞馬遜AGI實驗室負責人，還專門送給Achiam一個金色獎杯，上面刻著一句話：
“為了安全，永遠不要停止當那個jackass。”
每逢安全大佬出走，OpenAI就？
在Reddit上，有網友很快把這件事放進了OpenAI的“安全負責人離職名單”里。
有人開玩笑說：
Ilya走了，Jan走了，現在Joshua也走了。每次負責對齊的人離開，OpenAI好像都會發生點什么。
這個梗當然有夸張成分。
但過去兩年，OpenAI安全線的變化確實不少。
網友提到的Jan是Jan Leike，他曾共同領導OpenAI的Superalignment（超級對齊）團隊，研究如何讓先進 AI模型保持在人類控制之下。2024年，他離開OpenAI，加入Anthropic。
同年，OpenAI政策研究負責人Miles Brundage，以及曾負責AI模型危險能力研究的Steven Adler，也先后離開，轉而創辦非營利組織，推動AI實驗室遵守更嚴格的安全和安保標準。
Andrea Vallone曾負責研究ChatGPT如何回應處于心理或情緒困境中的用戶。她也在2025年底離開 OpenAI，加入了A社，也就是前同事Jan Leike所在的團隊。
Joshua是這條離職鏈上最新的名字。
與此同時，OpenAI自己也在調整安全、研究和政策之間的關系。
WIRED提到，過去一年里，OpenAI一直試圖拉近AI研究團隊和政策團隊之間的距離，希望制定出更能預判技術發展方向的規則和標準。包括Boaz Barak、Noam Brown、Adrien Ecoffet在內的一些研究員，也開始更多參與政策相關工作。
另一邊，前白宮AI顧問Dean Ball本周加入OpenAI，擔任公司Strategic Futures負責人。他會與Joshua有一段短暫交接，之后預計也會繼續與研究人員和政策負責人合作。
這就讓Joshua的離開顯得更微妙。
一方面，OpenAI正在把“安全”和“政策”更緊地綁在一起；另一方面，那個曾經領導Mission Alignment、后來出任Chief Futurist的人，卻選擇在這個時間點走出實驗室。
Joshua在離職信里寫道：世界已經知道這個秘密（實現AGI）了。如今，在frontier lab的圍墻之外繼續推動這項使命，也變得可能。
這可能是整件事里最值得琢磨的一句話。
過去十年，AI的發展速度確實令人振奮。OpenAI也早已不只是那個小型研究實驗室，而是變成了一個要同時面對產品、資本、政策、法院和公眾的新型機構。
但說到底，過去十年，終究只是AI旅途里的一小段，未來的路也許會更加漫長。
漫長到足以把任何歌利亞，都磨成小矮人。
[1]https://x.com/jachiam0/status/2074605703281693175
[2]https://www.wired.com/story/openai-chief-futurist-joshua-achiam-is-leaving-the-company/
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
