AI搶人風向變了！搶完諾獎得主又挖伯克利冷門CS掌門，Anthropic兩周攬四將

來源：新智元

【導讀】都說AI搶人搶的都是工程大神，這回Anthropic偏請來最冷門的理論學者。

7月1日下午，一條推文在硅谷學術圈炸開。

UC伯克利EECS計算機科學部的掌門人，理論計算機科學教授Jelani Nelson把辦公室鑰匙暫時放下，去了Anthropic。

他在X上發(fā)帖：

我已加入Anthropic，并從大學休假。很高興與許多有才華、有使命感的人一起，研究我們這個時代的決定性技術。

短短兩句話，信息量拉滿：人已到崗，教職保留，方式是休假。至于職務、團隊、方向，一概沒提。

NelsonX上的簡介已同步更新：Anthropic技術研究員（Member of Technical Staff），和5月剛加盟的Karpathy成了同事。

加州大學伯克利分校電氣工程與計算機科學系（EECS）計算機科學系主任Jelani Nelson

執(zhí)掌著全美第一梯隊計算機科學部的人，說走就走。

AI公司搶人搶了三年，從工程搶到產(chǎn)品，從對齊搶到多模態(tài)。

這一次，手伸進了理論計算機科學的塔尖。

從MIT一路打到伯克利

把「數(shù)數(shù)」做到世界最優(yōu)的人

Nelson的履歷，幾乎是理論計算機科學的標準滿配。

他初中自學HTML搭網(wǎng)站，高中學會編程，大學期間靠競賽證明自己能最快寫出沒有bug的代碼。

本碩博都在MIT一路讀完，2011年拿到計算機科學博士學位，方向是海量數(shù)據(jù)的高效算法。

他形容這門學科對自己的吸引力「近乎宗教」：既是人類思維最核心的基礎問題，又和真實世界息息相關。

博士畢業(yè)后，他先后輾轉伯克利、普林斯頓大學和普林斯頓高等研究院（IAS）做博士后，2013年加入哈佛任教。

2019年，Nelson告別哈佛，西遷UC Berkeley。

哈佛校報直接把惋惜寫進了標題：他的離開，給計算機系留下了一個巨大空白（Big Hole）。

到了伯克利的他如魚得水，一頭扎進西蒙斯理論計算研究所（Simons Institute）所在的理論圈。

2024年秋天，Nelson接過EECS計算機科學部主任（Chair）的位子，執(zhí)掌這個全球最頂尖的CS學部之一。

他的主攻方向是流式算法（streaming algorithms）、降維（dimensionality reduction）、隨機算法（randomized algorithms）。

翻譯成人話，Nelson琢磨的是同一類事：數(shù)據(jù)大到裝不下的時候，怎么算。

幾年前，他盯上了一個有點像小學題的問題：讓計算機學會數(shù)數(shù)。

這看上去簡單，但當數(shù)字大到手機和服務器都記不住「前面數(shù)到哪了」，存儲和速度的代價就會失控。

他的團隊給出了一個數(shù)學公式，證明任何解決這個問題的算法，至少要用掉多少內(nèi)存。

Nelson團隊論文，證明了近似計數(shù)問題的內(nèi)存下界。https://arxiv.org/pdf/2010.02116

工程師讓程序跑得更快，Nelson證明程序最快只能跑多快。這就是理論計算機科學家的活：給計算定物理下限。

Nelson在學術圈的貢獻，遠不止「數(shù)數(shù)」這一筆。

一是和Kasper Green Larsen一起，證明了約翰遜-林登斯特勞斯引理（Johnson-Lindenstrauss lemma）的最優(yōu)性。

這是降維領域的一塊基石，理論下界被他釘死了。此前，他還與Daniel Kane提出了稀疏JL變換。

二是和Kane、David Woodruff一起，給出了count-distinct問題（一條數(shù)據(jù)流里究竟有多少個不同元素）的漸近最優(yōu)算法。

在他看來，連「數(shù)數(shù)」這種人人都會的事，背后都藏著理論最優(yōu)解。

這些工作為他帶來了一長串榮譽：斯隆研究獎、美國總統(tǒng)青年科學家與工程師獎（PECASE），拿了個遍。

學術之外，Nelson還有另一面。

2011年，還在MIT讀博的他跑去埃塞俄比亞，創(chuàng)辦了免費編程夏令營AddisCoder。

十四年下來，近700名學員從這里走出，一批人進了哈佛、MIT、斯坦福讀博。

后來牙買加雷鬼巨星Chronixx主動找上門捐錢，又催生了姊妹項目JamCoders。

Nelson于2011年創(chuàng)辦的免費編程夏令營AddisCoder，已培養(yǎng)近700名學員。（圖源：AddisCoder官網(wǎng)）

Nelson還是加州數(shù)學課程改革最激烈的反對者之一，理由很簡單：他的祖父出身貧寒，靠優(yōu)質(zhì)的公共教育成了一名醫(yī)生，改變了整個家族的軌跡。

因此，在他看來，把嚴格的數(shù)學課從公立學校抽走，等于抽走下一代人翻身的梯子。

這份「學術之外」的事業(yè)，后來也為他贏得了ACM Lawler人道主義貢獻獎。

Anthropic要一位理論學者干什么

一個做流式算法的教授，和大模型公司有什么關系？

Nelson的研究方向（流式算法、降維、隨機算法），研究的其實是同一件事：怎么用最少的內(nèi)存、最少的計算，處理最大的數(shù)據(jù)。

對應到大模型這邊，恰好是最燒錢的那幾件事：訓練效率、數(shù)據(jù)壓縮、計算復雜度。

拿前面提到的那條由他補完最后一塊拼圖的JL引理來說，它回答的問題樸素到近乎常識：高維數(shù)據(jù)最多能壓到多小，還不失真。

今天滿世界跑的向量檢索與嵌入壓縮，底層直覺都建立在這條引理上。

訓練一個前沿模型，本質(zhì)上就是在天文數(shù)字的數(shù)據(jù)流上做壓縮與篩選；推理這一側，顯存、緩存、上下文窗口，樁樁件件都在跟內(nèi)存和復雜度死磕。

而這正是Nelson鉆了二十年的問題域。

當模型規(guī)模撞上算力和數(shù)據(jù)的天花板，「省」的價值開始超過「堆」，AI競爭的重心，正在從「誰的模型更強」，轉向「誰的底層算法更省」。

而流式與隨機算法這套工具箱，與「用有限資源逼近最優(yōu)解」這個問題天然契合，這恰巧擊中了今天所有前沿實驗室的共同焦慮。

從這個角度看，Anthropic簽下一位理論計算機科學家，更像是補課：在模型、工程、對齊之外，將理論地基再打深一層。

頂級教授進AI公司

現(xiàn)在流行不辭職

關于入職Anthropic，Nelson的原話是「taken leave from the university」，從大學休假（leave of absence）。

休假與辭職是兩回事：教職保留，隨時可以回去。

這是美國學界的成熟制度，教授帶薪或停薪離校一段時間，去業(yè)界、去創(chuàng)業(yè)、去做任何事。

這條路早有人驗證過。

2017年，李飛飛就是利用學術假期出任Google副總裁兼云AI首席科學家，兩年后回歸斯坦福。

如今，學界和產(chǎn)業(yè)之間的旋轉門越轉越快，「休假入職」正在成為一種主流模式。

對學者來說，這是一張保底的船票，何況產(chǎn)業(yè)界還有學界拿不到的算力、數(shù)據(jù)和真實問題。

對AI公司，這是一條低摩擦的引才通道。更劃算的是，簽下一位學者，簽的從來不只是一個人，還有他身后的學生、同行和整張學術網(wǎng)絡。

「拿到終身教職（tenure）、干到退休」這條傳統(tǒng)單行道，正在被「半只腳進產(chǎn)業(yè)」的休假模式取代。

對大學來說，這個口子一旦開了，就很難關上。

搶完同行

AI巨頭開始搶大學

剛剛過去的6月，AI人才市場瘋狂到什么程度？

6月18日，Transformer論文作者、Gemini共同負責人Noam Shazeer宣布離開谷歌，去OpenAI。

要知道，谷歌2024年才用一筆27億美元的交易把他從Character.AI買回來，結果不到兩年，人又走了。

6月19日，靠AlphaFold拿下2024年諾貝爾化學獎的John Jumper官宣：離開效力近九年的DeepMind，加入Anthropic。

受DeepMind高層競業(yè)條款約束，他可能要到明年才能正式到崗。

6月24日，Bloomberg爆出：Gemini核心研究員Jonas Adler和Alexander Pritzel也將跟進加入Anthropic。兩人都是Jumper蛋白質(zhì)結構工作的合作者。

Alphabet股價應聲下跌，投資者開始公開質(zhì)疑谷歌還留不留得住人。

到這里，戰(zhàn)場還在AI公司之間。很快，戰(zhàn)火燒到了大學。

6月25日，在伯克利任教19年的AI安全學者Dawn Song宣布加入Meta超級智能實驗室，出任AI研究副總裁。

7月1日，Nelson。

短短兩周：一位諾獎得主、兩位Gemini核心研究員、一位資深教授，再加上一位現(xiàn)任系主任。

其中Jumper、Adler、Pritzel、Nelson四人，全部流向Anthropic。

這波瘋狂的人才流動背景，也不難猜。

OpenAI已經(jīng)秘密遞交IPO文件，Anthropic同樣被多個信源指向臨近上市。對頂級研究者來說，此刻入職意味著上市前的股權，這是大廠給不出的價碼。

而伯克利在這輪遷徙里的角色格外惹眼。

Simons理論計算研究所坐落于此，全美第一梯隊的EECS坐落于此——理論、機器學習系統(tǒng)、AI安全三條線，源源不斷地向Anthropic、OpenAI、DeepMind輸血。

AI巨頭們上一輪搶的是會訓模型的人，這一輪搶的是知道模型極限在哪的人。

當頂級學者涌入，AI公司事實上正在長成一套「第二研究機構體系」。

如果最好的理論家都在公司「休假」，大學還剩下什么？沒人知道。

唯一確定的是，AI競賽的爭奪焦點，已經(jīng)從模型能力下探到了算法理論的地基層。

參考資料：

https://x.com/minilek/status/2072322757908664728?s=20

https://www2.eecs.berkeley.edu/Faculty/Homepages/minilek.html

https://vcresearch.berkeley.edu/news/jelani-nelson-considers-human-thought-computer-science-tools

https://arxiv.org/pdf/2010.02116

為偉大思想而生！

AI+時代，互聯(lián)網(wǎng)思想（wanging0123)，

第一必讀自媒體