普林斯頓教授Arvind Narayanan：蒸汽機沒有搶走的工作，AI也無法剝奪｜ICML 2026

AI替代不了你，但會用AI的人可以。

作者丨吳思夢

編輯丨岑 峰

1890年，電動機首次開進美國紡織廠，工廠主們興奮地以為蒸汽時代結束了。可接下來的三十年，全美制造業生產率幾乎毫無提升。 因為他們只是圖省事地用電動機換掉了蒸汽鍋爐，卻沿用了舊的傳動軸，所有機器靠這根軸驅動，電機只是代替了鍋爐去轉這根軸。

直到第一批習慣了舊規則的管理層退場，新一代工程師才突然意識到，電力的本質是“分布式”的——它不需要一條中央主軸。于是他們開始拆掉舊廠房，重新設計車間，圍繞裝配線重構流程，培訓工人，甚至推動了勞工法的修改。

電力從發明到真正改變工廠生產方式，花了40年。歷史反復證明，技術爆發只需一瞬間，但人類社會重構組織、真正適應它，往往需要一代甚至幾代人。

2026年，歷史正在瘋狂重演。Agent時代的的轟鳴聲響徹大廠，硅谷開始販賣“永久底層階級”的焦慮，這是一個慢一步就會被蒸餾的時代。在極度亢奮與終極恐慌的夾擊下，人類似乎又一次站在了十字路口——“AI是不是很快就要搶走我們所有的工作？”

在2026年的國際機器學習大會（ICML）上，普林斯頓大學計算機科學教授、信息技術政策研究中心主任Arvind Narayanan探討了這個問題。作為最早一批證明機器學習模型會如何反映并放大文化刻板印象的研究之一，Arvind 教授還曾入選《時代》周刊AI領域最具影響力百人榜。

在他的演講中，沒有給出一個既定的絕對答案，而是用經濟史和實證數據，把AI從“即將顛覆一切”的神話拉回了一條以數十年為尺度的現實軌道。

他指出了一個被行業系統性忽視的裂縫：AI的能力在飆升，可靠性卻幾乎沒動。他據此提出“Agent不可能三角”——通用性、高風險、自動化，三者最多取其二。這意味著AI在當下更是一種協作工具，而非替代工具。而當AI接管了可驗證任務后，人類的核心價值將從“建造”轉向“評估”，從“劃船”轉向“掌舵”。

在“躺平”與“恐慌”之間，Narayanan給出了第三條路：把AI省下的時間再投資于自身成長，先成為專家再借助AI放大能力，走向“共同超級智能”——未來的超級智能不是孤立的機器，而是把AI當作跳板的人類。

以下是Arvind Narayanan在ICML 2026大會發表的主旨演講精編稿，AI科技評論基于原英文演講內容進行了不改原意的翻譯編輯。

How to Prepare for a Future Where AI Can Do More of Our Work

主講人：Arvind Narayanan，普林斯頓大學計算機科學教授，信息技術政策研究中心主任

01

兩種AI敘事：替代還是增強？

當前正是AI領域蓬勃發展、令人振奮的時期，但同時也是AI社區深感焦慮的時期。而我想要直面這種焦慮，予以回應。

我想談一談如何為未來做好準備這一問題，屆時AI將能夠承擔越來越多我們當前正在開展的工作。讓我先交代一下我的背景。我在普林斯頓大學帶領一支團隊，致力于推進AI智能體評估領域的科學研究。我們的工作與通常的基準測試有所不同：我們試圖跳出那種“你看，基準測試上的能力正在提升”的常規說辭。這類說法往往會被普通大眾誤解為暗示AI智能體很快就會搶走我們所有人的工作，或許真有這種可能，但這并非我們在研究中試圖達成的目標。我們要切實去理解，在這些智能體落地應用于真實場景的過程中，除了能力之外，還有哪些真正關鍵的因素，并嘗試將這些認知融入到評估工作當中。

或許我更為人熟知的作品，是與Sayash Kapoor合著的一篇題為《AI as Normal Technology》（《作為常規技術的AI》）的文章。這是一種思考AI中期發展前景、思考人類該如何適應這一前景，進而思考如何讓AI適配社會與經濟需求的思路。我們一直在四處奔走，撰寫各類文章，探討律師該如何適應新形勢，或是記者該如何轉型，但頗具諷刺意味的是，核心問題恰恰在于“該如何適應”這件事本身，它最先沖擊的是我們自己的社區。

無論是軟件工程領域，還是AI研究本身，這些領域的AI能力無疑都在飛速發展。而且我認為，我們該如何應對這一問題，其重要性并不局限于這個圈子。我認為全世界都在關注著。倘若我們只是一味妥協，默認未來自己的大量工作將由AI完成，而非設定清晰的邊界，我認為這將導致比我們今天看到的更強烈的政治反彈，這個問題是全世界都要面對的。

從AI誕生之初，就一直存在兩種相互角力的敘事。這會是一項將取代我們專業技能的技術嗎？還是說，這項技術會進一步強化我們的能力，而非讓我們變得多余？過去，這種區分僅停留在學術與哲學層面，或許還帶有幾分理論色彩。但如今，這已然成為一個極具現實緊迫性的問題。我們每個人都得做出選擇，要么明確自己屬于哪個陣營，要么弄清自己在這個連續區間中所處的位置。因為信奉其中一種而非另一種所產生的實際影響截然不同。

如果你認為這項技術在幾年內就能取代我們當下所做的一切工作，那么或許正確的應對方式就是趁著我們的技能還沒被淘汰，盡快積累財富。這就是硅谷很多人選擇的道路，你可能聽說“永久底層階級”（permanent underclass）的梗。但如果你像我一樣相信，這是一項將極大放大人類潛能的技術，那么現在就是構建技能的最佳時機，尤其是那些與AI互補的技能，以及圍繞AI的種種能力：主動性（agency）、品味（taste）、判斷力（judgment），等等。

而我想強調的是，這個選擇確實至關重要。如果你選擇了第一條路徑，而最終發現AI實際上是一種賦能型技術而非替代型技術，那么我認為，在未來幾年里，你或許錯過了史上最佳的窗口期，去培養那些能讓我們變得極具競爭力的技能。稍后我會解釋我這么說的具體含義。正因如此，我認為并非所有人最終都會落腳于同一處，但我們所有人都應當對此有所考量。

02

AI的經濟影響：

從“發明”到“擴散”，以數十年為尺度

我之前提到過一篇題為《AI as Normal Technology》的文章，這正是我今天要分享內容的理論框架。當我們說AI已成為常態時，我們指的并不是說它就只是錘子、牙刷這類普通的日常技術，我們在文章中明確強調，這是一項規模堪比工業革命的變革性技術。我們并非AI懷疑論者。這不是一句口號，而是一個框架——打個比方，就是一種因果模型，用于闡釋AI能力如何對經濟和社會產生特定影響。

我認為這篇論文在學術層面主要有兩點貢獻。其中一種觀點認為，能力提升的速度雖快，卻并非決定經濟與社會影響速度的核心因素，我們需要梳理所有下游瓶頸，以及這些瓶頸為何會形成。真正要花數十年才能厘清。其次，它還針對超級智能、遞歸自提升等概念，形成了一種截然不同的思考方式。我將在今天的演講中基于該框架展開闡述。

當我們思考任何強大技術時——在AI之前，不妨先想想電力。學界已開展充分研究，我們也擁有成熟的分析框架，可用于梳理技術能力轉化為經濟影響的內在邏輯。這就是經典的“發明-創新-擴散”三階段框架。以電力為例：發現電磁學原理、厘清AC與DC的區別，屬于發明階段。但人們并不會直接使用市電來供電，我們會使用電器，這些東西是必須被發明出來的，這是下游的創新階段。然后是擴散，即人們開始逐步采用這些事物的漸進過程。

我們把這一框架應用于AI，并進一步拓展延伸，發展出了一個四部分框架。

第一階段，各類模型的性能正在飛速提升。

第二階段，我們并不直接使用大語言模型。它之所以能對我們所有工作產生如此深遠的影響，核心原因就在于編碼智能體這類產品，能夠將這些潛在能力轉化為實際可用的成果，對工人而言實用且易用。

第三階段是早期采用階段——很長一段時間以來，人們一直在嘗試“氛圍編程”（vibe coding），而如今我們已經明白這并非開發軟件的最佳方式，因此有了更為成熟的智能體工程實現方法。

第四個階段，也是最緩慢的階段：適應或結構轉型。我今天的分享內容大部分都會圍繞這一點展開，而我認為，這正是需要耗費數十年時間的部分。即便在軟件工程這類相對較早采用編碼智能體的領域，這件事實際上也尚未真正啟動。

讓我用工廠電氣化改造的例子來說明。在電力出現之前，工廠有一臺碩大無朋的蒸汽鍋爐，產生的動力通過機械齒輪、傳動軸等部件輸送至任何需要它的地方。這一結論源自經濟史學家保羅·大衛（Paul David）的研究。當電力問世后，工廠主便試圖用發電機取代那些蒸汽鍋爐，心想效率會高得多，產能也會大幅提升。但這種“直接替換”的思路并未奏效。我很喜歡這個說法，因為如今在聊起AI智能體的時候，我們總能聽到這種論調——說這些東西很快就能直接頂替人類勞動者的崗位了。那不管用。

就電力領域而言，真正行之有效、且耗費了四十年時間才得以形成的共識是：電力是一種性質截然不同的技術。它便攜性極強，你可以把電力輸送到任何需要的地方，進而圍繞裝配線的邏輯重新規劃工廠的整體布局，還能催生出勞動分工以及其他我們如今習以為常的現代理念。而這就需要改變員工的培訓、招聘和解雇方式，出臺新的勞工法案等等。由此可見，工廠要想充分發揮電力的優勢，就必須在組織架構、法律及監管層面做出這類適應性調整。

我們認為，這便是數十年后我們在發展AI的過程中會經歷的那類歷程。我們將對工作進行根本性重組。我們尚且無法預見這會是怎樣的局面，而這正是擺在我們所有人面前的挑戰。這并非僅僅是AI企業的任務——就像當年搞清楚工廠該如何重組，也絕非電力公司的職責一樣。在我們看來，這是進程最緩慢的環節，可以說是AI產生經濟影響過程中的關鍵限速步驟。

我來做一點推測。如果未來真的會出現這樣的情形：編碼智能體能夠構建出規模達千萬行代碼的代碼庫，且這些代碼庫不會充斥著漏洞與安全隱患——那么我們去開發一款供數十億人使用的軟件，就沒多大意義了。針對每個個人或團隊的需求定制軟件，會要合理得多。這就是我所說的極致個性化。這不僅僅是技術層面的變革，更是整個行業的轉型。話說，我們到底為什么還需要軟件公司？軟件開發或許會大規模回流至實際使用該軟件的企業與團隊內部完成。需要再次說明的是，這只是推測，但關鍵在于，正是這種進程十分緩慢、耗時數十年的組織變革與人員變革，才能讓我們充分釋放AI的全部潛力。這便是該文章的核心洞見之一。而且，我也沒法百分之百確定這件事會耗費很長時間，但當我們回顧過往的技術時，每一次都要耗時數十年。

我必須非常清楚地指出：今天，這個過程實際上并未真正啟動。確實，大多數工作者都會使用AI，但他們的使用都停留在非常表面的層面。幾個月前Anthropic發布了一張圖表——藍色部分代表人們本可能將大語言模型用于的用途，紅色部分則是他們實際使用大語言模型的方向，兩者之間存在巨大的差距。一個原因或許是人們接受新技術的速度偏慢，這確實是部分原因。但當我們研究這個問題時，我們發現：也許那些部署AI卻沒取得多少成效的人，反倒掌握著AI行業實際上并不了解的、關于AI實際局限性的某些情況。在能力與落地應用的關系上，我們應當多一分謙遜。

03

被忽視的真相：

能力飆升，可靠性幾乎原地踏步

我們從調研數據中發現，AI的表現未達預期，首要障礙是可靠性。于是我們想要弄清楚：我們究竟能不能切實對可靠性進行測量？把可靠性與能力區分開來，看它是否真的構成了AI Agent實際有用性的瓶頸？

我們梳理了約十到十二項不同的可靠性指標，將其整合為四個維度。首先是一致性（consistency）——關鍵在于它是每次都能做對，還是僅僅偶爾做對一次？讓我解釋一下我的意思。假設我們聽說某個AI智能體的準確率為70%。這并不能說明它能處理70%的任務——而是說對于它確實能處理的那些任務，它每次都能穩定完成，這一點對于部署來說非常有利，你可以將其部署在這部分任務子集上。但如果任意一項任務都有30%的概率出現不可預知的故障，那么從部署的角度來看，這基本上毫無用處。或許令人震驚的是，據我們所知，目前市面上所有的智能體基準測試都沒有對這二者加以區分——這兩者的準確率均為70%。

我們還研究了魯棒性（robustness）——環境出現小幅變化時會怎樣；校準性（calibration）——模型的置信度與實際表現是否匹配；以及操作安全性（safety）——核心聚焦于系統發生故障時，故障是否可恢復，還是會出現諸如刪除生產數據庫這類嚴重后果。再者，對人類從業者而言，如果我們認為某個人能勝任某項工作，那考量的維度遠不止準確性這一項。但事實證明，我們對智能體的評估方式，僅僅關注了準確率這一項。

當我們將這些維度繪成圖表時，發現了相當令人意外的現象。這一結論基于過去約24個月內開展的兩項互為補充的基準測試得出。在這一階段，準確率從約25%大幅飆升至接近80%——這就是你在左側看到的內容。但你在右側看到的是可靠性——結果表明，可靠性僅提升了5到10個百分點。這一情況普遍存在于所有前沿模型中，并非某一家特定公司獨有的問題。

由此產生的一個重要啟示是：我們必須明確區分用于自動化的智能體和用于協作的智能體。目前，行業并未對這兩者加以區分。如果以無界面模式運行代理，它就變成了自動化代理——但這種看法并不妥當。因為可靠性這類對自動化智能體而言至關重要的特性，對于一個你可能用來提升創意寫作水平的協作智能體來說，實際上反而會成為阻礙。對于這類智能體而言，你不會希望它表現得像個每次都只會重復相同操作的機器人，你會希望它具備創造力，能夠探索不同的可能性——從某種意義上來說，各種可能性是無法預測的。

我們甚至認為，這些模型的框架乃至訓練后環節，都應當根據模型是用于驅動協作智能體還是自動化智能體而有所區別。盡管我希望可靠性會持續提升，自動化也會隨著時間推移變得更易實現，但我確實認為就目前而言，協作智能體的表現會繼續遠超自動化智能體。許多倉促采用智能體實現業務流程自動化的企業，如今正意識到這種做法的局限性——當Agent刪除生產數據時，他們意識到這其中還涉及法律層面的責任約束。我們近期看到大量新聞，不少企業正在縮減已落地部署的規模。

我認為這是一個被嚴重低估的重大局限。而我將這一點形式化的方法，就是運用我所說的“AI智能體三難困境”（AI Agent Trilemma）。有三個理想特性——這類物品你最多可擁有兩個：第一，你想要一個通用智能體——使用語言模型，而非針對每個獨立任務專門創建的模型，通用性正是其能夠在眾多不同任務中快速部署的核心原因；第二，你期望它具備高度的適用性——是涉及重大利害關系的場景，絕非無關緊要的細枝末節；第三，你會希望它能夠實現自動化。我們認為，就目前而言，這三個特性中你最多只能同時滿足兩個，這在中期來看會是一個相當大的限制。而這正是我認為就目前而言，AI在更大程度上仍是一種協作技術，而非一種會將工人取而代之的自動化技術的原因之一。

04

軟件工程師的案例，

寫代碼從來不是瓶頸

接下來我們來聊聊勞動力相關的影響。這是我花了大量時間思考、與他人探討，并查閱勞動經濟學家的相關觀點等內容后得出的結論。我想以軟件工程作為案例研究——原因同樣在于編碼智能體的應用普及速度尤為迅猛。

你或許會覺得：好吧，我明白沒法把這件事完全自動化掉，但如果智能體讓軟件工程師的工作效率提升10倍，那我們需要的軟件工程師數量就會減少十分之九——這難道不是顯而易見的結果嗎？然而，這種說法完全和數據相矛盾。

我們在一篇后續論文中對此進行了探討。我們研究了大量據稱由AI驅動的裁員事件，結果發現這些全都是“AI洗白”（AI washing）的典型案例——公司當時面臨資金壓力，而事實證明，把問題歸咎于AI，遠比給出真實原因來得省事。經濟學家對此已進行了細致分析，結果顯示，軟件工程領域的就業規模仍在持續增長。盡管相較于一個不存在編碼智能體的反事實世界而言，這一過程的速度或許要慢一些。所以這完全是嚴重違背敘事邏輯的硬傷。

這種情況我們屢見不鮮，這是勞動經濟學家反復驗證得出的結論。你或許聽說過“杰文斯悖論”（Jevons Paradox）這個術語，我個人更喜歡“勞動總量謬誤”（lump of labor fallacy）這個說法。這便是一個直觀清晰的示例：ATM機問世后，銀行人工柜員的就業人數不降反升。這是為什么呢？這看似矛盾，但細想之下就會發現完全合乎情理。自動取款機普及之初，銀行發現此舉具備可行性，開設了一大批此前從經濟層面考量并不具備開設可行性的區域分支機構。而一旦這些網點開設起來，針對ATM機無法辦理的業務，銀行至少在部分時段會發現，網點內需要配備人工柜員。

這個問題在放射科領域也反復出現。例如，杰夫·辛頓在十年前就做出了那個著名的預測，聲稱放射科醫師未來會在五年內基本絕跡。我能理解他為什么會做出那樣的預測，但事實證明，迪娜·穆薩對此有很到位的分析——放射科相關崗位的就業規模持續增長，這并非因為放射科醫師對AI持排斥態度。他們實際上正積極主動地采用AI。但事實證明，當某項工作的一部分變得更容易完成時，實際上對它的需求反而會增加，而且這帶來的回報完全足以彌補相關成本。

我們已經撰寫了一篇探討律師應當如何做出調整的論文，其中包含了大量相關內容。但有一點我要說明：如今AI實際上已經讓提起訴訟變得容易得多，而這就意味著律師要處理的工作變多了。如果我們不喜歡生活在一個動輒訴訟的社會中，可能會對此感到十分不快，但從律師就業的角度來看，這可是個好消息——AI非但沒有讓律師的工作實現自動化，反而推高了對律師的需求。

就連翻譯這件事本身，都有個離譜到讓我瞠目結舌的極端例子。這是一個近十年前AI就已基本達到人類同等水平的領域。與此同時，人工譯員的雇傭規模基本保持穩定，且預計未來十年內仍將維持這一態勢。造成這一現象的原因有很多，但其中一點在于：你可翻譯的內容體量、以及可將內容譯入的語言種類，實際上都不存在上限。

回到軟件工程的話題。為什么AI至今沒有替代軟件工程師？我們從2019年的一篇論文中早已知道——編寫代碼其實根本不是瓶頸。論文摘要中有一句關鍵的話：“我們的分析印證了此前研究的結論，其中就包括開發者在開發工作上投入的時間極少這一點”——而我們也對此進行了量化驗證。在過去一年左右的時間里，隨著軟件工程師開始采用編碼智能體，他們逐漸意識到，這似乎并沒有減少他們的工作量。網上出現了大量博客文章，都在反復重申一個事實：編寫代碼根本不是瓶頸。

那么，如果寫代碼實際上并非瓶頸，軟件工程中的瓶頸究竟是什么？我們提出了一套框架，將其命名為“決策-執行-交付”（Decide-Execute-Deliver）框架。核心層級是決策層——負責理解客戶需求、實現產品市場匹配、制定產品規范以及相關工作。那東西不會被AI壓縮。但中間層——也就是執行層，實際的編碼、調試等工作——正不斷被壓縮。但一開始，那可能只占全部工作量的三分之一。最后是交付層——交付指的是你要對自己的代碼有足夠深入的理解，從而能夠為你交付的成果、集成工作、維護工作、測試工作以及所有相關事宜承擔責任。而且那部分也不會被壓縮。而事實上，在AI壓縮中間層的同時，第一層和第三層可以說正在不斷擴張。

我喜歡借助一個比喻來解釋當下的情況。我認為這種情況在軟件工程領域已然存在，并且在我們能想到的諸多面向知識工作者的職業中，這種情況還會愈發普遍。與起重機操作員或叉車操作員的情況類似——這臺機器切實放大了人類從事體力勞動的潛能，所有繁重工作都由它來完成，但主導權始終掌握在人手中。而且我認為，認知類工作目前正面臨著這樣的情況：機器將越來越多地承擔認知層面的繁重工作，但主導權仍掌握在人類手中。于是，整個工作的核心被重新定義為操作機器、理解機器、掌控機器，而非由我們人類親自完成認知層面的工作。

這看似是一場翻天覆地的變革，但從某種意義上來說，這不過是軟件工程領域反復上演的進程的延續：自機器代碼時代起，我們已經歷了多輪技術浪潮，每一輪都為我們帶來了生產力近一個數量級的提升，而且在我們沿著這個階梯攀升的這段時間里，軟件工程崗位的需求量非但沒有下降，反而增長了約一萬倍。原因很簡單，因為需要編寫的代碼量已經呈指數級增長了好幾個數量級。

05

遞歸自我改進，為什么我不為此失眠

現在我們來探討這樣一種可能性：我目前所說的一切都將變得毫無意義，因為某種技術起飛或奇點將會到來，到了那個時候，我們就再也無事可做了。接下來的十五分鐘，我會和大家聊聊，為什么我認為我們應當認真考量這件事，但說到底——我才不會為這事失眠呢。

眾多企業都曾表示，它們正全力沖刺，力爭實現遞歸式自我提升（recursive self-improvement）。這些都是正經的正規企業，我認真對待這些事。我想問個問題：假設明年左右就能實現遞歸自我提升，會帶來哪些影響和后果？AI領域對此的普遍看法大致如下：遞歸式自我提升將催生AGI，即通用人工智能——那是個出了名的模糊術語，目前定義尚未形成共識。定義主要分為兩大類：其一，AGI會在一系列認知維度上與人類相似；另一種定義則是，它將能夠執行一系列具有經濟價值的任務。而在AGI出現后不久，這就會催生出ASI，也就是超級人工智能，它將在所有可觀測的認知領域全面超越人類的能力。

我的觀點是，這種看法有點荒唐。這是進步的四個不同維度——這一論斷固然有力，但我已做好充分準備為其辯護。核心觀點是：這些維度之間不存在任何相互推導的關系。我喜歡用一個比喻，我把它稱為“夏威夷問題”。或許在AI發展的早期階段，把這些都當作遙不可及的目標也無傷大雅，所以我們沒有對它們做出明確區分。但如今這正演變成一個實實在在的問題。舉個例子來說，假設我們是早期的探索者，我們希望有朝一日能去夏威夷——用一個統一的術語來指代這整片島群倒也無妨，但隨著我們的船越駛越近，我們最好能用不同的說法來分別談論這些島嶼。否則，我們只會搞不清自己身在何處、又要去往何方。海倫·托納（Helen Toner）等人也提出了極為相似的觀點。

讓我們逐一詳細展開。首先是遞歸式自我提升。假設某公司在明年宣稱，他們已經研發出了RSI——一套能自主打造繼任系統的AI系統。這究竟意味著什么？一方面，情況可能是他們讓大語言模型輸出了一大堆關于如何調整架構、數據管道的思路，對其進行了自動測試，保留了有效的改進方案——那不過是換了層光鮮外衣的超參數搜索罷了。長期以來，我們一直擁有類似AutoML的系統。要知道，我們可不會把那玩意兒叫做超級智能。這就是該范圍的一個極端，是值得追求的目標，但它和另一個極端截然不同——你可以設想那種極端情況是公司真的試圖用AI取代人類AI研究者的創造力與智力。這不只是某一位研究者的功勞，也不只是這家公司內部研究人員的成果，而是全球數十萬從業者共同組成的整個社群的心血，他們的每一項創新，最終都在推動AI系統的不斷完善。而現在要替代的，正是這一整套體系。這是一個截然不同的目標。

當人們談論RSI時，并不清楚他們指的是其中哪一種。而我的觀點是，我們在短期內可能實現的任何RSI，都將處于該范圍的左端附近。原因非常簡單：AI目前仍處于這樣一種狀態——在可驗證任務上的表現要遠優于不可驗證任務。當然，AI性能的某些維度，比如速度和效率，是可驗證的，而且它們有可能在短期內通過遞歸自我改進得到提升。但創造力以及智能的其他維度則并非如此。這在某種程度上就是一項無法驗證的任務的縮影，為什么？因為我們甚至都還沒搞清楚該如何測試AI的創造力。從認知科學和神經科學的角度來看，我們對人類創造力的理解還不夠深入，無法針對它設計出明確的測試方案。由此你會發現這是一種典型的雞生蛋、蛋生雞的兩難問題：要提升AI的創造力，本身就需要當前AI系統并不具備的那種創造力。所以這就有點像一個第二十二條軍規。

德瓦克什·帕特爾（Dwarkesh Patel）提出了一種很好的表述方式——聽著有點隨意，但我個人非常喜歡。他幾年前就注意到了這一點，而且也經常談及此事：這些系統其實并未記住人類的全部知識，即便如此，它們也始終無法建立起能夠催生新發現的關聯。可能會有少數反例，尤其是在人工智能相關問題這類窄域場景下，但請真正靜下心來思考那些靈光乍現的頓悟時刻——那些或許出人意料、發生在看似毫不相干的領域之間的關聯，我們會將其與人類科學發明與創造的偉大成果聯系在一起。而大語言模型目前顯然還遠未達到這一水平。

我花了相當多的時間深耕認知科學領域的文獻，目前看來有兩類不同的研究文獻正以略有差異的視角探討這一問題，出于我尚未完全厘清的原因，這兩類研究之間幾乎沒有形成過交流。但根據我近期查閱的資料，我想提出幾個關于AI創造力的假說。我確實認為，AI在創造力的諸多方面都落后于人類，尤其是在表征質量（representation quality）層面。表征質量對于認知而言是絕對的核心基礎。回想一下深度學習，它在感知背后的表征質量方面實現了何等巨大的飛躍——就感知層面而言，AI在表征質量上已基本追平人類水平，但在人類用于創造力、推理等場景的表征層面，它仍未趕上。

尤其是弗朗索瓦·喬萊（Fran?ois Chollet）曾談到這樣一個事實：支撐我們創造力的人類表征似乎呈現出一種“極端組合性”——一切都由為數不多的意義原子構建而成；而我們眼中人類工作記憶與信息處理的諸多局限，到頭來反倒成了優勢。正是這些局限，倒逼我們構想出了這類效率極高的表征方式。此外，許多旨在比較大語言模型與人類創造力的研究，都因“鋸齒狀問題”（jaggedness problem）得出了具有誤導性的結論——大語言模型在某些維度上的表現遠優于人類，比如記憶與調取可支撐創造力的存儲模式，我們無法歸納出這些關鍵的實際局限性。

此外，當我們以創造性思維思考問題時，我們可以花點時間去琢磨這個問題，在思考的過程中慢慢梳理，在推理階段實時優化我們對該問題的表征，最終達到這樣的效果：哪怕把問題擱置一晚，次日再來處理時，解決這個特定問題的效率也會大幅提升。我敢肯定我們所有人都經歷過這種情況，而這一點，自然是當前的AI系統無法做到的。我當時天真地以為，研究持續學習的人肯定會一窩蜂地關注這個方向，但當我開始查閱相關文獻時，卻發現并非如此。持續學習的核心關注點，說白了，是防止災難性遺忘，而非隨著時間推移對模型性能進行優化提升。此外，它更側重于事實、技能以及諸如此類的內容，而非這些底層表征的質量。綜上，再考慮到創造力不過是實現類人AI的諸多障礙之一這一事實，我確實認為，我們仍有很長的路要走。

話雖如此，我在此還是要表達一番謙遜之意——這些都只是假設，我認為我們需要實證驗證。我們正在開展自主的實證實驗，試圖驗證AI是否具備開展類人型AI研究的能力。我們正在開展這類長周期實驗，在實驗中我們會給AI智能體劃撥數千美元左右的預算用于開展實驗，給它一個研究課題來推進。我們的資料來源于人們在NeurIPS截稿期前后提交、尚未上傳至預印本平臺的論文，而且我們組建了一支由人類評審員構成的團隊，這些評審員已針對該問題進行了數月的深入研究，同時他們尚未將相關內容存入歸檔庫，因此不存在信息泄露或數據污染的風險。我們正嘗試做出一些差異化設計，尤其是設置了一定程度的開放式問題，這樣我們就能切實測試這些AI智能體運用判斷力與創造力的能力。我們將很快公布詳細研究結果。

這項工作的基礎是我們所說的開放世界評估。我們就此發表了一篇論文，實際上已經完成了一項開放域評估，內容是讓智能體構建應用并將其上傳至蘋果應用商店。這和遞歸式自我提升無關，但它測試的是另一種不同的內容。這是一支實力強勁的團隊，成員來自多所高校、數家企業，以及UK AI安全研究所。

06

當前模型已足以支撐經濟變革，

但方式另類

接下來，我要談一談這四個維度中的第三個：具備經濟變革性的AI。我再次強調，這些都是相互獨立的維度，在某一個維度上取得進展并不意味著在其他維度上也會取得進展。當談及能夠帶來經濟變革的AI時，我有一個或許頗具爭議的觀點：當前的模型已經基本足以支撐能夠帶來經濟變革的AI。即便各大企業如今莫名其妙地停止發布模型，這場工業革命的影響也幾乎是板上釘釘的事。

很多人會說AGI已經到來了，而我也確實認同這一說法。考慮到我在演講第一部分對經濟快速影響所表達的懷疑態度，這一點或許會讓你感到意外。但并非如此，這實際上不僅與我此前的表述一致，更是對我在第一部分所闡述內容的重述。我剛才說的是，障礙出現在下游環節，因此模型的改進不會迅速改變經濟狀況。但同理而言，障礙實則出現在下游環節——即便不對模型進行優化，這些障礙也會逐步得到解決。沒錯，這或許需要數十年時間，但我們終將達成目標，而其帶來的影響將堪比工業革命級別的變革。

目前存在諸多阻礙：可靠性仍是有待解決的阻礙之一，還有整合問題——將AI模型接入各類現有系統從而高效驅動各項業務運轉；醫學、法學及其他各類專業領域中需要納入這些AI模型與系統的隱性知識；在很多情況下，監管條文始終僵化不變，禁止當下的AI系統以能產生實際價值的方式得到應用——而且在很多情況下，出臺這類監管規定是有充分合理依據的。但要實現推廣落地，就必須對其作出調整。但核心要點是：這些問題并非能在實驗室里得到解決。它們不會在周二發布的下一版模型中得到解決。這些問題會在數十年的時間里通過技術擴散逐步得到解決。

這也引出了一個政策層面的觀點。當前不少國家都在全力投入AGI競賽，認為這和當年的曼哈頓計劃類似——率先達成某項能力里程碑的企業或國家，就能收獲對應的經濟回報。我覺得這種想法很荒唐。根本不存在什么特定的能力里程碑來充分釋放所有這類經濟潛力——其經濟潛力已然具備，這完全取決于我們所采取的所有這些下游行動。它不受能力門檻的限制。

現在來談談這四個維度中的最后一個：超級智能。我在文中所述內容的精簡版有三點核心主張。第一，遞歸式自我提升并不能讓我們達成目標——這些障礙是外在的。我之前舉了醫學試驗或攻克癌癥的例子——治愈疾病的難點甚至未必在于候選藥物的研發，而在于臨床試驗通常需要耗時10到15年，才能在數千人身上完成測試。超級智能的瓶頸源于外部因素，這便是一個例證。不妨再想一下天氣預報——你會覺得遞歸式自我提升會催生出超級智能，讓我們能夠精準預測一年之后的天氣情況嗎？由于混沌理論等相關原理，我們知道這在數學層面幾乎是不可能實現的。有數量多到超乎預期的任務與天氣預報類似，本身存在固有局限，而我們目前基本已經觸及了這些局限。

第二點，即便在我們尚未觸及這一極限的任務中，那種認為未來會出現AI超級智能、進而讓人類變得可有可無的觀點，本身就建立在對人類智能的根本誤解之上。在絕大多數任務中，我們的任務執行表現并不受自身生理條件的限制，它在很大程度上受限于我們的認知水平與所用工具。有個很貼切的思想實驗：假如讓一個二十萬年前的人穿越到今天，我會說我們和他相比，算得上是超級智能了。這并非因為我們的生理機能更優越，而是因為他們無法受益于我們積累的所有經驗教訓，也無法使用我們掌握的各類工具。而AI正是這樣一種工具——AI領域的進步實際上是在提升人類智能，而不僅僅是提升AI自身的智能。所以當前的局面本質上是一場競賽：一方是借助AI增強能力的人類的表現，另一方是獨立運行的AI系統的性能表現。我們完全可以確保自己成為未來的超級智能，贏得這場競賽，而不是任由AI系統以會威脅我們未來、動搖我們掌控權的方式自行其是。

很多人對此持悲觀態度，他們會舉出一個思想實驗為例：未來將由AI運營并持有企業。他們會說，如果AI系統無法對齊，想想所有可能發生的糟糕事吧。AI可能會變成回形針最大化者——這是你大概率聽說過的一個思想實驗。而我們的看法則截然不同：不妨設想這樣一個未來，AI真正擁有并自主運營各類事物，公司負責人員的招聘與解雇，這件事本身就自帶相當強烈的反烏托邦色彩。

無論該AI是否對齊，都無關緊要，這對人類尊嚴、民主治理等方方面面造成的后果已經是災難性的了。那種“將其視為必然會到來的未來，只能寄希望于對齊來解決”的論調，恕我直言，在我看來這種爭論是在損害安全，而非維護安全。我們需要付出大量的艱苦努力來確保我們不會以這種不負責任的方式部署AI系統，但我確實相信我們能夠實現這一目標。我們需要政策的支持，需要借助政治手段，這注定會困難重重，但我們絕不能在斗爭尚未開始之前就選擇放棄。

總結第二部分的內容：我梳理了AI的四個不同維度，并且提出觀點，認為將其中某一個維度視作會自動導向另一個維度的看法是完全站不住腳的。目前并不存在某個既能在實驗室中實現、又會帶來顯著經濟或社會影響的特定維度。遞歸式自我提升在實驗室中是可以實現的，但它并不會立刻導致人們失業。具備經濟變革性的AI終將到來，但這并非源于下一次模型發布，而是源于一系列會逐步發生的變化——在接下來的幾十年里。我們的能力與主觀能動性不會因為某家AI公司在實驗室里決定要做的某件事就讓我們所有人都失業。確實存在一些需要擔憂的風險，情況即將發生改變，但我們能夠主導AI的部署方式，而這一進程將在數十年間逐步推進。這就是我持謹慎樂觀態度的原因所在。

07

“劃船”的隱喻，從建造轉向評估

好，接下來我用最后十五分鐘來談談事情的另一面。我確實認為很多事情都將發生改變。我先從一個相當淺顯的觀察說起：在很多情況下，純技術技能會貶值，因為純技術技能對應的往往是可驗證的任務，而AI將繼續在可驗證任務領域表現得愈發出色。這并非什么新鮮事——例如在軟件工程領域，二十多年前，編程崗位與軟件工程崗位的勞動力需求就開始出現了顯著差異。編程類崗位的核心范疇較窄，僅圍繞編碼、調試這類技術技能展開；而軟件工程類崗位則需要負責“決策-執行-交付”三層架構的全流程。因此，對此類能力的需求一直在增長。

我反復觀察到一個模式：大家的精力正從搭建系統轉向評估系統。正如我之前提到的，我帶領一個團隊開展AI智能體評估工作，我們發現評估工作的自動化難度遠超預期。這需要極強的判斷力。最棘手的部分在于，你根本搞不清究竟該對哪些內容進行評估。這需要極強的領域針對性，因為我們目前已有通用型智能體，因此能力會逐次提升，這會在法律場景、新聞場景或是其他任何場景中催生對評估的需求。因此久而久之，最終會形成一種“一次構建、隨處評估”的模式。而且你還需要對用戶進行建模等工作。

這并非否認AI在評估領域存在重要應用，而我們也確實已經有了相關實踐。但關鍵在于，這不僅難以實現自動化，AI智能體評估領域的專業化程度也已足夠高，以至于從事評估工作的人員與團隊，和打造、推動AI智能體前沿技術發展的人員與團隊，正逐漸分道揚鑣。

這背后有幾方面原因。模型顯然是函數，而智能體則具有穩定性，這意味著我們慣用于評估模型的諸多方法，在人們試圖直接將其套用于智能體評估時，根本無法奏效。因此，這個新興社區正在圍繞如何對智能體進行嚴謹評估，形成一套全新的最佳實踐方案。

我想用一個隱喻來幫助我們理解我所看到的社區正在發生的廣泛轉變——從“建造”轉向“評估”。這個隱喻是關于劃船的。試想一下，在過去，大多數船只都是劃艇，人力或團隊的工作就是靠體力來推動船只前行。當時并沒有專門負責操船的獨立崗位——劃船的時候，你同時也在琢磨該往哪個方向劃。但當引擎問世、船舶的物理航行可以交由引擎驅動之后，又發生了什么呢？人類的工作崗位并沒有消失。事實上，它們的專業化程度大幅提升。現代船舶配備的控制面板極為復雜，可能還會增設數十種不同的專業崗位，各司其職，專注于船舶的航行目的地與航行路徑規劃。

我認為我們正見證一場類似的轉變：過去我們所有的工作都圍繞著搭建展開，不需要為評估設置單獨的角色。隨著時間推移，情況如今已經發生了改變。我們目前仍處于這一進程的早期階段，但我相信未來會逐步有所改觀。由于構建工作本身是一項可驗證的任務，越來越多的相關工作將能夠由AI完成。而真正難以被自動化替代的，恰恰是評估工作——是明確我們作為一個社群應當前行的方向，是厘清AI系統應具備哪些理想特性的過程。因此，社區將不得不把更大比例的注意力放在評估工作上。

在這場轉型中，有些事或許會讓我們感到難過。比如說，在賽艇運動中，所需的體能曾是至關重要的，而這正是我們過去十分看重的一點。而現在，我們或許會感慨這么一個事實：如今只剩一堆AI相關的內容，我們再也不需要體力了。同樣，在如今的AI領域，對系統具備深入的技術理解有著極高的價值——這正是極具價值的核心所在。而我認為，或許在未來，與運用判斷力以及所有這類模糊能力相比，上述能力的重要性將會下降，這類能力在當前AI領域的地位尚且不高。在我看來，這或許是一種我們尚未做好充分準備的思維轉變。而且我覺得我們很多人都會為此感到難過，這沒什么大不了的，但我確實認為這是一次真正的轉變，且會產生切實的影響。

一個實際的推論：想想這樣的學術會議。會議應當將多大比例的時長分配給評估類論文？我也說不準，但我覺得可能會比現在多得多，大概能占到一半左右——這個數字比當前的規模要高出好幾個數量級。或許你還沒做好接受這個數字的準備，但我認為，我們至少需要一條專門的評估賽道。NeurIPS確實有這樣一個特點，而且它的受歡迎程度一直在不斷提升，我認為這是一件好事。

我還要更進一步地說：對AI系統進行審慎評估本身就是對齊（alignment）的一種形式。這并非要對AI系統本身進行對齊，而是要讓整個社區形成共識：厘清我們當前的發展方向與預期的目標方向，并努力讓二者彼此契合。如果對評估環節重視不足，我擔心——再借用一下船舶的比喻——整個社群會變成一艘沒有舵的船：它的威力極為強大，但我們卻無法共同掌控究竟要研發怎樣的AI。而且我覺得那會是件相當遺憾的事。

08

科學的本質不是解題，

自動化同行評議是陷阱

由此類推，我認為我們評估AI研究本身的方式必須做出改變。今天上午已有一篇立場論文討論了此事，我在其中僅承擔了少量工作。用一句話簡要概括：我們不能再將基準測試奉為衡量AI研究價值的唯一終極標準。基準測試能為我們帶來的核心價值是效率——我們無需花費數年時間對論文進行同行評議，它的表現遠超當前最優水平，我們知道這是一篇優秀的論文，這很好。但遺憾的是，它所造成的后果是窄化了整個行業共同體的集體視野——我們正在路燈下方展開搜尋，在以基準測試為導向的評估體系中，我們所搜尋的都是易于檢索的內容。我認為我們需要突破這一局限。這意味著評估一篇論文的質量將會變得成本高得多。遺憾的是，這是我們不得不付出的代價。眼下，整個社區正急于朝著相反的方向推進。

人們很容易萌生將同行評審自動化的強烈念頭。恕我直言，我覺得這是個陷阱。如果我們將同行評審自動化，從根本上來說，我們作為一個學術共同體，就放棄了對共同體發展方向這一問題的掌控權。要是我們真這么做了，那你說，我們這到底是在干什么呢？我認為這顯然是對精力的根本性錯配。當然，我也承認智能體在同行評審流程中確實能發揮一定作用，尤其是可以將其中繁瑣的環節自動化，從而釋放人力，讓人們能把時間投入到需要大量主觀判斷的環節，開展更深入的思考。

將AI研究領域的結論推廣到整個科學研究范疇來看，當前諸多將AI應用于科學領域的嘗試，以及借助AI實現科學自動化的種種構想，似乎都建立在一個根本性的誤解之上，即誤以為科學的核心要義就是解決問題。而如果我們能夠借助AI直接從問題抵達解決方案，我們就能實現科學研究的自動化與加速。我認為這是對科學本質的一種誤解。

人類的認知理解并非某種可以通過自動化消除的摩擦——這一點至關重要。這是我們從事科學研究的核心宗旨所在。而倘若我們喪失了人類的認知能力，我們會失去所有由此衍生而來的事物。因此我的預測是：如果我們要在科學領域進一步推廣AI智能體的應用，就會出現專門用于解讀這些AI解決方案、并從中提煉出人類可理解的認知的全新工具與全新崗位，因為保留人類層面的認知是至關重要的。

我對企業也有一個類似的建議。企業界不少人都表示，“評估已然成為新的IP”——這一點我就不展開細說了，但核心在于，這本質上是同一類現象再次上演：行業的精力投入不再單純集中在搭建環節，而是更多地向系統評估環節傾斜。

如果說這場分享你只能記住一件事，我希望那就是這一點：無論在何種情況下，看起來AI所做的，就是在可驗證任務可由其處理的前提下，轉移了一部分工作負擔——也許并非全部，但至少有一部分工作負擔被轉移了。從搭建到評估，從劃動小船到掌舵艦船、駕駛艦船，再到明確我們究竟想要去往何方。而且我認為，這是一個極具說服力的隱喻，能讓我們在未來一二十年里，預判人類角色將發生轉變的種種方向。

09

“共同超級智能”——第三條路

最后，讓我花幾分鐘談談我個人如何在這個挑戰中掙扎。我相信在座很多人也在思考AI能力在自己研究流程中飛速提升這個現實。每個人應該選擇自己的道路，但希望我的思考能給你一些啟發。

首先，AI的“地板”確實在快速上升，我指的是AI僅憑自身就能實現的能力。但與此同時，我認為其能力的“上限”也在不斷提升，我指的是AI通過拓展我們的能力邊界，讓我們能夠去承接此前在AI出現前根本無法實現的富有挑戰性的全新項目。但上限并不會自動提升，唯有我們著力抬升它，方能實現。我發現自己每周差不多要花十個小時左右，僅僅是在學習和嘗試新的工作流程，同時也在學習新的相關內容。

一種理解方式是：AI能夠大幅提升生產力。我一直試著把省下來的時間重新投入到長期成長以及學習新的互補技能當中。這意味著要在短期生產力與長期增長之間實現最優平衡——這一變化正是由AI推動的。而我慢慢摸出了一個規律：忙完一整天的工作之后，如果我并沒有精疲力竭的感覺，那我就知道自己肯定哪里做得不對了。我已經把太多工作都甩給AI了，我為了追逐短期利益，已經犧牲了太多自身的長期成長空間。我知道這并非長期而言的理想最優平衡狀態。

增長與生產力這兩個要素，就好比是三條腿凳子中的兩條，而我們需要學會如何讓這把凳子保持平衡。第三條腿就是始終掌控局面。為實現這一目標，我嘗試過兩種方法，也可以說是兩種啟發法。首要原則是抵制“黑箱”誘惑。企業希望我們將智能體當作黑箱來使用——只需給它下達提示，它就會自行運行并完成任務。我覺得那是個陷阱，非常危險。長此以往，這會導致我們逐漸喪失掌控權。第二個概念，我將其稱為“依賴螺旋”（dependence spiral）。當我用AI處理那些我自己尚且算不上專家的任務時——這實在太有誘惑力了，畢竟學習新事物本就絕非易事——長此以往，我做那項工作本就不多的那點技能都會慢慢退化。而且我發現那是非常危險的。如果我先花時間親自把這項任務吃透，再借助AI來提升工作效率，效果會好得多。

所以我覺得這整個過程都不容易。但我認為，如果我們能把這件事做對，我們所暢想的愿景就是“共同超級智能”（co-superintelligence）。我指的是：我們可以確保未來的超級智能并非自主運作的AI系統，而是借助AI力量得到增強的人類。

人們常把計算機稱作“思維的自行車”。我覺得AI的潛力不止于此——如果你愿意稍稍容我打個比方，它就好比“心靈的起重機”，能夠將我們的潛力提升到此前難以想象的高度。這一切可能看起來都十分棘手，學習曲線極為陡峭，我覺得自己一直像在跑步機上原地打轉，永遠沒法往前推進。但我對此感到無比興奮，我覺得這是個很有意思的挑戰，而且和五年前相比，現在值得為這件事全力以赴。

某種程度上，我覺得自己或許算得上超級智能——或許這么說不太準確，AI能讓我去嘗試從前根本做不到的全新、有挑戰性的事，還能推著我不斷突破極限，這種感覺就像我擁有了超能力一樣。比以往任何時候都更有可能，而且我認為，即便在可預見的未來AI能力不斷提升，我們也能確保這一態勢得以延續。或許在遙遠的未來，這件事會變得無從著手，但現在就放棄抗爭還為時過早。我當然會繼續為此奔走努力，也由衷希望能朝著“共同超級智能”這一愿景不斷邁進。

也希望你能與我同行。

10

Q&A

提問者：你之前提到我們應當加大評估研究的力度，但對于如何搭建更具條理的工作機制，你有什么想法嗎？要找出我們應當重點關注的最優評估方向。因為我覺得現在很多評測之所以能火，往往是因為推特上放出了某張相當震撼的圖表，或是某個前沿實驗室決定采用它。你覺得我們要怎么做，才能建立一套更有條理的方法，找出真正值得聚焦的最優評估方向？

Arvind Narayanan：我簡單快速說兩句。我認為圍繞評估領域形成了新的社區關注焦點，比如還出現了專門的“評估之評估”社區，這是件好事。因此，人們確實在努力梳理哪些標準和評估環節才是真正重要的。所以我現在沒法給你答案，但我可以給你引薦正在研究這個問題的相關人員和社群。

一個人讀論文太孤單，一群人刷頂會才好玩。

ICML 2026召開在即，我們正在召集一波含金量極高的 AI 研究者。群內主打實時論文跟蹤與硬核技術探討，拒絕灌水。

進群傳送門：掃碼進群或添加微信Vin_Vivid，備注：論文群 + 關注的 AI 方向。

搞科研/搞技術，信息差很重要。

來，一起快人一步！

上車，帶你看遍全球 AI 頂會精華

可獨家暢覽：

專家演講PPT

大會報告全文

熱門論文解讀

學術新星訪談

未經「AI科技評論」授權，嚴禁以任何方式在網頁、論壇、社區進行轉載！

公眾號轉載請先在「AI科技評論」后臺留言取得授權，轉載時需標注來源并插入本公眾號名片。