從芯片卷到世界模型，AI推理正在成為硅谷的新賭注

Ivy Lab 硅谷特輯，探索宇宙邊界。

Ivy Lab是常春藤資本發起的小規模閉門研討，聚焦深科技與 AI 的前沿議題。

這個六月，Ivy Lab 來到了硅谷，兩周時間從伯克利聊到斯坦福，對話更貼近產業落地的話題。新物種Sinovum也來到了現場。

本期的交流嘉賓，來自硅谷技術最前沿的一線：他們來自Google、NVIDIA、Tesla、xAI、Meta、Thinking Machines、Cerebras等頂級科技公司的研究員與工程師，Stanford、UC Berkeley博士，以及當下硅谷最受矚目的數家明星創業公司的核心成員。

其研究與實踐方向，覆蓋晶圓級 AI 芯片架構、推理與后訓練基礎設施（含全球頂尖開源推理框架的核心貢獻者）、世界模型與計算機圖形學、Tesla 的硬件量產與 Robotaxi、AI 制藥與表型建模、傳感神經科學等。

本次整理是沿一條產業鏈自下而上來看：芯片 → 推理基礎設施 → 機器人的大腦（世界模型）→ 物理本體的落地 → 科學應用。

本文由硅谷現場交流的觀點總結，結合公開資料獨立分析整理，文中嘉賓均做匿名化處理。

Key Takeaways ：

• 推理正在從訓練的附屬環節，逐步成為一個可被一級和二級市場單獨定價的基礎設施品類，Cerebras 完成 IPO、英偉達收購 Groq，都是這一遷移的注腳；

• 推理基礎設施或將成為下一個熱點，下一輪基礎設施建設的重點在于服務模型，而不是訓練模型。

• 把語言模型的概率范式遷移到需要物理精確性的世界模型，可能需要重新審視其訓練方式，真實世界對誤差的容忍度，是分場景、分尺度的；

• 物理世界的落地瓶頸集中在長尾與魯棒性，而非平均表現。在相當長的時間里，人仍是處理極端情況成本最低的一環；

• 在 AI for Science，模型層的邊際價值在下降，能夠對齊、能夠持續生產的高質量數據，正成為更關鍵的壁壘。

01.

芯片層：HBM 的延遲悖論

推理，而非訓練，正在成為下一階段的競爭重心；即便是訓練時代的主導者，也更傾向于通過收購獲得推理能力，而非自建。

判斷一個方向是否進入產業拐點，資本配置是較硬的信號。今年上半年，AI 芯片層發生了幾件值得連起來看的事：Cerebras 在五月完成 IPO（估值約500億美元），英偉達以約 200 億美元收購了主打低延遲推理的 Groq，Intel 也傳出收購 SambaNova 的意向。我們傾向于把它理解為同一個遷移：推理，而非訓練，正在成為下一階段的競爭重心；即便是訓練時代的主導者，也更傾向于通過收購獲得推理能力，而非自建。

這一層我們也拜訪了一家做晶圓級芯片的公司，它讓我們對 HBM（高帶寬內存）有了更克制的認識。市場的注意力高度集中在三星 HBM 的份額與良率上，但從架構第一性看，HBM 解決的是帶寬，代價是延遲。

AI 推理真正需要的是帶寬與低延遲兼備，而低延遲這一半目前缺乏低成本的供給，于是行業先用高帶寬方案承接了需求。換言之，HBM 更像是被這一輪需求臨時匹配上的既有技術，而非終局。這也是為什么存內計算、近端 SRAM、光互聯等路線仍有結構性機會，盡管各自都有明確的約束。

更值得記下的，是對英偉達護城河的一個再認識。它的優勢并不只在單卡性能，而在于一套降低客戶使用門檻、并保證生態兼容的系統：一方面主動適配學術界層出不窮的新架構（從 Transformer 到 Mamba 到各類混合結構）；另一方面維護從數據到訓練代碼的開源工具鏈，讓那些擁有數據但不愿外傳（如法律、醫療）的客戶，能夠在自有數據上完成微調。

真正的壁壘是"讓買了卡的人能立刻把卡用起來"這件事本身。 對挑戰者而言，這意味著競爭焦點不在峰值算力，而在能否在某類具體推理負載上把總擁有成本（TCO）做到更優、且被現成軟件棧充分利用。

02.

推理基礎設施：被低估的工程門檻，與兩種分化的商業模式

它們靠推理賺錢，而整個市場的方向卻是推理越來越便宜。誰能在單價持續下行的同時，靠規模、效率與粘性把毛利守住，誰才算真正建立了生意，而不只是踩中了風口。

往上一層，是把算力變為可調用服務的推理基礎設施。這一層近一年增長顯著，Together、Fireworks、Baseten 的年化收入與估值均有數倍躍升，但增長本身并非洞察。它背后是一條結構性順風：推理預計將占 2026 年 AI 算力的約三分之二，而 2023 年這一比例還只有約三分之一。對于這一層我們有兩個觀察：

其一，這一層的工程門檻被顯著低估。表面上它與早年的云服務相似、門檻不高，但為什么擁有海量算力與人才的大型云廠商，反而難以做好自家的推理與小模型服務？

我們的理解是：這類能力的核心是工程經驗，是把大規模集群中低頻、難復現的問題穩定下來。它對有經驗的團隊近乎"一點即通"，對缺乏經驗者則難以靠堆人堆卡補齊。關鍵在于，這種知識不隨人頭與資本線性增長，這正是大廠的資源優勢在此處失靈的地方。

后訓練（尤其強化學習）在工程上比預訓練更復雜：推理與訓練兩條鏈路同時運行，疊加精度對齊、與沙盒或模擬環境交互等問題，模塊更多、調試更難。這也解釋了為何這類團隊不甘心只做推理，而要把訓練、微調、強化學習一并納入一個端到端平臺，它們在主動占據這一層最難、因而最難被替代的工作負載。占住最硬的那塊，是它們對抗"被商品化"的核心策略。

還有一個有趣的觀察，目前推理基礎設施這一層最具競爭力的團隊，多數從開源推理框架的核心貢獻者中長出。幾支主流開源推理引擎背后的團隊，近一年幾乎沿同一路徑完成了商業化。開源貢獻度本身既是壁壘，也是最早的客戶來源：當一套引擎已經在為多家頭部科技公司每天跑萬億級 token，商業化往往只是把免費用戶轉化為付費托管。

其二，商業模式的分化決定了不同的命運。純粹按 token 或 GPU 時長計費，規模化快，但定價權薄；而面向企業的私有化部署與定制，用自有數據做后訓練、交付可定制環境，更重、更慢，卻因切換成本高而更具粘性。

這種粘性的本質是：模型可以換，但一旦把產品的流量、延遲、擴縮容與成本控制整套系統圍繞某一服務棧調優好，要拔出來重做就極難，換言之，基礎設施的選擇比模型的選擇更"永久"。

但即便是粘性更強的一端，毛利也長期承壓。這一層實際上夾在三面之間：下方是持續降價的算力，上方是持續自研、隨時可能把推理收回自己手里的超大廠（Bedrock、Azure Foundry等），側面還有前沿模型 API 降價、不斷收窄開源方案的成本優勢。其結果是，這類公司的毛利普遍在 50% 上下，明顯低于訂閱軟件 70% 以上的水平，因為 GPU 成本直接壓在成本里。

這構成了這一層最根本的悖論：它們靠推理賺錢，而整個市場的方向卻是推理越來越便宜。誰能在單價持續下行的同時，靠規模、效率與粘性把毛利守住，誰才算真正建立了生意，而不只是踩中了風口。

03.

世界模型：當概率范式遇上需要精確性的物理世界

復雜工具的圖形界面正逐漸被視為 AI 直接理解底層函數的障礙，"無界面（headless）+ 由 code agent 直接調用底層接口"的形態，或將成為系統層迭代更快的方向。

這一層是我們這次討論最深、也最能與第一期接續的部分。拋開"有哪幾條技術路線"這類已被充分討論的問題，我們更關注一個更本質的疑問：語言模型賴以成功的概率范式，能否、以及在多大程度上，遷移到物理世界模型？

一個值得認真對待的觀點是：語言模型通過"預測下一個 token"學到的，是一個被人類反復抽象、壓縮過的符號世界；而物理世界模型面對的是連續、高噪聲、且對精確性有要求的真實信號。

按概率分布去擬合，與真實物理的生成機制未必一致，因此直接照搬大語言模型的訓練方法來訓世界模型，可能需要調整。這一點與第一期"語言是被壓縮過的半成品世界模型，運動控制沒有這層福利"的討論一脈相承：純像素或純幾何的"還原"，未必等于"理解"，理解一輛車，不只是知道它的三維形狀，還要知道它會運動、會遵循何種物理。

由此引出兩個更細的判斷。其一，對精確性的要求是分場景、分尺度的。在遠離人體、容錯較高的場景，"夠用"即可；但在貼近人的場景（手術、用藥、臨床），以及任何有合格判定的工業制造中，對精度的要求陡然上升。這意味著世界模型的落地，應優先選擇那些"對精度的要求與當前能力相匹配"的場景，而非一上來就挑戰最難的部分。

其二，泛化的邊界仍不清晰。一個在工程師群體中相當普遍的體感是：模型在很大程度上"喂什么會什么"，局部泛化可以期待，但跨場景的強泛化尚缺乏可靠證據，耗費大量精力構造的高精度數據，往往在訓練分布內有效，換一類場景便難以外推。如何彌合這一外推的鴻溝，可能是世界模型走向通用的關鍵，目前尚無共識答案。

最后是一個偏架構的趨勢，值得創業者留意：圖形引擎沉淀了二三十年高度結構化的三維世界數據與物理規則，是世界模型有價值的數據來源之一；但把高保真的實時神經渲染部署到端側，目前仍受算力約束（最前沿的實時擴散渲染推理代價依然很高），短期內更可能停留在離線或云端。

與此同時，復雜工具的圖形界面正逐漸被視為 AI 直接理解底層函數的障礙，"無界面（headless）+ 由 code agent 直接調用底層接口"的形態，或將成為系統層迭代更快的方向。

04.

物理本體的落地：長尾、魯棒性，與"現場主義"

大腦再強，也要裝進本體、跑在真實世界里。這一層最值得記錄的，是落地瓶頸的性質：它集中在長尾與魯棒性，而非平均表現。

大腦再強，也要裝進本體、跑在真實世界里。這一層最值得記錄的，是落地瓶頸的性質：它集中在長尾與魯棒性，而非平均表現。

無論是進入無 GPS 信號區域便難以定位的城市/室內無人機，還是需要在固定接駁點精準操作的物流場景，其工程要求往往是"十萬次不允許一次失誤"。而現實是，即便同時具備 GPS 與視覺的成熟系統，也難以達到這一量級的可靠性，強陣風、惡劣天氣、強光眩光乃至人為干擾，都可能導致失效。

這與自動駕駛長尾問題同源。一個我們認同的判斷是：在相當長的時間里，人仍是處理極端情況成本最低的一環；因此具身智能更現實的價值，短期內在于把人從枯燥、危險的環節中替換出來，并保留人來兜底長尾，而非追求完全自主。

制造端則印證了"現場主義"的價值。把硬件做到大規模量產，難點通常不在設計，而在執行：讓一線工程師擁有足夠的決策權、以第一性原理而非歷史經驗來推動判斷、并在問題出現時第一時間到現場。因為脫離現場的指揮往往基于失真的信息。一個細節頗具代表性：同一處故障，照片所示與實物相差甚遠，單個偏差尚可忽略，多個偏差疊加便會演變為難以歸因的復合問題。

05.

AI for Science：模型的邊際價值在下降，數據成為更關鍵的壁壘

當下的概率模型是否真正捕捉到了生物本質？在公開評測上取得好成績，與在機理上具備可解釋性，并不等同；可能的出路指向臨床、結構與組學的多模態數據對齊，但其數據規模門檻極高。

走到科學應用層，我們一個較為明確的體感是：模型層的邊際價值正在下降，數據成為更關鍵的壁壘。當頭部基礎模型已足夠強、且大型藥企開始與模型廠商直接合作時，再在通用模型層投入的邊際回報有限；競爭的焦點正轉向數據，它為模型提供準確性，且更難被快速復制。

今年初，多家機構聯合構建大規模擾動單細胞數據集（量級達上億細胞、數十萬次擾動），其公開表述正是"高質量、高通量的擾動數據仍然稀缺"；而面向全球的虛擬細胞建模競賽，本質上也是在用一場公開評測，推動"數據驅動模型準確性"的飛輪。

但數據路徑存在一個結構性約束：可擴展性受限于場景的同質性。以表型模型為例，把臨床真正關心的指標作為下游預測任務，對藥物篩選與患者分層價值很高，但不同適應癥之間的表型差異，使得擴展往往只能在單一適應癥范疇內進行，難以橫向遷移。

這與第一期"通用與好用之間的權衡"在醫藥領域的對應。更深一層，則是第一期那個哲學問題的回響：當下的概率模型是否真正捕捉到了生物本質？在公開評測上取得好成績，與在機理上具備可解釋性，并不等同；可能的出路指向臨床、結構與組學的多模態數據對齊，但其數據規模門檻極高。

如果說第一期討論的是"AI 能否通向 AGI"這一偏理論的問題，那么這一次在硅谷，則更多是在觀察它落到產業鏈每一層時所面對的具體約束。把這條自下而上的縱切串起來，有幾個問題或許值得放進任何一個 founder 的思考框架：

• 你所處的環節，真正的壁壘是"能否做到"，還是"是否積累了足夠的工程經驗與踩坑"？

• 你交付的能力能否在新場景下復用，還是每換一個客戶都需要重新構造數據、重新訓練？

• 如果你做模型，模型層的邊際價值是否已在下降，你真正的數據飛輪在哪里、能否對齊？

• 你要解決的任務，更接近"可壓縮、能泛化"，還是充滿了低頻而高代價的極端情況？

主要公開數據來源：

Cerebras IPO 與 AI 芯片并購（Fortune）；

Together / Fireworks / Baseten 收入與估值（Sacra；The Information）；

世界模型相關進展（公開報道）；

大規模擾動單細胞數據集與虛擬細胞建模競賽（Arc Institute；Tahoe）；

閉環記憶調控與可穿戴監測研究（NCBI/PMC）。

排版運營 / Teagan

- End -