英偉達挑戰者Etched創始人談如何打造「前沿推理集群」

6月30日，AI推理芯片創業公司Etched周二正式“走出隱身模式”，宣布其首款芯片已在臺積電（TSMC）N4P制程上實現首次流片成功，并已進入客戶驗證階段。公司稱，圍繞這款芯片打造的完整推理系統已獲得超過10億美元的已簽署客戶合同，目前正在加速量產，以滿足市場需求。

Etched成立于2022年，總部位于美國加州圣何塞，定位為英偉達AI芯片的重要挑戰者。與只銷售單顆芯片不同，Etched主打一整套面向前沿大模型的frontier inference clusters（前沿推理集群）。該系統包括自研AI芯片、定制機架、互聯、軟件和配套基礎設施，目標是讓前沿模型在推理環節運行得更快、成本更低、能效更高。公司表示，其系統目前已可運行DeepSeek、Qwen、Mamba、Llama等模型，并設計為支持各種形態、任意大參數規模的模型。

隨著AI加速嵌入各行各業，推理正成為AI公司規模化服務客戶時最大的瓶頸和成本中心。Etched的核心判斷是，除非推理基礎設施在速度、成本和供給上實現數量級改善，否則前沿AI難以充分釋放經濟和社會價值。

公司同時披露，成立不到三年，已通過多輪此前未公開融資累計募集8億美元。最近一輪融資為去年12月完成的5億美元融資，投后估值達到50億美元。投資方陣容包括VentureTech Alliance的戰略投資，以及Peter Thiel、Jane Street、Hudson River Trading、Jump Trading、Two Sigma、Stripes、Ribbit Capital、Radical Ventures、Primary VC、Positive Sum等機構和投資人。AI領域重量級人物也參與其中，包括Andrej Karpathy、Geoffrey Hinton、李飛飛、Stanley Druckenmiller、Arthur Mensch、Scott Wu等。公司稱，此輪融資也體現了其與全球領先半導體制造商之間更深層的代工合作關系。

Etched正在圍繞機架級系統推進規模化生產。公司已在中國臺灣地區設立工廠，并在圣何塞總部建設了數據中心、測試中心和NPI原型實驗室，將設計、驗證和生產環節整合在同一體系之下。公司表示，其目標是在2027年邁向吉瓦級規模。

近日，Positive Sum CEO、播客Invest Like the Best主播與Etched兩位創始人Gavin Uberti和Robert (Rob) Wachen進行了一番對話。Positive Sum也是Etched的投資人之一。

訪談內容基本可以總結為以下幾點：

1. Etched認為，AI推理將成為比訓練更持續、更龐大的市場。

2. 公司不只做芯片，而是打造面向前沿模型的完整推理集群。

3. 現有GPU等芯片架構并不是為新一代大模型推理專門設計的。

4. 推理的核心瓶頸在于Prefill階段的算力和Decode階段的數據移動。

5. Etched通過低電壓設計提升有效算力，并降低功耗與發熱。

6. 公司通過自研互聯和集群級內存架構提升Decode效率。

7. Etched更關注整機架token產能，而不是單顆芯片的峰值參數。

8. 公司采取高度垂直整合路線，覆蓋芯片、機架、軟件、測試和生產。

9. Rob認為“生產就是產品”，量產和部署能力本身就是核心壁壘。

10. Etched通過極快執行和并行開發，在芯片回片前完成大量系統準備。

11. 公司團隊超過400人，成員主要來自NVIDIA、Broadcom、Google TPU等頂級硬件團隊。

12. Etched早期融資十分困難，2023年幾乎被主流投資機構集體拒絕。

13. 隨著推理瓶頸凸顯，資本市場已轉向追逐AI推理基礎設施。

14. 公司已累計融資8億美元、估值50億美元，并獲得超10億美元客戶合同。

15. 未來AI基礎設施競爭的核心，可能是低成本、高效率的token產能。

16. 長程AI Agent會顯著放大推理需求，尤其是對Decode速度和并發能力的需求。

17. Rob認為，未來GDP增長可能取決于每兆瓦電力能運行多少智能體。

18. Etched接下來仍需證明其量產能力、客戶部署效果和對英偉達生態的競爭力。

Etched聯合創始人兼CEO Gavin Uberti表示，公司很早就意識到，前沿AI將成為有史以來最具經濟意義的技術之一，但支撐這些模型可持續、經濟化運行的基礎設施并不存在。聯合創始人Rob Wachen 則強調，Etched從一開始就是為吉瓦級規模而建設，“生產就是產品”。在他看來，AI基礎設施建設正處于歷史上最大規模的投資周期之一，真正重要的公司將是那些能把技術轉化為可大規模制造、部署和運營系統的公司。

目前，Etched團隊已超過 400人，成員主要來自 NVIDIA、Broadcom、Google TPU、SK Hynix、高頻量化交易公司等曾參與構建當代AI推理系統的機構。Stripes創始人兼合伙人Ken Fox 表示，推理將成為AI最關鍵趨勢之一，而Etched之所以特殊，是因為Gavin和Rob不僅招募了來自NVIDIA、Google TPU和Broadcom的頂尖團隊，也選擇構建完整系統，而不是只做其中一塊。公司自Stripes領投B輪以來推進速度超過預期，目前已進入客戶硬件驗證和性能調試階段。

Etched早期融資并不順利。兩位創始人在播客中透露，2023年，他們拿著一份30頁備忘錄向投資人論證AI最終需要專門為推理設計的芯片，而不能只依賴通用GPU，但當時幾乎所有主要投資機構都選擇拒絕，公司一度只能按月維持運營，接近耗盡現金。

如今，隨著推理成為AI產業的關鍵瓶頸，資本正加速涌向AI芯片和基礎設施公司。Cerebras完成備受關注的IPO；Amazon、Google、Microsoft等云巨頭均在推進自研AI芯片，OpenAI也宣布與Broadcom合作推出首款定制芯片。

Etched正是在這一輪AI推理基礎設施競賽中快速升溫的新玩家。