![]()
作者 |王兆洋
微信 |geisterspiele
你并不總能看到模型公司、機器人公司、行業應用公司和芯片公司們一起坐在一家創業公司的論壇現場。
在移動互聯網時代,這樣的畫面更多屬于英特爾和英偉達。它們提供的是底層計算能力,因此競爭者也愿意坐到同一排。
今天,這個角色開始重新分配。連續幾年 WAIC,我都發現一個有意思的現象。每年都會有一家公司的論壇,能把模型廠商、國產芯片、機器人、行業應用和高校研究者都聚在一起。
它不是最大的模型公司,也不是最大的云廠商。它叫無問芯穹。這種熱鬧本身說明,越來越多人開始把它看成一層新的基礎設施。
今年WAIC,無問芯穹發布了面向Agent時代的完整架構:前店后廠一中心。
![]()
一中心,是算力集散中心;后廠,是 Token 工廠;前店,則是 AI 生產力商店。三者共同組成它所說的 Agentic Infra完整戰略布局。
在AI圈子天天制造的各種“洋氣”的概念里,這幾個詞帶著濃重的工業時代氣息,像一座既有能源樞紐、又有生產車間,臨街還開著商店的產業園區。但無問芯穹聯合創始人兼 CEO 夏立雪對我說,這正是他們要表達的:
今天最重要的是解決那些最落地的需求。它們面對公眾沒那么“顯性”,卻是 AI 要更高效提供價值必須完成的事情,而完成這些事情,需要一套立足于Agent時代,滿足新需求的完整Agentic Infra基礎設施。
![]()
1
前店、后廠和一個中心
無問芯穹把 AI 生產力拆成三個部分:智能資源規模 × Token 轉化效率 × AI生產力轉化效率。
它們分別對應一中心、后廠和前店。
一中心回答的是,如何最大化智能資源規模。后廠回答的是,如何極致提升效率,服務 Token 的規模化與高質量生產。前店回答的,則是這些 Token 如何幫助千行百業降本提效。
這套框架之所以在今天出現,與 AI 使用方式的變化直接相關。
模型不再只回答一個問題。Agent 會規劃、搜索、調用工具、執行,再檢查結果。一次工作背后,可能是幾十次甚至更多模型調用。
今年 7 月,無問芯穹 Agentic MaaS 平臺的單日 Token 調用量較去年12月,增長了約 40 倍。夏立雪說,這些增量主要來自真實產業場景。 AI 開始真正工作之后,基礎設施面對的也不再只是芯片和集群,而是一整條生產鏈。
首先,你要先把算力真正用起來。
中國 AI 產業長期存在一種錯位。一邊,模型和應用公司持續說算力不足;另一邊,一些已經建好的數據中心里,又有芯片沒有被充分使用。寫在紙面上的算力,并不等于模型真正能夠調用的算力。
現實里的資源來自不同地區、不同集群和不同廠商。企業既有本地集群,也會使用公有云;海外 GPU 與國產芯片長期并存,國產芯片之間又有各自的架構和軟件棧。單獨看都能運行,放在一起卻很難成為一臺「大電腦」。
無問芯穹最早做的事情,就是在模型與芯片之間構建一座“橋梁”,讓更多模型能跑在更多芯片上。
現在,這套能力被擴展成“算力集散中心”。
無問芯穹稱,目前其系統已經部署觸達超過 3.7 萬 P 算力,覆蓋 16 種芯片。這個“中心”不是一座具體的數據中心,是把不同的、跨區域的算力資源,高效聚合協同起來,從而擴大智能資源的規模。
它在這次發布中展示了三組結果。
無問芯穹與中國電信把新疆哈密和廣東深圳的兩套異構集群連接起來,完成了國內首例超 4000 公里距離的大模型跨域混訓,聯合訓練性能提升 165%;又將四套不同代際、不同型號的 GPU 集群聚合起來訓練近百億參數大模型,協同性能提升 41%;在另一項測試中,本地私有集群與公有云算力的安全互通混訓,整體性能提升 68%。
跨地域訓練的難點遠不只是網絡連通。任務如何切分,計算和通信怎樣重疊,網絡波動如何處理,節點故障后訓練能不能繼續,都需要在訓練框架、平臺、網絡和芯片之間共同優化。
而最新越來越明晰的強化學習需求,又把問題推得更遠——行業大勢,繼預訓練之后,強化學習訓練已成為解鎖智能體持續進化的關鍵。
與相對穩定的預訓練相比,強化學習需要模型不斷生成、采樣、評估和更新,不同階段使用資源的方式差異很大。任何一處等待,都可能讓大量芯片空轉,當規模擴大到萬卡級后,從顯卡到服務器、網絡、存儲,故障將以小時級的頻率存在。據無問芯穹介紹,其跨域強化學習系統將通信效率提高了三至四倍,通信開銷 100% 全掩蓋,并搭建了故障無感的訓練機制,實現跨域強化學習訓練連續一周 0 中斷穩定運行。 未來,伴隨著大規模跨集群強化學習訓練技術的持續成熟突破,團隊計劃將這套系統對跨域計算資源的支撐規模拓展至十萬卡級以上。
![]()
這些工作真正改變的,是可用算力的定義。一款芯片可以點亮,不代表它已經進入生產;一座數據中心建成,也不代表它已經成為智能資源。只有模型能穩定運行、不同集群能夠協同、已有資源可以被持續調度,智能資源才真正變成生產力。
接下來,是如何極致提升高質量Token生產的效率。
智能資源被組織起來以后,進入“后廠”。后廠生產的是 Token。
在我看來,“Token 工廠”已經是一個被行業反復使用的概念。但夏立雪認為,它是 AI Infra 發展中一次重要的變化,哪怕很多創業公司和大廠紛紛喊出要做token工廠,使得概念十分火熱,但這個概念背后的意義依然重要,因為這意味著人們終于把交付物標準化了。
訓練時代,客戶購買的是 GPU 數量和運行時間。不同模型的架構、數據和訓練方式相差很大,很難用同一套指標評價。推理時代,Token 成為一種相對統一的計量單位。不同模型生成的 Token 能力當然不一樣,但至少可以比較吞吐、延遲和成本。
夏立雪把它比作自來水。水質和來源有所差異,但只要進入管道,產業就能圍繞生產、輸送和計費形成清晰分工。無問芯穹過去一年通過系列技術優化,將推理成本降低了約 10 倍,未來仍有10倍優化空間。
這不是依靠某一項神奇技術完成的。一次模型調用要經過網關、排隊、路由、緩存、顯存管理、模型執行和數據傳輸。每一層都可能堵塞,也都存在優化空間。
在這次發布中,無問芯穹重點展示了跨集群異構 PD 分離架構。
大模型推理可以大致分成兩個階段。Prefill 負責理解輸入,更依賴計算能力;Decode 負責逐個生成 Token,更依賴顯存和帶寬。過去,兩種任務往往跑在同一批芯片上。兩道工序對設備的要求不同,卻擠在同一條生產線上,彼此等待。PD 分離將它們拆開。
跨集群異構 PD 分離更進一步,讓 Prefill 和 Decode 分別運行在不同集群、不同類型的芯片上。更擅長計算的硬件處理輸入,另一類更適合推理的芯片持續生成,系統完成中間的狀態傳輸和調度。它相當于把一座從原料處理到最終組裝全部包辦的工廠,拆成幾個專業車間,再用一套物流系統重新接起來。
這對國產芯片還有另一層意義。一款芯片未必需要在所有指標上都與最強 GPU 競爭。只要它在某類工作負載上足夠高效,就有機會進入大型推理系統,承擔最適合自己的工序。一中心擴大可用資源,后廠提高資源轉化成 Token 的效率。公司在今天的WAIC發布會上表示,經實測,這項技術將首Token延遲(TTFT)降低了51.5%,單Token成本則再降37.5%。
![]()
除了這些符合人們印象中基礎設施企業的工作,此次無問芯穹的新動作其實在讓邊界發生著變化,它要繼續“把手伸向” Token 離開工廠之后的階段。
在這個“前店”的部分,它賣的不只是 Token。
今天人們容易忽略的一件事情是,同樣一百萬 Token,可以被 Agent 用在錯誤的流程里反復打轉,也可以找到一處影響上千臺機器的故障;可以生成大量無人閱讀的文字,也可以完成一段真正投入生產的代碼。成本可能相近,價值卻完全不同。
Token 工廠回答了能生產多少,卻沒有回答生產出來之后做成了什么、能不能幫助千行百業真正降本提效。所以,無問芯穹在工廠前面又開了一家店。
![]()
“前店”在無問芯穹的定義里,就是 AI 生產力商店。但這也是整套框架里最容易引起疑問的部分:一家 Infra 公司為什么開始進入法律、醫療、影視、能源和具身智能行業?
夏立雪的回答很直接:“不和客戶一起做好這塊的話,Token很難變成真的生產力。”
直接服務龐大的企業客戶后發現,企業需要的從來不是 Token 本身。
律所需要一份能在本地安全生產的可使用法律意見,影視公司需要能穩定交付的成片,機器人公司需要機器及時完成動作。模型能力只是其中一環。還要選擇合適的模型,把模型接入工具、數據和權限,處理記憶、工作流、安全和延遲,并在任務失敗時定位問題。
夏立雪把那些沒有產生實際價值的調用稱作“Token 刺客”。
有些簡單任務調用了能力過剩的大模型;有些 Agent 在糟糕的流程里不斷重試;有些工作本來可以在端側完成,卻全部送上云;還有些模型足夠強,卻因為沒有工具和穩定流程,始終無法交付。前店要做的,就是處理 Token 與工作結果之間的損耗。
無問芯穹打造律師事務所專屬 AI 合伙人「律盾芯人」。數據先在本地脫敏,任務交給云端模型處理,結果返回后再在本地回填。敏感信息不直接出域,同時也能通過端側計算減少云端 Token 消耗。
他還介紹了公司與 VAST 的Tripo 3D 大模型聯合打造的 AGENTIC 3D GAME GEN 解決方案,把分散的創意輸入轉化為可執行、可比較、可細化的 3D 模型輸出,高效釋放游戲內容生產力。
在具身智能場景,無問芯穹與自變量機器人聯合優化模型部署,在保持任務成功率的同時,將 Thor 平臺上的端側推理時延從 500 毫秒降低到 70 毫秒;公司也與智元、清華大學攜手,深度探索了真機強化學習訓練的技術與實踐,攻克阻礙真機強化學習訓練大規模落地的核心痛點與難點。
這些案例看起來相距很遠,底層邏輯卻一致:
圍繞最終任務,重新組合模型、芯片、云端與端側資源。
前店因此不只是銷售出口,也是需求入口。進入真實業務,系統才能知道哪一種模型組合真正有效,哪些 Token 沒有產生價值,哪些任務應該留在本地,多高的延遲會讓機器人無法工作。這些信息再回到后廠和中心,改變下一次模型路由和算力調度。
至此,前店、后廠和中心才形成一個閉環。
1
一切都在 Agent 化
發布會前幾天,我又去了一次無問芯穹位于上海模速空間的辦公室。與兩年前第一次來時相比,公司擴展了一層,人也肉眼可見變多了。
但比員工數量增長更快的,其實是他們內部的 Agent。
“我們自己在被AI Agent改造,這些服務Agent的需求,其實很多也是從我們自己日常的需求里延伸出來。”夏立雪說。
Agent 首先改變的是外部需求。
過去,用戶問模型一個問題,模型給出一個答案。Agent 出現后,一項任務會被拆成規劃、搜索、調用工具、執行、檢查和重試。模型從回答問題,變成持續工作。這推動了 Token 用量快速增長,也讓模型路由、彈性調度、服務穩定性和成本控制變得更加重要。
在無問芯穹,Agent 又進一步進入了 Infra 自己的開發和運行過程。
比如,隨著管理的算力規模增加,系統每天產生的日志、告警、工單和客戶問題迅速增長。夏立雪把它形容成“牛吃草”——“我吃的沒它長得快。”運維系統一天可以產生上億條日志。完全依賴工程師處理,增加再多人也很快會被淹沒。
于是,公司開始讓 Agent 接管其中一部分工作。
無問芯穹打造基礎設施智能體蜂群,目前已包含三個子集:面向用戶的平臺管家智能體系統、面向集群的運維智能體系統以及面向芯片的算子生成智能體系統。
其中,平臺管家智能體系統是整個基礎設施智能體蜂群協同場景下的全局統籌者與用戶入口,它通過自然語言交互,就能讓智能體主動幫助用戶操作平臺、統籌 AI 基座,輕松高效完成復雜的資源運營、管理和答疑排障等工作,能夠獨立解決 80% 日常問題,剩下 20% 深度問題再轉交對應垂類 Agent。
“它們之間就形成了一個小組織。”夏立雪說。
![]()
(視頻說明:無問芯穹 Agentic Infra 行業解決方案 - 平臺管家智能體系統)
除此之外,智算集群運維智能體系統是一個能夠端到端地解決實際生產場景中的運維難題的7x24小時,全天候值守的“運維專家團”。目前,這套系統已經讓整體運維人效提高 5 倍以上,關鍵故障處理效率提高 6 倍。
不止于此,Agent 也在無問芯穹開始參與更核心的研發。算子決定一款芯片能否真正發揮性能。過去,算子的開發和優化高度依賴少數資深工程師,需要不斷編寫、編譯、測試,再根據結果修改。
無問芯穹開發的 KernelMind,把這些步驟拆給不同 Agent。以算子生成主控智能體為調度中樞,聯動多類專用智能體,通過五步閉環工作流,可在真實編譯試錯與知識沉淀中持續自迭代,穩定交付可直接落地的高質量工業級算子。公司今天公開了一組數據:在 GLM5.2 模型的實測中,對比行業基線該系統在NVIDIA 旗艦卡中實現了端到端 7.3% 的性能提升,在 AMD 旗艦卡中帶來了 39% 的整體性能提升。
也就是說,基礎設施自己開始用智能優化智能,并逐步從優化走向進化。
這也是無問芯穹提出的 Agentic Infra 里最重要的一層含義。
它不只是給 Agent 使用的基礎設施,也是一套開始由 Agent 參與設計、維護和優化的基礎設施。夏立雪把它概括為:“通過 Agentic Infra,實現‘用智能進化智能,用生產力加速生產力’。”
![]()
他認為,無問芯穹自己這家組織的 AI Native程度也主要體現在這里。它不是一個公司成立時間的標簽,也不是讓所有員工都使用大模型。讓真正的變化發生在生產過程里:AI 參與寫代碼、排查故障、服務客戶和管理集群;人在使用過程中發現的問題,又反過來推動底層系統變化。
它既是基礎設施供應商,也是自己的第一批客戶。它最早看到不同模型如何協作,也最早碰到 Agent 工作流里的成本問題;它管理大量算力,因此必須讓 Agent 參與運維;它本身又是 Token 消耗大戶,所以更容易發現那些隱藏的“Token 刺客”。
所以,看起來突破了邊界的“前店”并不是突然向應用層的擴張。很大程度上,它是無問芯穹把內部已經發生的 AI 化過程整理出來,再向外輸出。
這套體系能夠從無問芯穹身上自然長出來,也與它的技術出身有關。
從 2008 年前后開始,團隊便在清華大學電子工程系研究軟硬件協同。市場里的“商品”不斷變化,但核心技術追求一直沒有改變。最初,優化的是從電和芯片到模型訓練時間的效率;推理興起后,變成從電到 Token;進入 Agent 時代,又繼續延伸到從 Token 到任務結果。
訓練、推理、Agent 和具身智能看起來是不同市場,落到這家公司內部,都是同一個問題:如何把有限資源轉化成更多生產力。
局部最優總會在下一層被浪費。但軟硬件協同出身的團隊,會本能地跨層尋找真正的瓶頸。這也是無問芯穹這套模式最大的優勢。
1
在 AGI 到來之前
當很多人看到“前店后廠一中心”的名字時,很容易把它概括成一套中國特色的 AI Infra。
其實并不如此。異構計算、跨集群調度、多模型路由和端云協同,并不只存在于中國。隨著預訓練、強化學習、推理和 Agent 采用不同計算模式,全球 AI 系統都在變得更復雜。
中國市場的特殊之處,是這些問題來得更早,也更集中。
這里的供給和需求同時高度分散。供給端有多家芯片企業、多種架構、不同區域的算力中心和大量存量設備;模型端有多家閉源公司和活躍的開源生態;需求端分布在制造、能源、醫療、法律、文娛和數量龐大的中小企業。
美國頭部科技公司往往可以同時控制芯片、云、模型和應用入口。中國更難由一家公司垂直整合所有環節。這是一種約束,也給中間層留下了更大的空間。
當供給足夠統一,客戶可以直接選擇一套完整技術棧。供給越分散,尋找、適配、組合和運營資源的成本越高,負責集散和優化的那一層就越重要。
而行業眼下真正的問題還不是供給過剩,而是大量需求沒有被接住。國產芯片需要進入真實業務,才能持續發現軟件和性能問題;模型公司需要更穩定、更便宜的推理;應用公司需要模型真正進入工作流;已經建好的算力中心則希望提高利用率。
無問芯穹不需要替代其中任何一家。它需要證明,自己能讓這些分散的能力更有效地協作。
如果“前店后廠一中心”能夠運轉,會形成三個彼此推動的循環。接入更多芯片和集群,帶來更多真實負載;負載幫助系統積累調度經驗;效率提高后,又會吸引更多資源進入平臺。Token 調用增加,產生更多運行數據;數據幫助它優化路由、緩存、PD 分離和模型組合;成本下降后,平臺可以承接更多調用。進入更多行業,則會獲得更真實的任務反饋;反饋重新改進 Agent、模型選擇和資源配置;任務完成率提高后,公司又能進入更復雜的場景。
可以看出來,這是一個在Infra基礎上,構建起來的能讓智能繼續scale的新的飛輪。
而中國的產業環境,恰好給了它生長條件。這里有足夠多的芯片供給方、模型開發者和高度分散的需求。市場不要求一家企業壟斷所有入口,只要它能顯著提高其中一層的效率,就可能形成足夠大的商業空間。
資源受限,也會迫使企業更認真地處理效率。資源充裕時,很多問題可以靠更大的模型、更昂貴的芯片和更多冗余解決。資源緊張時,每一張卡、每一個 Token 和每一次調用都必須被計算,系統效率本身便成為產品。
過去兩年,DeepSeek 已經展示過一次類似路徑:資源限制不只會帶來妥協,也會迫使團隊采用更激進的工程方法。無問芯穹代表的是另一種嘗試。它不直接參與最強模型的競賽,而是試圖讓一個分散、異構、并不完美的產業系統,生產出更多可用的智能。
這套技術也不會永遠只服務于目前的需求。當 Agent 進入更多數字系統和物理設備,全球都會面對相似的問題:任務該調用哪一個模型,在哪里執行,使用什么芯片,如何在成本、延遲、隱私和能力之間取舍。無問芯穹此次同時公布了即將開源的首個面向大規模具身任務的云邊端一體化管理與調度平臺,并升級強化學習框架和推理優化體系。在云端,一次請求慢幾秒,用戶可能只是失去耐心。到了機器人身上,幾百毫秒的延遲就可能決定動作能否完成。數字世界和物理世界差異很大,落到基礎設施層,仍然是同一個問題:如何用更低的資源成本,交付更高的任務價值。
在和夏立雪的交流快結束時,我和他談起 AGI 和 AGI Infra 的區別。
人們習慣把 AGI 想象成一個更強大的模型。但在“無所不能”和“無處不在”之間,還隔著一套龐大、具體,甚至有些笨重的生產系統。過去幾年這家跟隨 AI 向現實世界移動的年輕公司,把不斷看見的斷點給接了起來。在AGI到來之前,先把電、芯片、集群、模型、Token、Agent 和現實產業,接成一個彼此協同的系統。這就是無問芯穹眼里的AGI Infra的樣子。
“讓智能無所不能,是 AGI。”他說,“讓智能無處不在,是 AGI Infra。現在我們正在向著這個目標,加速奔跑。”
![]()
點個“愛心”,再走 吧
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.