![]()
作者|張奚晨
微信 |a8072314b
進入 Agent 時代,一次任務不再只是問模型一個問題,而是規劃、搜索、調用工具、執行任務,再反復檢查結果。每多走一步,都在繼續消耗 Token。
但公司的 AI 賬單已經支撐不起 Token 隨便燒了,不能允許每一個簡單動作都調用價格高昂的前沿模型。理想的狀態是,復雜任務需要最強模型,簡單任務可以交給更便宜的模型,讓擅長代碼、檢索、推理的不同模型各司其職。問題因此從“哪個模型最強”,變成“最該調用哪個模型”。
Router 在過去主要負責連接不同模型、切換供應商、平衡價格和穩定性。而現在,隨著模型越來越多、Agent 的任務鏈越來越長,它開始承擔更復雜的決策:理解任務、選擇模型、控制成本,甚至組織多個模型分工、評審和合成答案。
市場已經給這個方向開出了第一張高價“獎狀”。今年 5 月,OpenRouter 完成 CapitalG(Alphabet 旗下成長基金)領投的 1.13 億美元 B 輪,估值約 13 億美元,較一年前翻了一倍多;其年化收入在 18 個月里從 100 萬美元漲到 5000 萬美元,平臺每周處理的 Token 已達 25 萬億。Nvidia、ServiceNow、Snowflake、Databricks 的投資部門都出現在股東名單里,而這家公司原本并沒有在主動融資。一個抽 5% 過路費的“中間商”拿到獨角獸定價,說明資本已經認可:當模型本身走向大宗商品化,價值正在向調度層轉移。
這也是我們當下關注 Router 的原因。它既可以通過“把合適的任務交給合適的模型”降低成本,也可以通過語義判斷和多模型協作提升結果。Router 正在從模型調用背后的流量分配器,逐漸變成 AI 系統中分配智能、算力和預算的決策層。
OpenRouter 之外,本期我們選擇了六個還在爬坡的項目,看看跑在前面的玩家如何沿著不同方向推進 Router:有的為任務選擇模型,有的先理解意圖再決定去向,有的組織多個模型共同完成任務,還有的先成為所有調用必經的那一層,把網關做成開源基礎設施和企業的控制層。
1
一、選對模型:為每個任務分配合適的智能
1、Factory Router
![]()
![]()
一句話介紹:Factory Router 是面向軟件開發 Agent 的模型路由器。路由根據用戶指令、近期工具調用、代碼庫規模和任務難度等信號,為每個 Droid 會話選擇滿足質量門檻的低成本模型,并在模型表現不佳時升級或切換模型。
團隊背景:Factory 是一家 Agent 原生軟件開發平臺,由伯克利理論物理博士 Matan Grinberg 和曾在微軟、Hugging Face 任職的 Eno Reyes 于 2023 年創立。2026 年 4 月,公司完成由 Khosla Ventures 領投的 1.5 億美元 C 輪融資,估值 15 億美元,投資方還包括紅杉資本、Blackstone、Insight Partners 和 NEA 等。
為什么值得關注:它把 Router 放進了真實的 Agent 會話:路由決策不只發生在任務開始時,還可以根據模型執行是否順利繼續調整。相比通用路由,垂直場景更容易積累可靠的任務—模型效果數據,也更容易證明究竟省了多少錢。官方展示相比所有任務固定使用 Claude Opus 4.7,Factory Router 可在保持前沿性能的同時節省最高 25% 的會話成本。
值得思考:Factory 尚未公開路由模型和訓練數據,官方公布的節省比例也來自自有工程基準。其代表了一條很現實的路線,但效果可能高度依賴 Factory 自己的 Agent、數據和工作流,未必能夠直接遷移到其他場景。
官網鏈接:https://factory.ai/product/router
2、Inworld Router
一句話介紹:Inworld Router 把路由信號從文本擴展到了聲音:一個接入 220 多個第三方模型的路由器,可以根據說話人的情緒、猶豫和語速決定調用哪個模型——一個明顯沮喪的用戶,會被自動路由到更強的模型。
團隊背景:Inworld AI 2021 年成立于加州山景城,創始團隊是對話式 AI 的老兵——聯合創始人 Ilya Gelfenbeyn 和 CTO Michael Ermolenko 此前創辦的 Api.ai 被 Google 收購后成為 Dialogflow。公司以游戲 AI 角色引擎起家,客戶包括 Xbox、Ubisoft,累計融資約 1.2 億美元,2023 年的 5000 萬美元融資對應 5 億美元估值,股東包括 Lightspeed、Founders Fund、Intel Capital、微軟 M12 和 Meta。2025 年 8 月發布 Inworld Runtime 后,公司重心轉向消費級 AI 應用的基礎設施,Router 是其中的核心組件。
為什么值得關注:兩點差異化。一是路由依據:多數 Router 只看文本,Inworld Router 與自家實時語音層打通,聲學信號——說話人的情緒、年齡、猶豫、語言——直接參與模型選擇,這在語音 Agent 場景里是純文本路由做不到的。二是商業模式:它同時路由到 220 多個第三方模型和跑在自家基礎設施上的開源模型(Gemma 4、DeepSeek、GLM 等),用亞秒級首 Token 延遲和低成本推理,接住被路由下來的簡單請求。今年 6 月它還把語音產品價格砍掉一半以上,明確表態要幫消費級 AI 創業公司把賬算得過來——路由在這里是獲客入口,推理才是生意。
值得思考:既當裁判又當運動員。Inworld Router 決定請求去哪,而候選名單里就有自家模型,這與 OpenRouter 引以為傲的中立性正好相反——路由的公正性和一方推理的利潤率之間,存在結構性的張力。另外,聲學信號路由的價值目前主要限于語音優先的消費應用,這個市場本身還沒有被驗證;從游戲 NPC 到 AI 基礎設施,這已經是這家公司的第二次轉身。
官網鏈接:https://inworld.ai
1
二、組織模型:用協作構造更強的智能
1、vLLM Semantic Router
![]()
一句話介紹:vLLM Semantic Router 會先判斷請求的難度、風險、成本和格式要求,再決定調用一個模型,還是組織多個模型分工、驗證和合成答案。
團隊背景:這是 vLLM 生態中的開源研究型項目,目前在 GitHub 上已獲 4.9k Star。在技術路線上,Semantic Router 先抽取領域、難度、安全和上下文等語義信號,再根據這些信號選擇不同的“路由配方”,即可以選擇單一模型,也可以運行模型升級、并行集成、重復推理、Fusion 或帶有 planner、worker、verifier 的受控工作流。
為什么值得關注:vLLM Semantic Router 不只是決定“把請求發給誰”,而是決定“這次請求需要怎樣的推理過程”。簡單任務可以直接交給一個低成本模型;不確定時逐級升級;復雜任務則啟動多個模型協作,同時控制預算、并發、超時和回退。表面上看,整個過程仍然表現為一次普通的模型調用,但深層上代表 Router 從模型選擇層進一步進入能力構造層。
值得思考:本項目意味著 Router 正在承擔原本屬于 Agent 框架、推理服務和安全系統的職責。這樣可以減少應用層重復搭建工作流,卻也可能形成一個非常復雜的新中間層。此類不同路由配方能否在真實業務中穩定提升效果、抵消額外成本,仍需要更多獨立驗證。
網站鏈接:https://vllm-semantic-router.com/
2、Sakana Fugu
![]()
一句話介紹:One Model to Command Them All
Fugu 是一個會組織其他模型工作的模型:它可以自己回答,也可以根據任務動態召集多個專家模型,安排分工、檢查結果并合成最終答案。Fugu 于 2026 年 4 月開放測試,6 月正式發布。
團隊背景:Fugu 來自日本 Sakana AI。公司由前 Google 研究員 David Ha、Transformer 論文作者 Llion Jones 等人創立,長期研究模型合并、群體智能和多智能體協作。公司于 2025 年 11 月宣布 B 輪融資,并在 2026 年繼續擴募,最終融資約 2 億美元,累計融資約 4.12 億美元。此前沒有參加 A 輪的 Google,也在這一階段通過戰略投資進入股東名單。
為什么值得關注:Fugu 延續 Trinity 和 The Conductor 等研究,采用學習式模型編排:不是預先寫死工作流,而是訓練一個模型學習何時委派、委派給誰、怎樣驗證和整合結果。多數 Router 只是在候選模型中選一個,Fugu 把“如何使用其他模型”本身變成了一個模型能力,意味著 Router 可能從分類器或規則系統,發展成能夠根據任務動態生成協作結構的智能調度者。
值得思考:多模型協作可以提升能力上限,但也會增加調用成本、延遲和錯誤傳播路徑。學習式編排還帶來新的黑箱問題:用戶很難預測它會調用多少模型、為什么這樣分工,以及能力提升是否值得額外成本。目前來看,Fugu 并不便宜,API 和訂閱制價格完全是對標旗艦模型。同時,Fugu 給人的感覺還是“中轉站”,底層能力仍被掌握在 OpenAI、Anthropic 手中。當上游模型廠商調整價格、限制調用,甚至親自推出類似的多模型調度能力時,Fugu 的壁壘究竟有多深?
網站鏈接:https://sakana.ai/fugu/
![]()
![]()
1
三、管住調用:接入、治理與結算
前兩類 Router 回答的是“這個任務該給誰”。還有一類玩家做的是另一件事:先成為所有調用必經的那一層,再決定這一層上長出什么。對它們來說,路由是入口,不是終點——終點是賬單、權限和數據的控制權。
1、LiteLLM(BerriAI)
一句話介紹:LiteLLM 要做的是開源 AI 網關的標準,一個 Python 代理把 100 多家供應商的 API 統一成 OpenAI 格式,順手接管了路由、限流和成本記賬。
團隊背景:YC W23 項目,創始人 Krrish Dholakia 和 Ishaan Jaffer 原本在做 chat-with-your-data 產品,被各家 API 互不兼容的調用邏輯折磨,索性把這部分抽象成一個包,2023 年 8 月開源。融資只有約 160 萬美元種子輪,團隊至今 10 人左右。
為什么值得關注:資本效率的極端樣本。10 個人、不到 200 萬美元融資,做到 GitHub 超 4.5 萬 Star、2.4 億次 Docker 拉取,每天路由數億次 LLM 調用,客戶包括 NASA、Netflix、Adobe、Stripe,招聘頁自曝 ARR 已到 700 萬美元。它還在跟著協議擴張管轄范圍,已經兼做 MCP 網關和 Agent-to-Agent 網關——路由的對象從模型悄悄擴展到了工具和智能體。
值得思考:LiteLLM 證明這一層的技術門檻不高,高的是默認地位,而開源是拿到默認地位最快的路徑:Netflix 的工程師說,新模型發布后一天內內部就能用上。代價同樣清楚,今年 3 月它經歷了一次供應鏈安全事件——當你是所有人 AI 棧的單點,你也是所有人的單點故障。它和 OpenRouter 其實是同一層的兩種命運:一個把這層做成收租的市場,一個做成免費的水電。最終定義這個品類的會是哪種形態,比誰的算法更聰明更值得追問。
官網鏈接:https://litellm.ai
2、nexos.ai
一句話介紹:nexos.ai 給企業和所有 LLM 之間加了一個中立中間層,自稱“LLM 界的瑞士”。路由在這里服務的不是省錢,而是安全、合規和數據主權。
團隊背景: Nord Security 兩位創始人 Tomas Okmanas 和 Eimantas Sabaliauskas 的二次創業。2025 年 1 月出 stealth 時拿到 Index Ventures 領投的 800 萬美元種子輪,10 月完成 3000 萬歐元 A 輪,估值約 3 億歐元——從 launch 到 3.5 億美元估值不到一年。天使名單包括 Datadog、Klarna、Supercell 的 CEO 和 Wix 創始人,近期還宣布了與 CrowdStrike 的合作。
為什么值得關注:它證明 Router 的買單方不一定是 CTO,可以是 CISO 和董事會。創始人的判斷是,員工向 ChatGPT 上傳敏感數據正在釀成“史上最大的企業數據泄露”,與其禁用不如做中間人:員工使用 AI Workspace,開發者走 AI Gateway 接入約 200 個模型,網關同時承擔安全、成本和合規的控制職能。歐洲的數據主權焦慮給了它一個美國同行吃不到的市場,公共機構已經在敲門。
值得思考:同一個技術形態,在美國被定價為流量生意,在歐洲被定價為合規生意。nexos.ai 賣的究竟是路由,還是 合規生意在 AI 時代的復刻——流量經我、策略在我、日志歸我?如果是后者,Router 在這里只是殼,真正的產品是治理。這對判斷這一層的終局反而更有價值:路由能力本身不值錢,值錢的是路由帶來的位置。
官網鏈接:https://nexos.ai
![]()
點個“愛心”,再走 吧
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.