給多智能體LLM裝上「圖記憶工作流路由器」，搞定調用、協作規劃

新智元報道

【新智元導讀】GraphPlanner通過引入圖記憶網絡，將多智能體LLM的路由過程升級為動態工作流生成。不僅選擇調用哪個模型，還決定每個模型應承擔的角色，實現任務分解與協作規劃。

當大語言模型從「單模型回答」走向「多模型協作」，一個新的問題正在浮現：

系統不只需要知道該調用哪個LLM，還需要知道該讓這個LLM扮演什么角色、在什么步驟調用、如何與其他模型協作。

現有LLM Router大多關注query-level的模型選擇：給定一個問題，判斷該交給Qwen、LLaMA、Gemma、Mixtral還是其他模型。進一步的多輪Router雖然能夠進行多次調用，但通常仍然只是「連續選擇模型」，缺少對多智能體協作流程本身的顯式建模。

對此，University of Illinois Urbana-Champaign（UIUC）的研究人員提出GraphPlanner，將LLM Routing從「選擇模型」推進到「生成多智能體工作流」：系統在每一步同時決定調用哪個模型以及激活哪個智能體角色，并利用圖結構記憶歷史交互與當前工作流狀態，從而實現更高效、更可泛化的多模型協作。

論文鏈接: https://arxiv.org/abs/2604.23626

代碼鏈接: https://github.com/ulab-uiuc/GraphPlanner

研究背景

傳統Single-Round Router的邏輯很直接：給定一個query，選擇一個最合適的LLM來回答。

這種方式簡單高效，但面對復雜任務時存在明顯限制：它無法分解任務，也無法組織多個模型之間的協作。

Multi-Round Router則進一步允許多次調用不同模型，例如Router-R1可以在「思考—路由—聚合」的過程中反復調用多個LLM。

但這類方法本質上仍然更關注backbone selection，也就是「下一步該調用哪個模型」，而沒有顯式建模多智能體系統中的角色分工與協作結構。

現實中的復雜任務往往需要更接近agentic workflow的處理方式。例如：

• 先由Planner將復雜問題拆解成子問題；

• 再由多個Executor分別解決不同子任務；

• 最后由Summarizer匯總中間結果并形成最終答案。

GraphPlanner正是圍繞這一點提出：Router不應只決定調用哪個模型，還應決定調用哪個Agent Role，并動態生成適合當前query的協作工作流。

GraphPlanner

GraphPlanner的核心思想是將routing過程建模為一個sequential decision-making problem。

在每一步，GraphPlanner不再只選擇一個LLM，而是選擇一個二元動作：

Action = Agent Role + LLM Backbone

研究人員默認定義了三類基礎Agent Role：

1. Planner：負責將復雜query分解為若干atomic sub-queries；

2. Executor：負責回答原始query或子問題；

3. Summarizer：負責聚合多個中間結果，生成更一致的上下文或最終回答。

因此，GraphPlanner的每一步決策都在回答兩個問題：

當前應該由哪個角色執行？應該使用哪個LLM執行？

這種設計讓Router從一個簡單的「模型選擇器」，升級為一個能夠構建query-specific agentic workflow的「多智能體規劃器」。

對于簡單問題，GraphPlanner可以直接選擇Executor一步完成回答；對于復雜數學、代碼或多跳推理任務，它可以先調用Planner拆解問題，再調用多個Executor解決子問題，最后調用Summarizer匯總推理鏈路。

GARNet

GraphPlanner的另一個關鍵創新是引入異構圖記憶網絡GARNet。

在多智能體LLM系統中，每次調用都會產生豐富的交互信息：query 是什么、哪個模型被調用、它扮演什么角色、輸出了什么結果、成本是多少、最終是否正確。

這些歷史 interaction traces 本身就是非常寶貴的 routing memory。它們能夠告訴系統：在相似任務上，哪些模型更適合擔任 Planner？哪些模型更適合做 Executor？哪些角色組合更高效？

為此，GraphPlanner構建了兩類圖記憶：

Workflow Memory Graph：記錄當前 query 在本輪推理過程中生成的子問題、角色調用和中間回復；

Historical Memory Graph：記錄過去任務中的query、response、LLM-role交互、accuracy 和 cost 信息。

GARNet將query node、response node、LLM-role node以及accuracy-cost edge組織成異構圖，并通過共享的role hub nodes連接當前工作流與歷史記憶。

這樣，GraphPlanner在做下一步routing決策時，不僅能看到當前query的狀態，還能利用歷史交互中積累下來的模型能力畫像與協作模式。

用強化學習訓練Agentic Router

由于GraphPlanner的routing workflow包含離散的角色選擇、模型調用、子問題分解和結果匯總，整個過程難以直接端到端求導。

因此，研究人員將workflow generation建模為Markov Decision Process，并使用PPO進行強化學習訓練。

獎勵函數同時考慮任務效果與調用成本：

• 最終回答正確性帶來task utility；

• 每一步模型調用會產生computational cost；

• 超參數α用于控制accuracy-cost trade-off。

換言之，GraphPlanner學到的不是一個固定工作流模板，而是一種動態策略：在面對不同 query 時，自適應決定是否需要規劃、是否需要拆解、調用幾個模型、每個模型扮演什么角色，以及何時匯總并輸出最終答案。

實驗結果：更強性能、更低訓練成本、更好泛化

GraphPlanner在14個任務、6個領域上進行了系統評估，覆蓋Math、Code、Commonsense Reasoning、World Knowledge、Popular Benchmark以及Out-of-domain Testing。

實驗包含兩個階段：

Phase 1：在用戶預定義的agentic workflow中，優化不同agent的LLM backbone選擇；

Phase 2：同時生成agentic workflow并選擇對應的LLM backbone。

結果顯示，GraphPlanner在兩個階段均顯著優于single-round與multi-round router baselines。

在Phase 1中，GraphPlanner在固定工作流下仍能取得最高平均準確率，說明圖記憶增強的 routing policy 能更好地為不同agent分配合適模型。

在Phase 2中，當系統允許自由生成workflow時，GraphPlanner的優勢進一步擴大，相比最強baseline帶來約9.3%的平均準確率提升，說明 query-specific workflow generation 比固定工作流更適合復雜任務。

更重要的是，GraphPlanner還展現出優秀的效率表現。相比Router-R1等RL-based multi-round router，GraphPlanner在訓練階段顯著降低GPU compute，并通過輕量級圖策略網絡實現更高效的routing決策。

泛化能力：支持Unseen Tasks與Unseen LLMs

一個好的LLM Router不應只記住訓練集中的任務和模型，而應能泛化到新的任務類型和新的LLM backbone。

GraphPlanner在out-of-domain任務LogicGrid、MGSM和CommonGen上取得了78%的平均準確率，明顯優于 GraphRouter、RouterDC 和 Router-R1 等 baseline。

同時，當實驗中加入訓練階段未見過的 LLM 時，GraphPlanner 仍能保持穩定且更優的表現。這說明它并不是簡單記憶某個模型在某個任務上的標簽，而是通過 LLM-role graph 和 historical interaction memory 學到了更可遷移的協作模式。

此外，GraphPlanner 支持兩種 inference 方式：

Inductive Setting：不依賴保留的歷史交互，部署更輕量；

Transductive Setting：利用歷史 interaction memory，獲得更高性能。

這種設計使 GraphPlanner 可以根據實際部署需求，在效率和性能之間靈活切換。

總結

GraphPlanner的核心貢獻在于，它將LLM Router從傳統的backbone selection推進到了agentic workflow generation。

過去的Router主要回答：這個query應該交給哪個模型？

GraphPlanner 進一步回答：

> 這個query應該如何拆解？

> 哪些Agent Role應該參與？

> 每個角色應該由哪個LLM執行？

> 當前工作流如何利用歷史交互經驗？

> 如何在效果與成本之間取得更優平衡？

因此，GraphPlanner不只是一個更強的Router，而是邁向多智能體 LLM 系統自動化編排的重要一步。

它讓多個異構LLM不再只是被動調用的工具，而是能夠在Planner、Executor、Summarizer等角色下形成結構化協作流程。

對于未來的AI基礎設施而言，這種ability to plan, route, remember, and coordinate將成為構建可擴展、多模型、多智能體系統的關鍵能力。

參考資料：

https://arxiv.org/abs/2604.23626

編輯：LRST