國內首個國產卡訓推萬億大模型，開源！

智東西
作者 茄子
編輯 程茜

智東西7月6日報道，美團今日宣布開源萬億參數大模型LongCat-2.0，同步開放針對國產算力芯片深度優化的推理代碼。該模型總參數達1.6萬億，平均激活約480億參數，是業界首個在五萬卡國產算力集群上完成全流程訓練與推理的萬億參數模型。

▲LongCat-2.0開源（圖源GitHub）

從官方公布的數據看，LongCat-2.0具有較強的綜合能力。在考察深層工程能力的SWE-bench Pro種得分59.5，領先Gemini 3.1 Pro（54.2）、GPT-5.5（58.6）及Claude Opus 4.6（57.3）；在考察編程語言的SWE-bench Multilingual中得分77.3，與Claude Opus 4.6（77.8）持平；在真實終端指令交互評測Terminal-Bench 2.1中得分70.8。

▲LongCat-2.0與各模型的評分對比（圖源LongCat）

而在真實場景任務方面，LongCat-2.0在搜索智能體評測RWSearch得分78.8，生產力場景評測FORTE得分73.2，BrowseComp得分79.9，均達到或接近前沿閉源模型水平。

據智東西實測，LongCat-2.0在長文本輸出方面能夠較好地理解用戶的意思，并且能根據用戶要求生成可閱讀的長文本。在編程方面，該模型代碼的生成速度較快，但有時不穩定，畫面會出現問題。

并且，該模型還具有較好的創意能力和3D動畫場景生成能力，能在理解用戶的意思并立即作出反應。此外，LongCat-2.0還具備較強的邏輯推理能力，在推理題目時步驟清晰簡明。

LongCat-2.0采用MoE（混合專家）架構，原生支持100萬token超長上下文輸入。該模型在Agentic Coding（智能體編程）任務設計，在代碼理解、生成與執行方面進行了針對性強化。

LongCat-2.0有3項創新：一是LongCat稀疏注意力機制（LSA），將傳統平方級計算開銷優化為線性級，有效加速百萬級長上下文的訓練與推理；二是在MoE專家之外引入N-gram Embedding作為新的參數擴展路徑。三是在后訓練階段，該模型采用多教師在線蒸餾，將專家分為Agent、推理和交互三類，分別聚焦自主執行、自適應推理和安全對齊等核心能力。

智東西圍繞真實任務執行與高難度推理兩個方向對LongCat-2.0進行了實測。

開源鏈接：
Model Weights:
HuggingFace:
https://huggingface.co/meituan-longcat/LongCat-2.0
Github:
https://github.com/meituan-longcat/LongCat-2.0
ModelScope:
https://www.modelscope.cn/collections/meituan-longcat/LongCat-20

Inference Code:
GPU:
https://github.com/sgl-project/sglang/pull/30042
NPU:
https://github.com/meituan-longcat/SGLang-FluentLLM/tree/npu

API Platform:
https://longcat.chat/platform/product

一、寫長文本網文、解AIME真題、一次生成3D像素世界

在真實任務執行方面，我們首先測試了該模型的長文本生成與上下文一致性能力，讓模型生成一本種田文小說，并為其構建人物設定、100章大綱及開篇導入，總字數近3萬字。

可以看到，該模型對任務的理解并未出現偏差。無論是人物設定、世界觀，還是主要事件與高潮節點的把握，都較為準確到位。正文的導入也比較抓人，開篇直接是主角穿越面臨被賣的場景，迅速進入主題，符合網文的撰寫邏輯。

▲LongCat-2.0生成的長文本

接著我們對該模型在創意與邏輯能力上進行了實測，讓其生成兒童訓練游戲。第一次生成訓練反應力的“點擊消泡泡”游戲時，雖然生成的游戲可以玩，但是在畫面上出現了方塊和問號的錯誤。

▲LongCat-2.0生成的有問題的“消泡泡”游戲

第二次，該模型生成了“數字華容道”的益智游戲。這次實測中，其生成代碼的速度較快，且全部代碼一次產出。并且，該游戲操作流暢、畫面清晰，在實測過程并未出現卡頓或其他錯誤情況。

▲LongCat-2.0生成的“數字華容道”游戲

我們還對該模型在創建3D場景上的能力進行了測試。讓其制作一個“在公園長椅上玩風車的小朋友”的3D像素藝術作品。該模型的理解能力較好，第一次生成便成功完成了3D像素藝術場景的搭建，構建了天空、樹木、長椅、風車、小朋友等完整元素。

▲LongCat-2.0生成的3D動畫場景

為了驗證其邏輯推理能力，我們選擇了一道AIME 2026真題。題目如下：

▲AIME 2026真題

這道題考察的是對數還原、指數方程、根與系數關系以及質因數分解，適合考察模型的推理能力。LongCat-2.0的思考過程在1分鐘以內，并用四個步驟就解答了這個問題，得到了正確結果441。該模型在這一案例中表現非常穩定，說明其在標準數學競賽題上的推理鏈路和計算執行較為可靠。

▲LongCat-2.0對AIME真題的解題步驟

二、數據查詢、代碼遷移、游戲開發、3D演示、小說創作——一個模型全搞定

在官方內測期間，美團征集了大量一線用戶任務需求，LongCat-2.0在多個實際場景中展現出完整的閉環交付能力：

通過LongCat-2.0搭建AI SQL Agent：業務人員可以直接用自然語言查詢數據。LongCat-2.0可以自動完成全鏈路閉環，包括理解問題意圖、規劃查詢步驟，并將數據結果轉化為清晰的業務洞察。

▲LongCat-2.0的內測（圖源LongCat）

代碼庫遷移：給定舊版插件代碼庫與新SDK文檔，LongCat-2.0能夠自行分析架構、梳理邏輯，將整個插件重構為新API實現，保留全部功能、修復隱患，編譯一次通過。

▲LongCat-2.0的內測（圖源LongCat）

完整應用開發：在該模型中輸入“兒童AI游戲訓練場”創意，模型逐步生成技術選型、頁面架構、游戲邏輯與視覺細節，從首頁到三個完整可玩游戲全部代碼一次產出。

▲LongCat-2.0在內測中生成的兒童訓練游戲（圖源LongCat）

3D交互演示：LongCat-2.0通過一句話描可以生成完整Three.js 3D演示，透明燒瓶、熒光液體、泡沫噴發、液面下降與堆積效果全部可交互呈現，所有代碼封裝在單個HTML文件中。

AI小說工廠：基于LongCat-2.0構建的多Agent寫作流水線，輸入靈感后自動完成世界觀構建、并行章節生成、質量評估與回流修訂。依托長上下文能力保障百萬字級設定一致性，內容可自動適配多平臺發布，實現持續穩定的連載輸出。

三、稀疏注意力、N-gram嵌入與多教師蒸餾三項優化并行

LongCat-2.0沿用了LongCat-Flash的整體設計，并圍繞長上下文、代碼與智能體場景做了三項關鍵優化：

面向智能體任務中動輒百萬Token的長輸入場景，LongCat-2.0引入了稀疏注意力機制（LSA），通過流感知索引、跨層索引和層級化索引三項策略，有效減少了碎片化訪存和重復計算，在模型質量不降級的前提下，讓百萬級長上下文的訓練與推理速度大幅提升。

▲LongCat稀疏注意力設計總覽（圖源：LongCat）

LongCat-2.0在MoE專家之外新增了一條參數擴展路徑——N-gram Embedding。之所以做這個選擇，是因為模型的MoE稀疏度已接近 97%，繼續堆專家的收益十分有限。相比之下，將135B參數投入N-gram Embedding，收益明顯更高。該模塊占總參數比例控制在10%以內，在參數效率與結構穩定性之間取得了平衡。

▲N-gram Embedding總覽（圖源：LongCat）

在后訓練階段，LongCat-2.0通過多教師在線蒸餾，將專家劃分為Agent、推理和交互三類，各司其職，分別主攻自主執行、自適應推理和安全對齊。最終借助MOPD架構在國產算力集群上將三類能力無縫融合，使模型同時具備深度推理能力、自主執行能力和精準交互能力。

▲基于MOPD的多專家后訓練架構總覽（圖源：LongCat）

結語：萬億參數開源背后，Agent模型開始走向真實生產力

在此之前，國內雖已有基于國產芯片開展模型推理、微調后訓練的相關方案，但LongCat-2.0是國內首個完全依靠國產算力完成訓練與推理全流程的萬億參數模型，峰值訓練規模超過5萬張國產算力卡，是迄今為止國產算力平臺上規模最大的訓練任務。

當前，大模型競爭正逐漸從參數規模轉向真實生產力。未來，Agent執行能力、工程能力以及軟硬件協同優化，或許將成為下一階段開源模型競爭的新焦點，而LongCat-2.0已經率先給出了自己的答案。

來源：美團