9750億參數！OpenAI前CTO的明星獨角獸，發首個開放權重模型

智東西
編譯 茄子
編輯 程茜

智東西7月16日消息，今日，OpenAI前CTO米拉·穆拉蒂（Mira Murati）創辦的、美國AI獨角獸Thinking Machines Lab發布其首個多模態MoE開放權重模型Inkling。該模型的核心優勢是可改造、可部署、可控成本，開發者能對模型微調、調節推理強度，以控制其效果、延遲和成本。

穆拉蒂在社交平臺X上發帖稱，這是我們首個模型，Inkling。從零開始訓練，權重對外開放，即日起可在Tinker平臺開展微調。

▲Mira Murati發文宣布Inkling（圖源：X）

Thinking Machines Lab聯合創始人、前OpenAI研究安全副總裁翁荔發文稱，Inkling作為基礎底座，在廣泛任務維度擁有均衡扎實的能力，并提供實際落地與定制微調。

▲翁荔發文介紹Inkling（圖源：X）

目前，Inkling已在Thinking Machines Lab旗下Tinker平臺上線，支持64K和256K兩種上下文長度，并限時提供5折優惠。Thinking Machines Lab稱，開發者可通過Tinker對Inkling進行調整，也可以先在Tinker控制臺的測試頁面Inkling Playground中體驗聊天和Agent式網絡搜索功能。

同時，Inkling完整權重已在Hugging Face開放，開發者可下載原始checkpoint和NVFP4 checkpoint，用于部署或調整該模型。

▲Inkling開放權重（圖源：Hugging Face）

據官方博客介紹，Inkling基礎模型借鑒了中國的DeepSeek-V3模型的MoE架構設計，并在后訓練階段使用了由月之暗面公司Kimi K2.5生成的數據進行了優化。

▲Inkling借鑒中國DeepSeek-V3、使用Kimi K2.5優化（圖源：Thinking Machines Lab）

Inkling采用MoE Transformer架構，總參數量9750億，激活參數量410億，最高支持100萬token上下文窗口。在預訓練階段Inkling就融合了文本、圖像、音頻和視頻數據，僅靠單一模型就能實現視覺理解、音頻問答、代碼開發和工具調用。

多名用戶在社交平臺分享了對Inkling模型的實測反饋。部分測試者認為Inkling在文學創作場景表現尚可、具備開發潛力。但是，也有開發者指出模型當前存在明顯缺陷，認為其任務穩定性不足，并且綜合性能尚未達到頂尖開放權重模型水平。

從基準測試看，Inkling綜合能力均衡。在大模型評測榜單Artificial Analysis中，Inkling的綜合測試得分為41分，高于Nemotron 3 Ultra、Gemma 4 31B等開放權重模型，在美國開放權重模型中排名第一。在通用智能和綜合任務測試中，該模型獲得1238 Elo分，超過Kimi K2.6和DeepSeek v4 Flash（max）。

▲Inkling在Artificial Analysis中的排名（圖源：Artificial Analysis）

價格方面，在64K上下文窗口下，該模型輸入價格為每百萬token 1.87美元（約合人民幣12.65元），緩存輸入0.374美元（約合人民幣2.53元），輸出4.68美元（約合人民幣31.7元）；在256K上下文窗口下，該模型輸入價格為每百萬token 3.74美元（約合人民幣25.3元），緩存輸入0.748美元（約合人民幣5.06元），輸出9.36美元（約合人民幣63.3元）。

此外，Thinking Machines Lab同步上線了輕量版本Inkling-Small預覽版。該輕量化模型激活參數量為120億，采用與Inkling相同的訓練方案，在降低模型規模的同時，保留了部分核心能力。據官方博客透露，Inkling只是開端，Thinking Machines Lab會持續迭代拓展這條產品線。

Hugging Face體驗地址：

https://huggingface.co/thinkingmachines/Inkling

一、從寫網頁到制作游戲，Inkling展示多任務Agent能力

Inkling上線后，用戶很快開始測試其文本、編碼和工具調用能力。有的用戶認為Inkling在文本創作表現良好，還有的開發者則對Inkling的網頁生成能力進行了測試。

比如這位用戶讓Inkling創作200詞的文本，Inkling根據同一提示詞生成了3篇風格統一的短篇科幻文本。該用戶認為Inkling有較好的英文文本功底。

▲用戶對Inkling的文本創作實測（圖源：X）

這位用戶則對Inkling開展多維度驗證，他基于Inkling搭建只能書法教練應用，并測試了該模型的編碼、工具調用與視覺能力。經過測試，他認為，這款從零開始訓練的多模態模型具備不錯的開發潛力。

▲用戶對Inkling的生成應用的實測（圖源：X）

但是，也有一些用戶對Inkling的實際表現提出質疑。AI研究者Ethan Mollick測試后稱，Inkling整體表現難以接近中國頭部開放權重模型。他在測試中發現，Inkling未能通過Lem詩歌測試，在GLSL編程調試中也存在輸出不穩定的問題，即使開啟最高推理強度，處理簡單代碼任務時仍會出現偏差。

▲用戶對Inkling的實測表現不滿意（圖源：X）

Thinking Machines Lab也通過案例展示了該模型在復雜任務執行、多輪迭代方面的能力。

在Agent任務方面，Inkling可以結合工具調用完成端到端的軟件開發。例如，在一次測試中，Inkling僅根據一句需求描述，便生成了一個完整的求職網站，并進一步驅動瀏覽器Agent操作網頁，根據已有資料自動填寫求職表單。

▲Inkling制作求職網站（圖源：Thinking Machines Lab）

官方稱，Inkling在訓練過程中適配了不同類型的Agent框架，并隨機化訓練階段使用的工具集合和工具調用格式，使得該模型降低對特定工具環境的依賴，從而具備更強的任務遷移能力。

除了代碼開發，Inkling還展示了長流程任務處理能力。在一項測試中，Inkling根據用戶反饋持續優化一款多人在線貪吃蛇游戲，經過40輪迭代后，最終生成了包含實時服務器、AI Bot和排行榜等功能的完整游戲。

▲Inkling對貪吃蛇的長任務處理（圖源：Thinking Machines Lab）

在圖像和文本方面，Inkling可以根據用戶的要求生成一份設計風格統一的文檔，并且具有詳細的說明和準確的信息。

▲Inkling制作的文檔（圖源：Thinking Machines Lab）

二、Inkling在多項基準測試中表現均衡

第三方測試機構Artificial Analysis對Inkling進行了多項測試。在Artificial Analysis Intelligence Index測試中，Inkling首次該進入榜單便獲得41分，比此前領先的美國開放權重模型Nemotron 3 Ultra 38分高出3分，同時也優于Gemma 4 31B的29分和gpt-oss-120b的24分。

▲Inkling在Artificial Analysis中的排名（圖源：Artificial Analysis）

在衡量通用智能與綜合任務表現的GDPval-AA v2測試中，Inkling獲得1238 Elo分，高于Kimi K2.6的1190分以及DeepSeek v4 Flash（max）的1189分。

▲Inkling在GDPval-AA v2測試中的分數（圖源：Artificial Analysis）

此外，Inkling還展現出較高的token效率。據Artificial Analysis測試，Inkling平均生成約2.5萬個token，而GLM-5.2（max）、Kimi K2.6和DeepSeek v4 Pro（max）分別需要約4.3萬、3.8萬和3.7萬個token。這意味著，在達到相近任務效果時，Inkling能夠通過更少的推理token完成任務，從而降低實際部署成本和響應延遲。

▲Inkling在token消耗上的排名（圖源：Artificial Analysis）

Thinking Machines Lab稱，Inkling并不是為了成為某一項測試中的最高分模型，而是希望打造一個覆蓋推理、Agent、多模態、代碼和事實準確性的綜合型基礎模型。他們認為，通用性對于定制化和實際應用至關重要：不同的用戶需要能夠適應截然不同的工作流程的模型。

▲Inkling綜合得分（圖源：Thinking Machines Lab）

從下方表格也可以看到，Inkling在多數測試表現中并未超過閉源模型，但在SWE-bench Pro Public、GDPval-AA v2、MCP Atlas、VoiceBench等測試中進入開放權重模型前列。

▲Inkling在推理、Agent、代碼、視覺、音頻、安全等多項測試中的表現（圖源：Thinking Machines Lab）

在評估模型處理銀行業務代理任務能力的Tau 3 Banking測試中，Inkling取得23.7%的成績，高于Kimi K2.6的20.6%，接近DeepSeek v4 Pro的25.8%。

▲Inkling在Tau 3 Banking測試中的分數（圖源：Thinking Machines）

在代碼能力測試中，Inkling同樣保持較強表現。在考察真實軟件工程問題修復能力的SWE-bench Pro Public測試中，Inkling取得 54.3%的成績；在評估模型終端操作與命令行任務完成能力的Terminal Bench 2.1測試中，使用最佳Harness時達到63.8%。

▲Inkling在代碼能力測試上的分數（圖源：Thinking Machines Lab）

在設計領域，Inkling在Design Arena的智能Web開發排行榜上接受了評估，該排行榜由不知情的評估人員對生成的Web應用進行直接比較。在榜單上，該模型排在第7名。

▲Inkling在設計領域分數（圖源：Thinking Machines Lab）

在評估語音理解與語音交互能力的VoiceBench測試中，Inkling取得91.4%的成績；在衡量多模態音頻理解能力的MMAU測試中達到77.2%。

在考察多模態視覺理解與推理能力的MMMU Pro標準測試中，Inkling取得73.5%，能夠完成圖像描述、圖表理解以及基于視覺信息的復雜推理任務。

▲Inkling在音頻和圖像測試上的分數（圖源：Thinking Machines Lab）

Thinking Machines Lab稱，Inkling并非當前綜合能力最強的模型，其優勢在于多模態能力、可控推理效率以及開放權重后的可定制能力。

三、9750億參數MoE架構，多模態訓練+可控推理降低使用成本

在MoE架構設計上，Inkling參考了DeepSeek-V3的部分方案。Inkling每個MoE層包含256個路由專家和2個共享專家，每個token僅激活6個路由專家參與計算。同時，Inkling采用基于Sigmoid函數計算專家選擇權重的路由機制，并通過無輔助損失負載均衡策略，讓不同專家被調用的頻率更加均衡。

在注意力機制方面，Inkling采用滑動窗口注意力與全局注意力結合的方式。官方介紹，該模型按照5:1比例交替使用局部窗口層和全局層，同時采用8個KV Head，以提升長上下文處理效率。

不同于目前大量模型采用的旋轉位置編碼（RoPE），Inkling采用相對位置嵌入方式編碼位置信息。Thinking Machines Lab稱，相比RoPE，相對位置嵌入在長序列外推方面表現更好，更適合百萬token級上下文窗口。

在訓練數據方面，Inkling預訓練階段使用了4500萬億token規模的數據，覆蓋文本、圖像、音頻和視頻。與傳統先訓練文本模型，再外掛視覺或音頻模塊不同，Inkling從訓練階段便加入多模態數據，使模型能夠直接處理不同類型的信息。

在音頻輸入方面，該模型將音頻信號轉換為dMel頻譜，通過輕量級Embedding層后，與文本token共同輸入模型。視覺輸入方面，Inkling采用40×40像素Patch方式編碼圖片，再通過四層hMLP進行處理。

這些視覺和音頻信息最終都會映射到統一隱藏空間，由同一個Transformer進行推理。因此，Inkling不僅可以進行圖片理解，也能夠完成語音轉寫、音頻內容分析以及基于長音頻信息的推理任務。

在后訓練階段，Thinking Machines Lab采用大規模異步強化學習（RL checkpoint）優化模型能力。官方數據顯示，Inkling訓練過程中累計完成超過3000萬次迭代。隨著強化學習規模擴大，該模型在推理測試中的表現持續提升。

▲Inkling的異步學習優化（圖源：Thinking Machines Lab）

此外，Inkling還引入了“可控思考努力程度”（Controllable Thinking Effort）。開發者可以根據實際需求調整模型推理強度：當任務需要更高準確率時，可以讓模型投入更多計算資源；當任務更關注速度和成本時，則可以降低推理token消耗。

以下是Inkling在強化學習訓練初期和后期對同一數學問題展開思考的示例，可以看到，在初期階段，Inkling的思考過程是比較冗長的，并且還會出現錯誤，而在后期階段則壓縮了冠詞和連接詞，較初期比較簡潔。

▲Inkling強化學習后思路更加簡潔（圖源：Thinking Machines Lab）

Inkling目前已經接入Tinker平臺，開發者可以基于該模型進行定制訓練。官方展示了一個案例：讓Inkling自己設計微調任務，包括生成訓練任務、運行訓練流程并評估訓練效果。

▲Thinking Machines Lab對Inkling的微調（圖源：Thinking Machines Lab）

結語：開放模型加速落地，開發者生態成為關鍵變量？

Thinking Machines Lab選擇開放Inkling完整權重，通過多模態能力、可控推理以及微調能力，將其定位為企業和開發者構建AI應用的基礎模型。

近年來越來越多模型也在朝這個方向走：DeepSeek-V3采用MoE架構并開放權重；阿里云Qwen系列持續推出多模態和Agent相關模型；Meta的Llama系列、Mistral系列也通過開放權重策略推動開發者生態。它們除了提升推理能力，也在長上下文、多模態、Agent任務適配和微調能力上持續提升。

對于企業和開發者而言，模型是否開放、是否具備進一步定制能力，將影響其在具體業務中的應用空間。隨著越來越多廠商布局開放權重模型，未來競爭或將圍繞模型能力、使用成本以及開發生態展開。

來源：Thinking Machines Lab、Artificial Analysis、X