前天剛給13個AI測了數學高考,
結果又蹲到了小米MiMo-V2.5-Pro的UltraSpeed模式實現了萬億參數推理模型輸出速度1000token/s,這意味著這張圖里所有模型都比這模型慢6倍以上。
而且前段時間,V2.5-Pro還降價了99%,UltraSpeed模式雖然是普通版的 3 倍,但依然屬于性價比之王的狀態。
![]()
從圖里看的話,Kimi K2.6的TPS也非常快,
但981Token/s是Cerebras在自己的 Inference API 私有端點上跑出來的。
簡單來說,普通模型API通常跑在NVIDIA GPU集群上,速度卡在多卡之間搬權重、同步激活、做MoE的路由通信。
Cerebras用的是Wafer-Scale Engine,可以理解成一整片晶圓級芯片系統,不是傳統一張張GPU拼起來,片上的通信帶寬超過NVLink NVL72的200倍以上。
就,我一下子有點想到這個印象中很多年前可能是在節目上看到的,在直線加速車牽引下達到了296公里/時的自行車,MiMo-V2.5-Pro UltraSpeed模式下1000token/s的速度是在單8卡節點上跑出來的,相當于用一輛家用自行車蹬到了300公里/時。
![]()
那我只能說,Claude Code的動態工作流(Dynamic Workflows)引來了它真正的話事人了。
馬上開測,先來個幾千token的網頁生成提示語熱熱身,
同一個提示語,我測試了三遍。基本上思考過程能夠達到700以上 token/s,輸出過程更是實實在在能比1000 token還要快,峰值一度打到了2140token/s。
![]()
以后可能連起身沖咖啡,或者說發個提示語刷刷手機等生成的時間都沒有了。
把MiMo-V2.5-Pro接到Claude Code桌面版開UltraCode模式后,做出來網頁在交互,不同尺寸的適配度都可以追上我用GPT5.5 high從零開發的版本。
UltraCode模式出來后我平時不舍得讓Claude Sonnet 4.6用,但是用太差的模型就算通過UltraCode模式燒大量的積分也不能一次性拿到滿意的結果,反而會因為超長時間的推理浪費時間。
還有一個測模型3D能力的Prompt我也扔進去測了,要求不用任何庫,創建一個包含全屏 canvas 的單 HTML 文件。
我覺得效果還是挺明顯的,包括按鈕的燈光,從屏幕上方投影下來的燈光,以及按鈕擊中音符后人群歡呼的剪影,還有打滿進度條之后的星光特效,都挺符合我對吉他英雄的記憶的。
而且UltraSpeed模式下只用了3分鐘就完成了。
當然只用來做個網頁有點大材小用了,
我在X上看到的用Claude Code動態工作流的都是用75萬行代碼整個Bun從Zig重寫成Rust的,
所以我干脆讓開著UltraSpeed模式把我github上所有的項目讀取了一遍,
讓MiMo-V2.5-Pro給我出一個升級報告,看看我要怎么降低skill的安裝難度,以及普通人看到這個Skill后能不能一秒get到作用,還要給每個項目的readme(說明書)做成統一風格,還順手給它發了我喜歡的幾個Skill讓它學習學習,
主打一個來都來了,之前我有這個模糊的想法但是因為開發周期可能有點久還要猶豫猶豫,現在我想看看加速之后多久能完成。可以看到,直接就造了12個Agent來幫我完成這個復雜的計劃。
![]()
本來以為要跟之前一樣跑一個晚上第二天早起來看報告的,結果12個Agent用了11分鐘完成了,
還做了一份HTML的Skill可讀性檢測報告,還帶一個修改提示語,你可以直接丟給本地Agent做項目優化。
比方說這里有注意到,我之前專門寫給飛書文檔轉到markdown然后發到Z上面的這個Skill實際上是缺少Showcase和明確的指令腳本的,這樣可能會讓想要上手用的人不知道最終的效果,以及中間的過程是什么。
我發現這個過程其實還蠻能解決我的痛點的。
現在開發一個Skill已經是非常非常簡單的了,不管你是用什么樣的 Agent,只要你提出你的需求,然后用上Skill Creator的話,基本上都可以做出一個能夠被Agent讀懂的 Skill。
至于為什么說是被Agent讀懂的?
因為對于模型來說,讀取你整個項目文件并進行安裝是非常簡單的,
但關鍵在于人啊,做出來Skill的README(說明書)能不能讓別人一眼就看懂?在發布階段能不能做一個最小的驗證環節,來測試到底缺了什么東西?Showcase有沒有?兼容多少Agent?
我之前是直接用Hermes復制一個空的Profile,一個啥skill都沒有Agent來驗證這個Skill能不能達到我想要的效果。
總之這些經驗和上面的項目可讀性檢查報告我也都說給MiMo-V2.5-Pro了,它打包成了一個Skill,
叫mini loop
![]()
github. com/LearnPrompt/skill-miniloop
大家可以去試試看這個測試新skill的skill水平到底怎么樣。
目前我還沒有進行任何人工的代碼修改。
之前講過用cc swtich換Claude Code,Codex,Hermes里的模型,今天就多一步換Claude Code桌面版的,這樣能方便管理多個對話還可以切換成Cowrok,桌面版多了一步,要開啟路由。
我們先切換到桌面添加新供應商,按步驟填key就行,直接保存。這時候會提醒你需要路由才能生成。
![]()
在左上角點設置之后就選路由,可以單獨對Claude生效,這樣就不會影響Codex的設置。
重啟之后,Claude Code桌面端的右下角對話框就會變成mimo-v2.5-pro-ultraspeed了。
![]()
哦,對了,雖然已經快到沒時間沖咖啡了,
但是我想了想還是不能省下喝咖啡的時間,
所以我還裝了個瑞幸Skill,讓MiMo-V2.5-Pro按照我的心情給我選一杯咖啡來著,
要是還能請我喝個咖啡就更好了。
最后的最后,
MiMo-V2.5-Pro UltraSpeed到底為啥能跑那么快呢?
不是常用的換個參數小的Flash版本,
從技術報告上看,
MiMo-V2.5-Pro是MoE 模型,可以理解成一個公司里有很多專家,每次回答只叫其中一部分專家來干活。
第一步就先是把這些專家的參數用FP4混合量化壓小不降能力。
第二步用了有點像提前草稿的機制,
先用更便宜的方式快速猜一批 token,再讓主模型檢查。
如果猜得準,就不用每個token都慢慢算一遍。
普通模型是一個字一個字往外吐。
這就像打字輸入法提前給你整句話候選,你確認一下就能直接上屏。
然后就是讓GPU持續滿負荷流動起來,把計算,搬數據,通信這些環節排成流水線。
三件事疊在一起,
才把1T的MoE 推到1000 tokens/s級。
所以我們根本就不是討厭快模型,
是討厭快了但蠢到全部要返工的模型。
速度我要,
質量我也要,
魚和熊掌都可以兼得的情況下,
那肯定多多益善。
@ 作者 / 卡爾
最后,感謝你看到這里如果喜歡這篇文章,不妨順手給我們點贊|在看|轉發|評論
如果想要第一時間收到推送,不妨給我個星標
如果你有更有趣的玩法,歡迎在評論區聊聊
更多的內容正在不斷填坑中……
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.