35B模型顛覆AI認知：參數少反而性能更強

DeepReinforce團隊最近放出了Ornith-1.0，一套專注智能體編程的開源模型家族。

團隊背景主要來自MIT和“液體”（Liquid AI），這次一共發布了四個尺寸：9B Dense、31B Dense、35B MoE和397B MoE。

前兩個是密集型，后兩個是混合專家架構，都基于Gemma 4和Qwen 3.5做后訓練。

后訓練這件事，現在沒什么好藏著掖著的。

最近市面上冒出來的大部分新模型，本質上都是在做后訓練。

反倒是這兩年還要從預訓練從頭開始的模型公司，日子更難過——基礎設施不僅已經成熟，迭代速度也快得驚人。

Ornith-1.0最核心的亮點在訓練方法上。

市面上大部分編程智能體模型的訓練，都基于一個固定的harness——也就是人類事先寫好的執行框架。

模型在這個框架里生成代碼，然后通過強化學習（RL）來優化自己，讓它產出更好的代碼。

注意，這里一定是RL，不是SFT。

harness是固定的，模型只管往里面填充內容。

但Ornith的做法不一樣——它讓模型自己生成harness。

模型在訓練中同時優化兩個東西：harness和最終的解決方案。

換句話說，模型不僅要學會“怎么做題”，還要學會“怎么給自己出題”。

通過聯合優化，模型在訓練中逐漸掌握了什么樣的執行流程能產生更好的結果，把harness這種組織能力變成了一個可優化的目標，直接把harness trace內化到了模型內部。

數據確實令人信服。

旗艦版Ornith-1.0 397B在Terminal-Bench 2.1上拿到77.5分，在SWE-Bench Verified上拿到82.4分。

這個分數超過了Claude Opus 4.7足足4.7分。

在開源模型里，編程能力應該已經站到最前面了。

對比一下差不多同一時期、幾乎同樣尺寸的開源模型：MiniMax M3在SWE-Bench Verified上只有66分，差了11.5分；在Terminal-Bench上是80.5，差了兩分左右。

DeepSeek-V4 Pro分別是67.9和80.6，同樣是十分和兩分的差距。

更有意思的是Ornith-1.0的35B版本——這是一個比較常見的中型模型尺寸。

它在SWE-Bench Verified上跑出了64.4分，而Qwen 3.5 397B只有53.5分。

一個35B的模型，干翻了一個397B的全量模型，參數量差了十倍不止。

這充分說明了一件事：在模型這條賽道上，方法論有時候比算力和參數規模更重要。

讓模型自己構建harness，這件事的意義可能比表面看起來更大。

現在的絕大多數harness其實是寫死的。

寫死就有兩個大問題。

第一是泛化能力不夠——不同行業、不同場景需要的執行框架不一樣，而寫死的harness覆蓋不了那么多變種，這方面的知識在市場上恰恰是稀缺的。

第二是很多harness本身寫得并不完善，面對不同問題時，人為設計的限制反而卡住了模型的最優解。

讓模型自己來構建，是提升泛化能力的一個非常有效的手段。

這其實是一個大的趨勢。

現在模型公司都在把harness訓練到模型內部——不管是編程harness、智能體harness還是設計harness。

目前市面上那些靠賣harness賺錢的生意，未來半年到一年內，能力大概率會被模型內化掉。

Ornith的做法在這個方向上邁出了很有效的一步。

trace對于模型公司來說，正在變成一個越來越重要的資產——通過強化學習把它內化到模型能力里。

這里面有兩個技術點值得注意。

一個是trace的訓練必須用RL而不是SFT。

SFT訓練很容易讓模型遺忘之前學過的知識，這叫災難性遺忘——學新東西的時候把老東西覆蓋掉了。

但RL在保留已有知識方面表現要好得多。

另一個就是讓模型自己構建harness。

這不是炫技，而是實打實地解決了泛化問題和人為限制的瓶頸。

未來什么樣的公司手里有大量高質量的編程trace，就有可能在這個領域產生真正的商業價值。

看看調用量就知道了——目前很多編程模型每周的調用里，百分之六七十都是編程相關的。

Ornith-1.0全系列采用MIT協議開源，可以在Hugging Face上直接獲取。

一個35B的模型用十分之一的參數量追平甚至超越十倍大的模型，這件事本身就值得行業重新思考：算力的軍備競賽之外，是不是還有別的路可以走。