過去一周,AI開發者社區里有人在問同一個問題:“有沒有一個模型,能同時處理推理、編碼、音頻、視覺,還不用在多套API之間切來切去?”
答案今天上了架。Thinking Machines實驗室的Inkling模型正式接入AI Gateway,開發者可以直接通過統一接口調用,不用操心該選哪個專精模型——這個模型從一開始就不是為單一任務訓練的。
看它的能力清單:智能體行為、復雜推理、代碼生成、指令執行、事實核查、視覺理解、音頻處理,七種任務類型全部覆蓋。不是“順便支持”,是訓練階段就把這七項當成了同等重要的目標。
一個模型扛七種活,怎么做到的?
市面上多數模型走的是專精路線——代碼能力強的未必會看圖,推理能力好的可能在指令執行上翻車。Inkling走了另一條路:訓練時不偏向任何單一領域,讓它天然具備跨任務泛化能力。
更值得留意的是它支持“可控制思考力度”。這個詞翻譯成實操語言就是:開發者可以根據任務復雜度,調整模型投入的計算資源。簡單問題快速出結果,復雜問題多跑幾層推理,不用換模型,也不用換接口。
這在成本敏感的場景里意義不小。以往你得手動判斷:這個請求用輕量模型夠不夠?要不要切到貴的那一個?現在Inkling內部自己搞定了。
接入方式沿用AI SDK,改一行參數就能用
已經習慣AI SDK的開發者基本不需要學習成本。調用代碼跟使用其他模型完全一致:
從ai包引入streamText函數,把模型參數設為thinkingmachines/inkling,丟給它一個提示詞,比如“總結這份報告并列出關鍵風險”,就能直接拿到流式返回結果。
不需要額外裝依賴包,不需要調整請求格式,不需要讀新的API文檔。這種“即插即用”的體驗,對于已經在AI Gateway上跑著多個模型的團隊來說,切換成本接近于零。
計價方式透明,平臺不加收任何費用
AI Gateway的定價策略一直很清楚:模型提供方收多少錢,平臺就計費多少,不在推理環節加收平臺費。
這個規則同樣適用于自帶密鑰的請求。不管你是直接走Gateway的模型實例,還是用自己的API Key接入,都不會被額外加價。對于每月推理調用量級大的團隊,這意味著成本完全可控,不需要把Gateway的中間層當成一個隱性計費項來預估。
除了定價透明,AI Gateway還給開發者配了一套完整的基礎設施:統一API、用量追蹤、成本統計、重試機制、故障轉移、性能優化。目的是讓上游的模型可用率比單個服務商承諾的SLA更高。
還有幾個你可能用得上的功能:內置自定義報表、零數據留存支持、按API Key設置預算上限、路由規則配置。這些屬于企業級部署里經常被提到但很多平臺遲遲沒補上的能力。
排行榜顯示流行趨勢,你可以看到同行在用什么
AI Gateway上有個模型使用量排行榜,統計的不是下載量或點贊數,而是所有經過Gateway的請求里,各個模型處理掉的token總量。
這個維度比單純看“被討論的次數”更實在。一個模型處理了多少token,直接反映開發者到底把多少真實負載交給了它。排行榜隨時間動態更新,你可以看到哪些模型在爬升,哪些在退場。
Inkling剛上線,名次還在變動。不過考慮到它覆蓋了七種任務類型,如果實際表現達到預期,最直接的變化可能是:開發者之前需要調用三個模型才能串起來的流程,現在一個模型就完成了,排行榜上對應的token轉移路徑會很直觀。
想試試手感的,可以直接進Gateway的模型演練場,不需要寫代碼就能先跑幾條測試用例。看看這個“不偏科”的通用模型,在你的業務場景里到底能不能把那些分散的調用量合并起來。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.