警惕！大模型成本倒掛：你正在為模型的多余「思考」買單

在選擇使用大模型 (LLM) 時，除了模型性能強弱，價格也是一個重要指標。人們通常會用大模型的 API 定價更貴或更便宜，來比較模型的價格高低。但事實上，定價低的模型真的比定價高的模型使用起來更便宜嗎？

如今，一項來自斯坦福、加州伯克利大學、卡內(nèi)基梅隆大學和微軟研究院的研究，揭示了 AI 模型中的價格倒掛現(xiàn)象：低定價的 AI 模型，反而有可能產(chǎn)生更高的實際開銷！

• 論文標題：The Price Reversal Phenomenon: When Cheaper Reasoning Models End Up Costing More
• 論文地址：https://arxiv.org/abs/2603.23971

圖 1 給出了主流模型的定價和它們在實際任務上的開銷。

圖 1: 左圖展示了模型定價和實際花銷的關系，右圖給主流模型定價和實際價格各自排序。揭示了價格倒掛現(xiàn)象：低定價的模型反而產(chǎn)生了更高的實際開銷。

GPT-5.2 的 API 定價是 Gemini 3 Flash 的 4.5 倍，但其實際成本僅為 Gemini 3 Flash 的 81%。類似地，Claude Opus 4.6 的 API 定價是 Google Gemini 3.1 Pro 的兩倍，但其實際成本卻低了 35%。

這到底是怎么回事？今天，我們就一起探討這項研究。

AI 模型開銷的審計框架

為了精準刻畫 AI 模型的實際開銷，研究聚焦于 8 個廣泛使用的前沿推理模型，包括 GPT-5.2、GPT-5 Mini、Gemini 3.1 Pro、Gemini 3 Flash、Claude Opus 4.6、Claude Haiku 4.5、Kimi K2.5 和 MiniMax M2.5。推理任務則囊括了包括 AIME、 Humanity's Last Exam、MMLUPro 等 9 個主流數(shù)據(jù)集。

前沿模型通常采用按量付費的定價機制，即用戶為發(fā)送的每個查詢分別付費。

這種定價機制對于給定模型通常涉及兩個組成部分：每單位輸入 token 的價格，以及每單位輸出 token 的價格。對于給定查詢，成本是兩個價格按提示 token 數(shù)和輸出 token 數(shù)加權的總和。（為了便于理解， 下文中的討論都使用平均加權。 對更多不同加權情況感興趣的話，可以在互動網(wǎng)站上嘗試：https://price-reversal.streamlit.app/）

AI 模型的成本倒掛現(xiàn)象

圖 2: 實際成本排名在不同任務之間存在顯著差異。

測試發(fā)現(xiàn)：定價排名與實際成本排名的巨大反差，且這樣的價格逆轉是普遍存在的。根據(jù)固定標價 API 定價進行的標準評估是具有誤導性的。

例如，Gemini 3 Flash 的標價（$3.5）僅為 GPT-5.2 價格（$15.75）的 22%，但其在 MMLUPro 上的實際成本實際上是后者的六倍（見圖2）！

根據(jù) API 標價，Gemini 3 Flash 是第三便宜的模型，但它在 MMLUPro 上是最昂貴的。其實際成本幾乎是 Gemini 3.1 Pro 的兩倍。

為量化價格逆轉的普遍程度，研究人員檢查了所有 8 個模型組成的 28 個模型對，在 9 項任務上的表現(xiàn)，共產(chǎn)生 252 次成對成本比較，其中21.8%（55 次）比較表現(xiàn)出價格逆轉。

這意味著，僅基于標價的成本判斷中，大約每五次就有一次是錯誤的。同時模型的相對成本排序高度依賴于任務。一個在某個數(shù)據(jù)集上便宜的的模型可能在另一個數(shù)據(jù)集上成為最昂貴的之一。

為什么會出現(xiàn)倒掛現(xiàn)象？

我們先來介紹一個有趣的現(xiàn)象：一個富人和窮人同時購買靴子。富人花費了 100 元購買了一雙好靴子，而窮人為了省錢，只能支付 15 元購買了壞靴子。好靴子可以使用 10 年，而壞靴子只能使用 1 年。結果，窮人不得不每年購買一雙壞靴子。一個悖論就此出現(xiàn)了：窮人為了省錢購買了便宜的靴子，但卻花費了更多的錢。這就是社會經(jīng)濟學中著名的靴子理論（Boots Theory）：看上去價格便宜的商品，有可能帶來更高的總成本。

研究發(fā)現(xiàn)有些 AI 模型也出現(xiàn)了類似的 “靴子現(xiàn)象”, 問題的關鍵是推理 token。

圖 3:圖中展示了模型真實價格的具體拆分：輸入、推理、輸出。不同模型在相同任務上消耗的推理token 數(shù)量差異巨大。

首先，推理 token 是模型開銷的主要來源。如圖 3 所示，在模型的開銷里，輸入的 prompt 和輸出的最終結果通常只消耗總成本的 10% 不到，而大部分的開銷都來自于推理 token。這一分解揭示了思考 token 幾乎在所有模型中都是主導的成本組成部分。其次，不同模型的推理 token 的數(shù)量差距極大！例如，Gemini 3 Flash 所生成的推理 token，是 GPT-5.2 的將近 10 倍。

圖 4: 在同一道 AIME 題目上，GPT-5.2 使用 562 個思考 token，而 Gemini 3 Flash 使用超過 11,000 個，導致實際成本高出 2.5 倍。

圖 4 給出了一個具體的例子。給定同一道 AIME 2025 題目，GPT-5.2 和 Gemini 3 Flash 得出的最終答案一樣，最終的思路也大致相同。然而，得到這一思路和答案的過程卻大相徑庭：GPT-5.2 僅僅使用約五百個 token 就完成了思考，而 Gemini Flash 卻需要超過一萬個 token。這揭示了開銷逆轉的本質(zhì)來源于思考 token 數(shù)量的巨大差距。

圖 5: 從實際成本計算中去除思考 token 成本。(a) 標價排名與實際成本排名之間的相關性在所有任務中均顯著提高。(b) 成對排名逆轉數(shù)平均減少 70%。

事實上，去掉思考 token 可以使得實際開銷和模型定價保持高度一致。如圖 5 所示，去除思考 token 成本顯著恢復了所有 9 項任務的排名一致性，并且使得排名逆轉的數(shù)量減少了 70%。這進一步驗證了思考 token 才是成本倒掛的隱藏殺手。

我們可以直接預測任務成本嗎？

圖 6: 實際開銷的不可預測性。對每一個 AIME 數(shù)據(jù)集上的任務跑 5 次所產(chǎn)生的推理 token 數(shù)量。對于固定的任務和固定的模型，多次實驗所產(chǎn)生的 token 數(shù)，也有著巨大的差異。這意味著推理 token 數(shù)量本身就是不可預測的。

既然定價不能準確反映實際開銷，我們是否可以直接預測實際開銷呢？

實踐表明：實際開銷其實是一個高度不可預測的量！

如圖 5 所示，研究人員在數(shù)學競賽數(shù)據(jù)集上多次運行同一個模型，發(fā)現(xiàn)它們的推理 token 的數(shù)量差距巨大。例如，對第 6 個任務，GPT-5.2 的推理 token 數(shù)最大可達五萬，最低只需 2 萬，達到了 2.5 倍的差距。這就意味著，推理 token 數(shù)本身帶有巨大的隨機性，因此，推理 token 數(shù)具有高度的不確定性和不可預測性，從而讓實際開銷的預測變得極為困難。

結論

這一研究發(fā)現(xiàn)了AI 模型領域的靴子現(xiàn)象：定價更低的模型反而可能帶來更高的實際開銷。同時，它又指出了實際開銷的不確定性和不可預測性。這表明，要選取物美價廉的 AI 模型，并不是看看價目表就夠了。

作者們還開源了使用的數(shù)據(jù)，提供了一個可互動的網(wǎng)站，為后續(xù)研究提供了基礎。

• 數(shù)據(jù)：https://github.com/lchen001/pricing-reversal
• 網(wǎng)站：https://price-reversal.streamlit.app/

作者介紹

本文由來自斯坦福大學、加州伯克利大學、卡內(nèi)基梅隆大學、和微軟研究院的 Lingjiao Chen, Chi Zhang, Yeye He, Ion Stoica，Matei Zaharia，James Zou 等 6 位作者完成。

• Lingjiao Chen，斯坦福大學博士，微軟研究院資深研究員。
• Chi Zhang，卡耐基梅隆大學博士。
• Yeye He，微軟研究院首席研究員。
• Ion Stoica，加州伯克利大學教授，美國工程院院士，Databricks 創(chuàng)始人兼主席。
• Matei Zaharia，加州伯克利大學教授，Databricks 創(chuàng)始人兼首席技術官。
• James Zou，斯坦福大學教授。