北京
“我當時正在抱怨調用GPT-4o的成本，心算了一下——假如我每月生成一萬份摘要，那是一筆不小的開銷。我那做資深工程師的朋友隨口說了句：‘為什么不試試Qwen3或DeepSeek？它們質量差不多。’”約半年前從編碼訓練營畢業的我，以為自己已經很懂AI的版圖。腦海里的選項無非是GPT-4o、Claude，或者偶爾有人提到的Gemini。直到我開始做一個副業項目，在推特帖子里頻繁看到“開源模型”這個詞，我才意識到自己完全不知道他們在講什么。我用了一整個周末扎進去研究，結果徹底被震撼了。所以寫下這個故事，或許能幫到那些同樣感覺被排除在對話之外的人。
朋友那句話像把鑰匙。我一邊抱怨成本，一邊聽到他說出“質量差不多”時，第一反應是：“等等，這些模型真能和那幾個大名鼎鼎的對手匹敵嗎？”他只回了一句：“你自己試試。”于是我就試了。試完之后，我看到了那張徹底改變我認知的價格表——開源模型通過API調用，輸出令牌的單價低到我從未想象過。Qwen3-8B和GLM-4-9B每百萬輸出令牌只要0.01美元。當初訓練營的講師說，價格始終是最大的門檻，但眼前這些數字分明在說，那個門檻已經快看不見了。
價格帶來的興奮過去后，下一個問題自然冒了出來：既然這些模型開源，何不自己部署？用自己的電腦跑，或者租個GPU云服務器？這個念頭把我拽進另一個深坑。我開始在Lambda Labs、RunPod和Vast.ai這類主流GPU租賃平臺上比價，結果很快發現，想法的確可行，但成本的數字讓我迅速冷靜。一張A100 GPU，全新的零售價就超過1萬美元，租用一張A100每月也要花400到800美元。如果要上八張卡，每月開銷最低就是4000美元，高的話能到8000美元。這個費用，單是想一想，就已經相當于每月付一輛車的貸款。
真正讓我冒冷汗的，是那些我當初根本沒考慮到的隱性成本。在朋友幫助下，我拼湊出一個更貼近現實的預算模型。除了租用GPU，你還需要備用服務器、存儲、網絡，最關鍵的是，得雇人盯著這些機器——總不可能自己24小時看著日志。至于八張A100的用電量，那幾乎可以單列成一個支出項。我那剛從訓練營畢業的頭腦里，還從來沒為“電費”預留過預算。原來，自己跑起AI，本質上是在運營一個小型數據中心。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
