一卡難求與算力閑置并存：AI下半場(chǎng)，誰(shuí)來(lái)重新“組織”算力？

天罡智算打造第三方AI開放生態(tài)市場(chǎng)

當(dāng)AI產(chǎn)業(yè)邁入2026年，一個(gè)新的變化正在發(fā)生。

過(guò)去兩年，行業(yè)討論最多的是GPU、智算中心和大模型訓(xùn)練。誰(shuí)擁有更多高端GPU，誰(shuí)就擁有更強(qiáng)的競(jìng)爭(zhēng)優(yōu)勢(shì)。

但當(dāng)AI逐漸進(jìn)入更廣泛的企業(yè)應(yīng)用場(chǎng)景，一個(gè)略顯矛盾的現(xiàn)象開始變得突出：一邊是高端算力依然緊張，另一邊卻沉淀著大量未被充分利用的上一代GPU、國(guó)產(chǎn)算力卡、消費(fèi)級(jí)顯卡以及分散在不同智算中心的存量資源。

日前，天罡智算創(chuàng)始人楊旭穎在接受采訪時(shí)，明確指出了這個(gè)問(wèn)題：“當(dāng)AI產(chǎn)業(yè)從傳統(tǒng)粗放式增長(zhǎng)邁向高質(zhì)量發(fā)展階段，算力資源存在的結(jié)構(gòu)性錯(cuò)配是產(chǎn)業(yè)必須直面和解決的重點(diǎn)和難/點(diǎn)。”

對(duì)于越來(lái)越多的AI應(yīng)用企業(yè)而言，底層使用哪一種GPU并不是他們最關(guān)心的，他們真正關(guān)心的是模型是否好用、API是否穩(wěn)定、推理是否高效，以及每百萬(wàn)Token需要付出多少成本。

下游市場(chǎng)的需求影響著算力的供給。對(duì)于算力產(chǎn)業(yè)鏈上中游而言，需要重新思考一個(gè)命題：如何提升算力資源的利用效率，將有限的資源轉(zhuǎn)化為穩(wěn)定、可計(jì)量、可持續(xù)交付的AI服務(wù)？

三次業(yè)務(wù)迭代，背后都是同一件事：讓算力離真實(shí)需求更近

“提升算力資源利用效率，打通AI應(yīng)用企業(yè)最后一公里”，是天罡智算平臺(tái)自成立以來(lái)就持續(xù)思考并不斷踐行的使命。對(duì)于如何回應(yīng)市場(chǎng)之需、助力產(chǎn)業(yè)鏈高質(zhì)量發(fā)展，平臺(tái)以持續(xù)迭代優(yōu)化的產(chǎn)品和“冗余算力價(jià)值化、技術(shù)賦能全產(chǎn)業(yè)鏈”的產(chǎn)業(yè)實(shí)踐，給出了自己的思考和探索。

2024年，天罡智算最早從裸金屬租賃切入。當(dāng)時(shí)客戶最迫切的問(wèn)題是“有沒有算力”，平臺(tái)所做的，是把市場(chǎng)中分散、閑置的算力資源與企業(yè)需求連接起來(lái)，讓客戶先獲得可用資源。

到了2025年，問(wèn)題變成了“算力好不好用”。平臺(tái)看到了大量中小企業(yè)無(wú)法充分消耗整機(jī)柜與大集群的算力服務(wù)器的新痛點(diǎn)。由此上線彈性GPU，通過(guò)虛擬化、容器化和資源調(diào)度進(jìn)一步縮小GPU顆粒度，把交付和計(jì)費(fèi)細(xì)化到GPU卡時(shí)。

2026年，隨著AI應(yīng)用加速進(jìn)入生產(chǎn)場(chǎng)景，客戶關(guān)注的重點(diǎn)進(jìn)一步從底層資源轉(zhuǎn)向模型產(chǎn)出。天罡智算推出Token工廠，把底層算力、模型部署、推理優(yōu)化和運(yùn)行調(diào)度封裝起來(lái)，通過(guò)統(tǒng)一API交付模型能力。算力的交付單位由“整機(jī)”變成“卡時(shí)”，再進(jìn)一步縮小到Token。

“學(xué)習(xí)讓我們跟得上時(shí)代，客戶需求讓我們走對(duì)方向。”楊旭穎在采訪中表示，“我們始終以冗余算力的價(jià)值最大化為方向，變化的是賣算力的方法，以及圍繞客戶需求不斷升級(jí)的配套服務(wù)。”

天罡智算作為國(guó)內(nèi)知名的第三方產(chǎn)業(yè)開放生態(tài)市場(chǎng)，讓供給更接近企業(yè)真正消耗算力的需求，讓用戶真正用好、用優(yōu)AI。

算力平臺(tái)：從“Token工廠”到全產(chǎn)業(yè)鏈賦能

把算力交付顆粒度進(jìn)一步縮小到Token之后，平臺(tái)進(jìn)一步聚焦Token的產(chǎn)出和單位Token成本，以實(shí)現(xiàn)把不同來(lái)源、不同架構(gòu)的算力轉(zhuǎn)化為穩(wěn)定、高質(zhì)量的模型服務(wù)。

天罡智算通過(guò)三大自研技術(shù)全面打通算力資源層、算力編排層、推理引擎層和模型API層。其中神經(jīng)中樞智能路由系統(tǒng)技術(shù)，根據(jù)任務(wù)精度、性能和成本要求智能匹配模型與算力，60%-80%日常業(yè)務(wù)自動(dòng)分配至冗余閑置算力，高精度業(yè)務(wù)路由至高端算力；異構(gòu)算力編排與實(shí)例調(diào)度技術(shù)，運(yùn)用異構(gòu)算力編排技術(shù)等，系統(tǒng)優(yōu)化算力、運(yùn)行環(huán)境與模型適配度，盤活迭代舊算力與國(guó)產(chǎn)閑置算力，實(shí)現(xiàn)冗余算力商用價(jià)值再生；推理引擎優(yōu)化與Token生成技術(shù)，基于用戶請(qǐng)求，通過(guò)推理優(yōu)化和跨芯片適配提升了Token生成效率，實(shí)現(xiàn)高吞吐量、低延遲、高性價(jià)比。

在此基礎(chǔ)上，天罡智算的平臺(tái)價(jià)值也正在從單一的算力盤活向產(chǎn)業(yè)鏈上下游延伸——正如互聯(lián)網(wǎng)時(shí)代的平臺(tái)重新組織商品與運(yùn)力，AI時(shí)代同樣需要平臺(tái)重新組織算力資源、模型能力和應(yīng)用需求。

對(duì)上游，平臺(tái)通過(guò)持續(xù)的真實(shí)業(yè)務(wù)流量幫助芯片廠商驗(yàn)證和迭代產(chǎn)品，通過(guò)規(guī)模化需求聚合幫助智算中心與資產(chǎn)方盤活存量算力、提升資產(chǎn)利用效率，并為模型廠商提供更具性價(jià)比的推理資源與直達(dá)應(yīng)用側(cè)的商業(yè)化渠道；

對(duì)下游，平臺(tái)則為Agent應(yīng)用與用戶方提供穩(wěn)定、低成本的多模型基座與用戶連接能力，為終端行業(yè)客戶提供開箱即用的場(chǎng)景化解決方案，使其無(wú)需自建復(fù)雜技術(shù)棧，即可一站式調(diào)用Token開展業(yè)務(wù)。

從資源到場(chǎng)景、從供給到需求，天罡智算正在將單點(diǎn)的算力交易升級(jí)為對(duì)全產(chǎn)業(yè)鏈的雙向賦能。

把資源效率放到全球市場(chǎng)，算力出海有了另一種邏輯

楊旭穎認(rèn)為，Token作為一種可計(jì)量、可標(biāo)準(zhǔn)化交付的產(chǎn)品，其流轉(zhuǎn)天然不受物理邊界和地域限制，這為算力資源的匹配范圍從區(qū)域市場(chǎng)進(jìn)一步推向全球創(chuàng)造了新機(jī)遇。

對(duì)于海外開發(fā)者和AI創(chuàng)業(yè)公司而言，模型調(diào)用成本高、接口分散、服務(wù)穩(wěn)定性不一同樣是現(xiàn)實(shí)問(wèn)題。相比直接輸出服務(wù)器或硬件，以API形式交付Token更高效、便捷。

此外，不同國(guó)家和地區(qū)的業(yè)務(wù)高峰并不同步，如果能夠把海外AI應(yīng)用請(qǐng)求與國(guó)內(nèi)可用算力進(jìn)行匹配，就有機(jī)會(huì)利用跨時(shí)區(qū)的負(fù)載差異，提高算力資源全天候的利用效率。

天罡智算的出海邏輯并不只是“把Token賣到海外”，而是將國(guó)內(nèi)具有成本優(yōu)勢(shì)的模型和算力能力與海外應(yīng)用需求重新匹配。對(duì)于一家從冗余算力價(jià)值再生起步的平臺(tái)，這與國(guó)內(nèi)業(yè)務(wù)其實(shí)是同一個(gè)命題：擴(kuò)大需求半徑，讓更多閑置資源找到有效負(fù)載。

讓每一份算力都被“組織”起來(lái)：平臺(tái)成為AI產(chǎn)業(yè)效率的新底座

當(dāng)AI從基礎(chǔ)資源建設(shè)進(jìn)入規(guī)模化應(yīng)用階段，算力產(chǎn)業(yè)的價(jià)值重心也在從單純的“資源供給”向“資源運(yùn)營(yíng)與智能交付”延伸。上游芯片、算力中心和模型能力需要更高效地進(jìn)入真實(shí)業(yè)務(wù)，下游開發(fā)者、Agent和企業(yè)則需要以更低門檻獲得穩(wěn)定的AI能力。在這一變化中，連接供需兩端的平臺(tái)層，正在成為影響產(chǎn)業(yè)效率的重要變量。

“未來(lái)真正決定AI產(chǎn)業(yè)發(fā)展的，不是誰(shuí)擁有最多GPU，而是誰(shuí)能夠讓每一份算力創(chuàng)造更大的產(chǎn)業(yè)價(jià)值。”楊旭穎說(shuō)。

天罡智算所處的正是這一連接層。它不生產(chǎn)芯片和基礎(chǔ)大模型，而是從冗余算力的高效利用切入，通過(guò)深刻市場(chǎng)洞察和前沿產(chǎn)品賦能，把分散的算力和模型能力轉(zhuǎn)化為應(yīng)用可直接消費(fèi)的服務(wù)。由此看，其未來(lái)的想象空間或許不只在于賣出多少算力或Token，而在于能否持續(xù)提升產(chǎn)業(yè)鏈上下游的資源流轉(zhuǎn)與供需匹配效率，成長(zhǎng)為AI產(chǎn)業(yè)中的平臺(tái)型角色。