7月17日,星環科技在上海世界人工智能大會(WAIC)上發布GPU原生認知數據庫預覽版,該產品將數據庫完整功能遷移至GPU運行,試圖重構數據庫底層計算架構。
星環科技創始人孫元浩稱,星環科技是目前全球唯一將完整數據庫功能在GPU上運行的公司,領先國際競爭對手一代。據他介紹,在TPC-DS基準測試中,該產品使用多卡GPU可在數秒內完成1TB數據集的99個復雜查詢,而傳統CPU方案需要數十秒至數百秒。
孫元浩表示,該產品研發周期約一年半,預覽版發布后已開放客戶測試申請,正式版預計今年年底前上線。
此次產品發布的背景是,企業級AI應用正從大模型問答向AI Agent方向演進。孫元浩表示,AI Agent在執行任務過程中會持續調用數據、檢索知識,單次任務可能發起數百次數據訪問。傳統CPU數據庫在面對高并發Agent負載時,計算核心和內存帶寬不足,且數據在CPU與GPU之間搬運帶來的時延問題突出。
一位數據庫行業人士表示,將完整數據庫功能遷移至GPU在工程上難度極高,涉及存儲引擎、查詢優化器、事務管理等模塊的全面重寫。
GPU擁有萬級并行計算單元和數TB/s級高帶寬顯存。星環科技的方案是將數據庫整體遷移至GPU運行,使數據分析計算與模型推理在同一顯存內完成,避免跨芯片數據搬運。孫元浩稱,這一架構改變了對傳統CPU-GPU 1:1配比的需求,GPU空閑算力也可被充分利用。
除計算架構變化外,新產品還將知識檢索、上下文供給與長期記憶管理納入同一數據庫底座。孫元浩將其定義為“認知數據庫”,稱其不只記錄結構化數據,還能理解文檔內容、自動建立關聯。據其介紹,該系統記憶準確率超過90%,在BEAM 500K和LongMemEval-S基準測試中超過主流開源記憶系統。
在GPU加速數據庫領域,Snowflake和Databricks均在探索相關技術路徑。孫元浩評價稱,國際公司的嘗試時間更長,但僅實現局部加速,加速比平均約1.5倍,GPU比CPU貴兩三倍,1.5倍的加速沒有經濟性。
從客戶側看,孫元浩表示,對GPU原生數據庫反饋最積極的行業包括金融、制造、零售和交通。在本次WAIC展會上,星環科技展示了浦發銀行、天津能源投資集團等客戶的案例。以信貸全鏈路分析為例,面對4.8億條明細數據,GPU原生數據庫實現了特定場景下449倍的性能提升;在智能投研場景中,性能提升覆蓋30倍至5881倍。
不過,性能數據能否轉化為商業收入仍存不確定性。星環科技近年財報顯示公司尚未盈利,企業級基礎軟件的拓展受限于客戶預算周期。GPU原生數據庫的定價策略、與現有產品的兼容遷移方案、以及從試用到采購的轉化率,將決定該產品能否成為新的增長點。
在產品矩陣方面,星環科技同時展示了大模型運營平臺Sophon LLMOps、智能體開發平臺AgentBox、智能數據平臺XClaw和數據治理平臺Astro,覆蓋從語料治理到智能辦公的鏈路。但孫元浩強調,公司核心仍是數據基礎軟件,數據庫和大數據平臺是主業。
談及算力成本,孫元浩認為,盡管Token單價在下降,但企業實際使用中的總成本仍然高昂,他判斷,未來兩三年硬件將有革命性變化,軟件層面也在重構,必須通過軟硬件聯合創新持續降低推理成本,企業才能大規模用得起AI。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.