超節點,一個頻頻在世界人工智能大會上出現的熱詞。
紅星資本局注意到,人工智能行業正在發生變化。當討論到算力問題時,相較于過去總關注“單顆芯片的性能”,現在的關注點更多轉移到類似于超節點的系統解決方案。
在AI行業的算力競爭中,單卡性能或不再是唯一標準,有效算力背后的整體系統工程已成為各大廠商比拼的新戰場。
不過,超節點等硬件設施能徹底解決算力緊缺問題嗎?
刷屏的超節點是什么?
上千張AI芯片組成一臺“超級計算機”
一組組黑色的機柜被搬上了世界人工智能大會的展臺。
在世博展覽館H2展區,走一段路就能看到“超節點”等字樣的標識。剛從這一組機柜離開,轉眼又看到一組黑色的機柜,觀眾們圍著機柜合影打卡,也有人向工作人員咨詢相關參數。
![]()
圖據華為公眾號
超節點,已成為在世界人工智能大會上刷屏的熱詞,但這到底是什么?
要解釋超節點,就必須說清楚“通信墻”問題。
當前,一張AI芯片無法滿足AI大模型的計算需求,只能靠堆疊多張芯片把任務拆分來干,一般是以Scale-out(橫向堆疊)的方式組成超大集群,但這會導致“算得快、傳得慢”。有數據顯示,在超高參數級別的大模型訓練中,計算單元約40%時間在“空等”通信。
而超節點則是放大Scale-up(縱向堆疊)的范圍,讓更多芯片通過高帶寬、低時延的方式連接,像一臺超級計算機一樣協同高效工作。
![]()
往每臺服務器中塞多張GPU芯片,這就是Scale-up,此時每臺服務器就是一個節點;再把多個節點連接起來,這就是Scale-out。圖據中科院物理所官方賬號。
在此次大會上,最受矚目的超節點莫過于華為昇騰950超節點,這是其真機首秀。從數據上來看,它的單柜是64卡,共16臺計算柜、4臺靈衢柜,支持1024張AI芯片卡高速互聯。
不過,1024卡不是華為昇騰950超節點的極限。有華為的工作人員告訴紅星資本局,它真正的上限是8192卡,只是這次僅展出20個機柜、1024卡的配置,預計年底投入商用。
這是目前業界最大規模的超節點,有大模型正翹首以盼。早前,DeepSeek曾表示,隨著下半年昇騰超節點全系列產品批量上市,其Pro版價格有望大幅下調。
算力從“拼芯片”到“拼系統”
誰家的系統工程能提供更多的有效算力?
不僅僅是華為,多家廠商也帶來了差異化的超節點,從中興通訊的中興OEC超節點到新華三的UniPoD S80000超節點,再從阿里云的磐久AL128超節點到昆侖芯32/64卡超節點……
紅星資本局發現,當討論AI算力時,行業的關注點已經從“單顆芯片的性能”轉移到集芯片、有效算力、散熱、運維等為一體的系統方案。
以線纜為例,有業內人士告訴紅星資本局,通常,機柜以銅纜、光纖等實現互聯,但這些線纜可能會帶來一定程度的性能損耗、運維復雜度較高、故障點多等難題。
而現在,中興通訊已聯合多家合作伙伴打造出Matrix超節點,是以OEX正交超節點為基座,其正交無背板的設計實現了零線纜,互聯的成本能降低80%,能顯著提升運維效率。
![]()
圖據中興通訊公眾號
正如壁仞科技相關負責人在現場所說:當下,國產算力選擇“體系化突圍”,不靠單顆芯片硬碰硬,而是依靠超節點這類系統級創新,把上千顆國產芯片整合為高效協同的算力整體。
紅星資本局注意到,在各家超節點集中亮相時,算力集群同樣在系統方案上有新的突破。
其中,十萬卡AI超集群曙光8000真機首次公開亮相,它貫通了芯片、計算、存儲、網絡、散熱、應用和服務等關鍵環節,以全鏈路協同滿足十萬卡規模下多類型任務的復合計算需求。
![]()
圖由中科曙光提供
以散熱來說,Frore Systems聯合創始人兼CEO Seshu Madhavapeddy在世界人工智能大會上給出一組數據:如果GPU芯片溫度升高,性能效率指標就會急劇下降。同一塊GPU,運行溫度從65度上升到90度,其會損失30%的效率。
而中科曙光的工作人員告訴紅星資本局,曙光8000采用的是浸沒式液冷散熱系統,所有核心元部件浸沒在不導電的特殊液體中,這會把能源利用率提升至一個新高度,“實驗室的PUE值可以低至1.04,簡單來說,就是用1000瓦的電去做計算,只需要40瓦的電去散熱。”
這或許也意味著:在AI行業的算力競爭中,單卡性能或不再是唯一標準,有效算力背后的整體系統工程已成為各大廠商比拼的新戰場。
算力的終極解決方案是什么?
有人組建算力網,有人把目光投向太空
算力,儼然已成為AI時代的基建,但超節點、超集群現暫時無法徹底解決算力緊缺問題。
香港城市大學計算機學院教授林靜告訴紅星資本局,當前,AI尚未徹底融入人類的生活生產中;如果未來大規模使用,其所需要的算力相當龐大,要認真考慮地球的資源是否能滿足。
在林靜看來,想要真正解決算力的緊缺問題,有三種可能的方向:①提升人工智能的效能;②考慮馮·諾依曼的經典計算框架是否已不足以解決問題?發展量子計算等新計算范式;③發展太空算力,不消耗地球上的資源。
(注:公開資料顯示,當前,馮·諾依曼計算架構在處理特定復雜問題時,日益暴露出“存儲墻”、組合爆炸等固有效能瓶頸問題;行業內現已有人開始探索前沿的計算技術,如存算一體技術、光計算技術、量子計算技術。)
以太空算力為例,現已有組織、企業在推動發展。在世界人工智能大會“未來計算·未來算力”論壇上,上海“星樞計劃”太空算力星座正式發布,該項目由復旦大學聯合上海星樞天算航天科技牽頭研制運營,總規劃1000顆天基算力衛星。
![]()
圖由論壇主辦方提供
不過,也有業內人士告訴紅星資本局,太空算力最早由馬斯克等企業家提出,其受限于美國的供電環境;如果是在中國討論算力,完善的電力設施等資源足以支撐開發所需的地球算力。
紅星資本局了解到,當前,中國算力網也有了一定的發展。
鵬城實驗室主任、中國工程院院士高文在前述論壇中表示,中國算力網的發展需要經過三個階段:①算力資源匯聚;②在算力匯聚的基礎上,面向特定用戶群體開展協同運算;③在運營模式成熟后,算力網面向社會開放。
高文透露稱,目前,第一階段的任務已完成70%,全國70%的算力資源已納入實時更新的統一數據庫,該數據庫提供給國家數據局使用,可實時展示各算力中心的運行狀態等。
不管是算力網、發展太空算力,還是發展超節點等硬件設施提供算力,不同組織的不同人士都在為算力緊缺問題努力探索中,或許,算力在未來不再是需要考慮的問題。
紅星新聞記者 楊佩雯 上海報道
編輯 肖子琦 審核 官莉
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.