英偉達Rubin GPU詳細架構首曝：性能10倍提升！

快科技7月23日消息，英偉達官方發布了Rubin GPU架構技術詳解，這也是英偉達即將推出的Vera Rubin平臺的核心計算單元。

根據官方公布的數據，在單位能耗下，Rubin NVL72+Vera CPU的Agentic AI推理吞吐量，相比Blackwell NVL72+x86 CPU提升最高可達10倍。

Vera Rubin平臺相比Blackwell的10倍智能體推理性能提升

完整的Vera Rubin NVL72機架由36個Vera CPU和72個Rubin GPU組成，有關Vera CPU我們已經介紹過，今天的重點是Rubin GPU。

整體來看，Rubin GPU采用臺積電3nm N3P制程工藝，由兩顆計算芯粒組成，通過NVIDIA高速片間互聯接口NV-HBI統一在單個封裝上。

整顆芯片集成3360億個晶體管，擁有224個SM流處理器和896個Tensor Core張量核心，搭載第三代Transformer引擎，可提供最高50 PF的NVFP4推理性能。

Rubin GPU芯片架構框圖

顯存方面，Rubin集成最高288GB HBM4，共配置8組12-Hi堆疊，峰值帶寬達22TB/s，相比Blackwell和Blackwell Ultra提升2.8倍。

Rubin內存帶寬相比Blackwell提升2.8倍

此外，第六代NVLink提供3600GB/s擴展帶寬用于GPU間全互聯通信，NVLink-C2C提供1800GB/s用于CPU-GPU一致性通信，PCIe Gen6 x16提供256GB/s主機連接。

針對當前主流MoE（混合專家）模型的擴展瓶頸，Rubin增強了Tensor Memory Accelerator（TMA），通過優化描述符管理機制，可更高效地定位和調度專家權重，減少數據搬運開銷。

多個內核還可為共享相同布局的張量保留統一描述符，在運行時直接通過TMA指令覆蓋內存指針和步長等字段，減少元數據管理和數據搬運開銷，讓更多GPU時間用于實際推理計算。

Rubin簡化MoE描述符管理機制，右為Rubin架構

Rubin另一項核心升級是Tensor Core，每時鐘周期的K維度吞吐量翻倍，意味著更少的循環迭代次數，Blackwell需要4次K迭代的GEMM運算，Rubin只需2次即可完成，減少了循環開銷并提高了Tensor Core利用率。

左為Blackwell，右為Rubin

長上下文注意力加速是Rubin的另一大升級，Rubin將激活稀疏化與自適應壓縮結合，將中間數據加載為2:4稀疏格式，僅保存非零數據及對應元數據。

后續softmax和第二注意力GEMM均可基于非零值運算，同時保持最終輸出仍為標準Dense格式，在不改變模型接口的前提下減少計算量和數據搬運。

此外，Rubin還提升了Softmax及指數運算性能，FP32吞吐達到GB300水平，是GB200的2倍；BF16/FP16吞吐相比GB200提升4倍，相比GB300提升2倍。

Rubin自適應壓縮稀疏化

在內核間依賴調度方面，Rubin實現了比Blackwell更精細的協調，Blackwell啟動允許Kernel更早開始工作，但仍需等待激活數據可用。

而Rubin支持瓦片級觸發，允許后續Kernel在所需輸入數據準備完成后即可提前啟動，不用等待更大范圍的工作完成，從而壓縮GPU時間線中的空閑間隙。

上為Blackwell批量觸發，下為Rubin瓦片級觸發

GPU間通信方面，Rubin引入了計數寫入（Counted Writes）機制用于設備發起的NVLink通信。傳統GPU間數據傳輸需要額外的協調和同步步驟，計數寫入則允許接收端GPU更高效地跟蹤傳輸完成狀態，減少同步延遲，讓計算不必等待同步操作。

通過計數寫入加速NVLink通信，左為Blackwell，右為Rubin

在機架級能效管理上，Vera Rubin NVL72將計算、網絡、液冷、功率調節和智能功率平滑整合為單一執行域。系統通過集成儲能模塊，可吸收GPU瞬時功率波動，平均功耗降低約10%，50毫秒峰值功耗降低約20%。

英偉達還推出DSX OS操作系統，其中集成DSX MaxLPS，可統一管理GPU、機柜、液冷系統以及AI工作負載，可在相同功率預算下多部署最多40%的GPU。