北京
北京大學用光連接芯片，以極少的計算資源實現超百倍的計算加速。
中國研究人員構建了一種光學互連系統，能極大加快分布式人工智能推理的速度，而所用的計算資源僅為傳統GPU系統的一小部分。該原型系統將推理速度提升了100多倍，但算力消耗僅相當于商用GPU的約九分之一。
該系統由北京大學的研究團隊開發，通過片上全光網絡而非傳統的電互連，將多個計算芯片連接起來。這種方法旨在減少延遲并改善芯片間的數據移動——而數據移動正是擴展人工智能工作負載時日益突出的瓶頸之一。
該平臺的核心是一個400 Gbps的硅光子收發器，負責將電信號轉換為光信號，再轉換回電信號。與之協同工作的還有一個定制的16×16光開關芯片，可在計算節點間路由數據，由此構成一個總交換帶寬高達6.4 Tbps的可擴展通信網絡。
研究人員表示，這一設計將重點從單純增加計算硬件，轉移到改善芯片間的通信方式上來，從而使多個處理器在人工智能推理過程中能夠更高效地協同工作。
用光消除瓶頸
這款光開關的一個關鍵特性是總損耗（包括耦合損耗）低于5 dB。據團隊介紹，這使其無需外部光增益補償，就能實現高速、無誤碼的傳輸。該光開關還能在多個通信路徑上保持無誤碼性能，并支持超過100 nm的光譜響應，適合未來通過波分復用進行帶寬擴展。
為了演示這一架構，研究人員部署了一個用于圖像去噪的五層卷積神經網絡。每一層被分配到各自獨立的計算單元，光開關則將這些處理器連接成一條流水線。
系統無需先將中間數據反復存入內存再發送給下一個處理器，而是直接通過光網絡傳輸特征圖。這減少了與內存傳輸相關的延遲，并使計算單元能夠持續工作。
與執行相同圖像去噪任務的商用GPU相比，該光學系統的推理速度提升了一百多倍，而計算資源僅用了約九分之一。
以不同方式擴展人工智能
研究人員相信，這項工作展示了一條在模型規模持續增長背景下提升人工智能性能的不同路徑。
作者寫道：“當算法、處理器微架構和芯片級互連進行協同設計時，可以在有限的計算資源下實現特定目標。”
他們補充說：“這種結構還可以緩解數據中心不可持續的能耗問題，并在邊緣計算場景中優化延遲或功耗。”
團隊表示，共封裝光學、硅光子收發器以及更快的人工智能芯片接口等方面的進展，有助于將片上光學超級節點轉變為未來分布式計算系統的實用基礎。這類系統能夠提供支持下一代人工智能工作負載所需的高帶寬、低延遲和高能效，而不必單純依賴越來越大且功耗越來越高的處理器集群。
該研究發表在《國家科學評論》（National Science Review）期刊上。
如果朋友們喜歡，敬請關注“知新了了”！
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
