新處理器直接在存儲器內部執行計算,從而降低功耗并加快數據處理速度。
![]()
人工智能芯片開發商SK海力士與TetraMem展示了一款全新的以內存為中心的處理器,能夠在存儲器內部直接執行AI計算。該設計旨在降低能耗,并減少因數據在處理器與存儲器之間頻繁搬移所造成的瓶頸。
兩家公司宣布完成了一項以模擬存內計算(A-IMC)片上系統(SoC)為核心的聯合技術合作。這一成果展示了內存如何能夠承擔部分計算任務,而不僅僅是存儲數據。
該原型利用基于憶阻器的存內計算來高效執行深度卷積運算,這是許多AI推理模型中的關鍵操作。通過直接在存儲AI模型權重的地方處理數據,該架構減少了在內存與處理器之間反復傳輸信息的需要。
這種方法直指現代AI硬件面臨的最大挑戰之一。隨著AI模型參數從數十億增長到數萬億,數據搬移已成為計算系統中功耗、延遲和發熱的主要來源。
直接在內存內計算
傳統AI芯片需要不斷在計算單元和內存之間搬運數據,既耗時又耗能。模擬存內計算則通過直接在存儲陣列內執行矩陣計算來改變這一工作流程,從而減少不必要的數據傳輸。
該聯合項目將TetraMem的模擬存內計算平臺與SK海力士在先進內存技術方面的專長相結合。兩家公司還將新興存儲器件、電路設計、AI架構、軟件和系統優化集成到了同一個半導體平臺上。
TetraMem首席執行官兼聯合創始人Glenn Ge表示:“我們很榮幸能與SK海力士共同慶祝這一重要里程碑。這一成就展示了整個半導體生態系統通過緊密合作所能實現的目標。”
據兩家公司稱,這項工作不僅僅證明了模擬存內計算的概念,更展示了一款集成了多層硬件與軟件工程的實用AI片上系統。
應對AI瓶頸
日益增長的AI工作負載給芯片制造商帶來了更大壓力,要求他們在不犧牲性能的前提下提高能效。以內存為中心的計算已成為一種可能的解決方案,因為搬移數據的能耗往往高于計算本身的能耗。
Glenn Ge還表示:“我們相信,以內存為中心的計算和模擬存內計算,將成為應對未來AI能效與散熱挑戰的關鍵技術,我們期待繼續與SK海力士合作。”
該項目標志著SK海力士的一項戰略舉措,即從傳統的內存制造,拓展至先進計算架構領域。盡管該公司是標準AI系統所用的動態隨機存取存儲器(DRAM)和高帶寬內存(HBM)的主要生產商,但這一原型正朝著神經形態計算的方向邁進。
SK海力士副總裁金秀吉(Soo Gil Kim)表示:“我們很高興看到此次合作取得圓滿成功,并獲得《先進智能系統》期刊的認可。這個項目展現了探索創新內存技術與新型計算架構對未來AI系統的價值。”
該研究論文還被選為該期刊的封面文章,突出了其對下一代AI硬件的技術貢獻。兩家公司表示,計劃繼續在內存技術、計算架構和系統集成方面展開合作,共同構建未來的AI基礎設施。
這項題為《一款基于憶阻器的高效深度卷積存內計算片上系統》的研究發表于《先進智能系統》(Advanced Intelligent Systems)期刊。
如果朋友們喜歡,敬請關注“知新了了”!
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.