JEDEC正式發表備受期待的下一代高頻寬記憶體(HBM) DRAM標準:HBM4。JESD270-4 HBM4將在HBM3的基礎上,進一步提高資料處理速度,同時保持高頻寬、能源效率及大儲存容量等基本特徵,因為更高的頻寬使得更高的資料處理速率成為可能。該標準已在JEDEC官網上開放下載。
HBM4帶來的進步,對於需要有效處理大型資料集和複雜運算的應用至關重要,包括生成式人工智慧(AI)、高效能運算(HPC)、高階顯示卡和伺服器。在前一版本標準的基礎上,HBM4引入了許多改進,包括:
• 增加頻寬:HBM4在2048位元的介面上,以高達8Gb/s的傳輸速度,將總頻寬提高至2TB/s。
• 雙倍通道:HBM4每個堆疊的獨立通道數從16個通道(HBM3)增加到32個通道,每個通道有2個虛擬通道。這為設計者提供了更多的靈活性和獨立的方式來存取記憶體堆疊。
• 能源效率:JESD270-4支援供應商專用的VDDQ(0.7V、0.75V、0.8V或0.9V)和VDDC(1.0V或1.05V)電壓水平,從而降低功耗並改善能源效率。
• 相容性和靈活性:HBM4介面的定義與現有的HBM3控制器向後相容,允許在各種應用中實現無縫整合和靈活性,並允許單一控制器在需要的情況下同時與HBM3和HBM4協同工作。
• 定向刷新管理(DRFM):HBM4引入了定向刷新管理機制,能更有效緩解Rowhammer攻擊,並提升可靠性、可用性和可維護性(RAS)。
• 容量:HBM4支援4層、8層、12層和16層的DRAM堆疊配置,搭配24Gb或32Gb的DRAM晶片,每個堆疊的容量最高可達64GB(32Gb 16層堆疊)。
NVIDIA技術行銷總監暨JEDEC HBM小組主席Barry Wagner表示,高效能運算平台正在快速演變,需要在記憶體頻寬和容量方面的創新。HBM4是與科技產業領導者合作開發的成果,可推動AI及其他加速應用的高效能運算邁向新的飛躍。超微(AMD)資深副總裁暨計算與圖形技術長Joe Macri表示。該公司AMD為能與JEDEC及產業夥伴合作開發這一標準而感到自豪。HBM4能夠滿足現代計算不斷變化的需求。隨著帶寬的增加、電源效率的提升和容量的增強,HBM4將在推動各種應用的前沿進步中發揮重要作用。”
除了主要的GPU供應商外,EDA工具與矽智財(IP)供應商益華電腦(Cadence)、新思(Synopsys),記憶體業者美光(Micron)、三星電子(Samsung Electronics)、SK海力士(SK Hynix),以及雲端服務業者Google、Meta也都宣布將支持HBM4標準。