預計2023~2030年全球雲端人工智慧(AI)市場的年均複合成長率為39.6%,規模將達6,476.1億美元。人工智慧基礎設施半導體連接解決方案廠商Astera Labs發表Compute Express Link(CXL)記憶體控制器Leo,與即將推出的第五代Intel Xeon可擴展處理器整合時,可將伺服器總記憶體頻寬提高50%,同時將延遲降低25%。透過新的硬體基礎的CXL連接記憶體和CPU本機記憶體的互動,Astera Labs和Intel消除了任何應用程式級軟體更改,以透過CXL增強伺服器記憶體資源。現有應用程式可即插即用,以盡量利用系統中的記憶體頻寬和容量。
Astera Labs首席營運長Sanjay Gajendra表示,長期以來運算核心和性能的成長超過了記憶體存取量的進步,導致伺服器性能效率持續下降。這種性能擴展挑戰導致出現稱為記憶體牆(Memory Wall)的記憶體壁壘,Leo記憶體連接平台透過實現PCIe 5.0和CXL記憶體的承諾,突破相關障礙。
由於記憶體Memory Wall而導致的資料中心基礎設施擴展,限制在人工智慧伺服器中最為明顯,其中記憶體頻寬和容量瓶頸導致處理器使用率低落。Astera Labs 和英特爾提供的CXL解決了這些瓶頸,並為雲端、混合雲端和企業資料中心奠定了基礎,以大幅提高加速運算效能。
除了Leo的記憶體效能提升之外,Astera Labs還透過其Aries PCIe 5.0/CXL 2.0智慧重計時器(Smart Retimers)在Intel伺服器平台上推動互通性測試。Aries Retimer具有低延遲CXL模式,可與Leo相輔相成。Astera Labs也將分享用於主動電纜的 Aries PCIe Smart Cable Modules如何擴大PCIe/CXL機架到機架連接的範圍。透過將覆蓋範圍擴大三倍,Aries能夠部署不斷成長的AI處理器集群,以成本效益互連數千個GPU,用於生成AI訓練工作負載。隨著分解架構的需求和採用不斷成長,Aries也為雲端規模的CXL記憶體池和Fabrics提供可擴展性。
另外,Astera Labs的Taurus乙太網路智慧電纜模組透過銅電纜擴展200/400/800Gpbs乙太網,為大型加速運算平台提供成本效益的橫向擴展連接。這些模組從一對一、一對多、多對多和半主動電纜。該平台可簡化電纜整合並提供「大規模測試」解決方案,以滿足人工智慧基礎設施中對主動式電纜(Active Electronic Cables)不斷成長的需求。