Astera Labs CXL控制器突破記憶體壁壘 力降雲端/AI效能瓶頸

作者: 廖專崇
2023 年 12 月 04 日

預計2023~2030年全球雲端人工智慧(AI)市場的年均複合成長率為39.6%,規模將達6,476.1億美元。人工智慧基礎設施半導體連接解決方案廠商Astera Labs發表Compute Express Link(CXL)記憶體控制器Leo,與即將推出的第五代Intel Xeon可擴展處理器整合時,可將伺服器總記憶體頻寬提高50%,同時將延遲降低25%。透過新的硬體基礎的CXL連接記憶體和CPU本機記憶體的互動,Astera Labs和Intel消除了任何應用程式級軟體更改,以透過CXL增強伺服器記憶體資源。現有應用程式可即插即用,以盡量利用系統中的記憶體頻寬和容量。

由左至右Astera Labs全球業務副總Patrick Henderson、業務與企業發展資深副總Thad Omura、產品長CPO Casey Morrison、亞太區總經理甘博隆

Astera Labs首席營運長Sanjay Gajendra表示,長期以來運算核心和性能的成長超過了記憶體存取量的進步,導致伺服器性能效率持續下降。這種性能擴展挑戰導致出現稱為記憶體牆(Memory Wall)的記憶體壁壘,Leo記憶體連接平台透過實現PCIe 5.0和CXL記憶體的承諾,突破相關障礙。

由於記憶體Memory Wall而導致的資料中心基礎設施擴展,限制在人工智慧伺服器中最為明顯,其中記憶體頻寬和容量瓶頸導致處理器使用率低落。Astera Labs 和英特爾提供的CXL解決了這些瓶頸,並為雲端、混合雲端和企業資料中心奠定了基礎,以大幅提高加速運算效能。

除了Leo的記憶體效能提升之外,Astera Labs還透過其Aries PCIe 5.0/CXL 2.0智慧重計時器(Smart Retimers)在Intel伺服器平台上推動互通性測試。Aries Retimer具有低延遲CXL模式,可與Leo相輔相成。Astera Labs也將分享用於主動電纜的 Aries PCIe Smart Cable Modules如何擴大PCIe/CXL機架到機架連接的範圍。透過將覆蓋範圍擴大三倍,Aries能夠部署不斷成長的AI處理器集群,以成本效益互連數千個GPU,用於生成AI訓練工作負載。隨著分解架構的需求和採用不斷成長,Aries也為雲端規模的CXL記憶體池和Fabrics提供可擴展性。

另外,Astera Labs的Taurus乙太網路智慧電纜模組透過銅電纜擴展200/400/800Gpbs乙太網,為大型加速運算平台提供成本效益的橫向擴展連接。這些模組從一對一、一對多、多對多和半主動電纜。該平台可簡化電纜整合並提供「大規模測試」解決方案,以滿足人工智慧基礎設施中對主動式電纜(Active Electronic Cables)不斷成長的需求。

》想看更多內容?快來【免費加入會員】【登入會員】,享受更多閱讀文章的權限喔!
標籤
相關文章

機器視覺受大廠重視 AI助力工業應用大爆發

2018 年 08 月 09 日

機器人應用一觸即發 擘畫無線充電新版圖

2018 年 10 月 08 日

首款AI加速平台出鞘 Xilinx全面擁抱人工智慧

2018 年 10 月 16 日

微軟2021亞太技術年會線上起跑

2021 年 08 月 10 日

強化感測/思考/連結/行動力 NXP迎接全面智慧化時代

2020 年 08 月 31 日

安提邊緣智慧系統滿足5G聯網需求

2020 年 09 月 09 日
前一篇
小型斷路器確保電動車加熱器安全(1)
下一篇
開拓疾病治療新途徑 生物電子藥物前景可期(3)