隨著摩爾定律的放緩與先進製程成本的不斷攀升，生成式人工智慧(AI)等應用的效能需求在短時間內快速成長，資料中心的耗能隨之攀升，小晶片(Chiplet)技術因此崛起。Arm基礎設施事業部硬體生態系總監Imran Yusuf表示，AI模型的參數每3~4個月就會翻倍，大型語言模型(LLM)的訓練與推論都需要強大的算力。同時，運算設備帶來的耗能以及IC設計的成本都相繼提升，因此IC設計需要提高系統效率，並且針對特定應用優化耗能與運算效能。
Chiplet的優勢包含降低IC設計成本、具備良好的擴充性與相容性，同時異質運算的效能表現亮眼。Imran Yusuf說明，Arm透過Arm Total Design(ATD)發展Chiplet生態系。目前ATD集結30家會員，涵蓋晶圓製造、IC設計、EDA工具與第三方單位，共同開發Chiplet。30家會員中，有9家來自台灣。
日前在ATD中，Arm使用Neoverse V3運算子系統，結合三星(Samsung) 2nm製程、ADTechnology的Chiplet整合服務，並採用Rebellions的AI加速器，打造可擴充的AI運算平台。該平台期望在提高能源使用效率的同時，支援LLM的工作負載，用於AI模型的訓練與推論。
