生成式人工智慧(AI)在快速發展下，AI運算所需的龐大能源，為科技產業帶來挑戰。Arm執行長Rene Haas在Computex2024主題演講中表示，世界是否有足夠的能源來支援，以因應AI 持續增加的運算需求，是重要的議題。雖然在AI領域可以看到驚人的創新，但這個產業正處於一個有趣的兩難處境：處理AI效能需求的處理器越好，能源需求就越大。
由於Arm的DNA源自設計電池供電的裝置，Arm提供節能的CPU，並且其節能的優勢已經在推動更多AI創新。Haas認為這也是為什麼越來越多雲端服務提供商，如AWS、Google和Microsoft等採用Arm的技術。Arm協助Google的Axion晶片增加60%的能源使用效益，並且幫助NVIDIA Grace Blackwell在LLM訓練中，節省25倍的功耗。
Arm運算平台的優勢之一在於完整的軟體生態系，針對AI PC應用，Microsoft近期推出的AI PC中，常用的應用程式都在Windows on Arm上原生執行。Haas希望Arm能從邊緣的最小裝置到雲端的訓練和推論，為AI產業帶來變革，這種對開發人員的支持是極其重要的。開發人員需要能夠將他們在AI上的創新應用於硬體，並在效能優化、功耗最佳化、高度可執行和可預測的狀態下運行。
運算函式庫KleidiAI助開發
在演講中，Haas介紹新的AI運算函式庫Arm KleidiAI，使開發人員更容易在 Arm上執行他們的 AI 應用程式。Haas表示，無論硬體多出色，如果沒有開發人員能夠存取的資源，那硬體也沒有多大用處。例如，當開發人員在 TensorFlow、PyTorch、Llama 3和MediaPipe等框架中工作時，KleidiAI使他們能夠進入抽象層，利用底層硬體特性來實現AI工作負載的效能。
終端產品運算子系統
Arm除了在支持AI開發人員生態系，還提供效能更高和功耗更低的產品。Arm 的資深副總裁暨終端產品事業部總經理Chris Bergey，在演講中介紹最近發表的終端產品運算子系統(CSS)。
這是Arm第一次在先進的3奈米製程中，導入CPU和GPU的實體實作。 Bergey表示，這一點非常重要，因為Arm生態系現在可以在這些先進的3奈米製程中，採用經過驗證的核心實體實作，能加快產品上市時間。CSS使晶片製造商更能專注於他們在平台上的差異化，以及 Armv9架構能為其次世代產品帶來的優勢。結合KIeidiAI，開發人員擁有得以充分運用次世代硬體技術所需的工具。
