人工智慧(AI)推論對於效能有重大影響，根據最新的MLPerf基準測試結果，NVIDIA在使用x86或Arm架構的CPU進行人工智慧(AI)推論方面取得最佳成績，此為NVIDIA連續第三度在MLCommons的推論測試中，創下效能及能源效率的紀錄。
搭載NVIDIA AI平台的電腦在最新一輪的七項推論效能測試中均拔得頭籌，這些系統由NVIDIA及九個商業生態系合作夥伴所推出，包含阿里巴巴、戴爾科技(Dell Technologies)、富士通(Fujitsu)、技嘉(GIGABYTE)、慧與科技(Hewlett Packard Enterprise)、浪潮(Inspur)、聯想(Lenovo)、Nettrix及美超微(Supermicro)。
推論是電腦運行AI軟體來辨識物體或進行預測時發生的過程。這是一個使用深度學習模型來篩選資料的過程，以找出人類無法取得的結果。MLPerf的推論基準是基於目前AI作業負載和情境，涵蓋電腦視覺、醫療影像、自然語言處理、推薦系統與強化學習等。因此，不論用戶部署哪些AI應用程式，皆能透過NVIDIA的技術創下自己的紀錄。
隨著AI的應用從資料中心擴大到邊緣和其它地方，AI模型及資料集的規模持續擴大。這正是為什麼用戶在進行部署時，需要同時兼具可靠性與靈活性的效能的原因。MLPerf讓用戶有信心地做出購買決策。在包括阿里巴巴、Arm、百度、Google、英特爾(Intel)及NVIDIA等數十家產業的支持下，提出透明且客觀的測試結果。
全球各地的資料中心採用Arm架構系統的比例越來越高，部分原因在於其能源效率及效能方面的提升，以及不斷擴大的軟體生態系。最新的基準測試結果證明，作為一個GPU加速平台，採用Ampere Altra CPU的Arm架構伺服器在AI推論作業方面，提供與類似配置之x86架構伺服器幾乎相同的效能表現。事實上，在其中一項測試中，Arm架構伺服器的表現甚至優於類似的x86架構系統。
