NVIDIA(輝達)宣布旗下人工智慧(AI)推論平台加入用於主流伺服器的NVIDIA A30及A10 GPU以擴大產品陣容，並在最新發布的MLPerf基準測試各項類別中，皆取得效能佳績。MLPerf是業界公認的基準測試，用以衡量涵蓋電腦視覺、醫療影像、推薦系統、語音辨識和自然語言處理等各種作業負載的AI效能。
首次進行MLPerf測試的A30及A10 GPU，同時擁有高效能及低功耗，為企業提供主流伺服器產品選擇，以處理多樣化的AI推論、訓練、繪圖及傳統企業運算作業負載。思科(Cisco)、戴爾科技(Dell Technologies)、慧與科技(Hewlett Packard Enterprise, HPE)、Inspur與聯想(Lenovo)預計將於2021年夏天開始，將這些GPU搭載至旗下最大容量的伺服器中。
NVIDIA AI平台具備多種GPU和包含TensorRT及NVIDIA Triton推論伺服器的AI軟體，目前微軟(Microsoft)、Pinterest、Postmates、T-Mobile、美國郵政署(USPS)與微信(WeChat)等領先企業皆已部署此平台。
NVIDIA是唯一在資料中心和邊緣類別均提出每項測試結果的公司，並在所有MLPerf作業負載中提供最佳的效能。多項提交內容亦使用Triton推論伺服器，這款伺服器支援來自所有在GPU與CPU上運行主要框架的模型，同時針對各類查詢內容進行最佳化調整，包括批次、即時和串流，進而簡化了在應用程式中部署AI的複雜性。在配置相當的情況下，Triton所提出的效能表現接近於經過最佳化調整的GPU執行與CPU執行。
NVIDIA利用NVIDIA Ampere架構的多執行個體GPU功能，同時在單一GPU上使用七個多執行個體GPU，以運行七個MLPerf Offline測試內容，該配置與單獨運行的單一多執行個體GPU相比，效能幾乎完全相同。這些提交的內容展現出多執行個體GPU的效能及多功能，使得基礎架構管理員能夠為特定的應用程式配置適量的GPU運算，進而從每個資料中心的GPU獲得最大的輸出量。
NVIDIA A30和A10 GPU是NVIDIA AI平台的最新成員，其中包含NVIDIA Ampere架構GPU、NVIDIA Jetson AGX Xavier和Jetson Xavier NX，以及為加速AI運算而進行最佳化調整的NVIDIA軟體堆疊。
A30為業界標準伺服器提供多元的運算效能，支援各種AI推論與主流企業運算作業負載，如推薦系統、對話式AI與電腦視覺。NVIDIA A10 GPU加快深度學習推論、互動式渲染、電腦輔助設計和雲端遊戲的執行速度，讓企業能夠在通用基礎設施上支援混合的AI與繪圖作業負載。透過NVIDIA虛擬 GPU 軟體將能簡化管理作業，並提高設計師、工程師、藝術家和科學家對虛擬桌面的使用率和配置。
