AMD最新ROCm 6.2釋放新一代AI/HPC效能

2024 年 08 月 07 日

AMD宣布最新AMD ROCm 6.2開源堆疊軟體現已釋出,為AMD Instinct系列帶來效能和效率最佳化的大幅成長。

AMD部落格文章提供關於新增功能和優勢的詳細資訊,包括:

  • 擴展vLLM支援,以提升Instinct加速器的人工智慧(AI)推論能力。
  • 全新Bitsandbytes功能可透過提升記憶體效率與效能來增強AI訓練和推論。
  • 全新的離線安裝程式建立器可簡化ROCm的安裝體驗。
  • 全新Omnitrace與Omniperf分析工具透過效能分析和精簡的開發工作流程來革新AI和高效能運算(HPC)的開發。
  • 更廣泛的FP8支援可在使用更少記憶體的情況下進行更具效率的訓練,進而增強AI推論能力。

ROCm 6.2帶來前所未有的AI加速器效能和效率提升,同時提供工具及支援,助力開發人員在AI專案中突破極限。

標籤
相關文章

AMD發表年度企業責任報告

2023 年 08 月 30 日

Computex 2021迎接疫後新常態 5G/AIoT/HPC數位轉型領風騷

2021 年 07 月 22 日

新思攜手台積電實現HPC/行動/5G/AI等SoC設計

2020 年 06 月 15 日

AMD收購開源AI軟體專家Nod.ai

2023 年 10 月 13 日

HPE交付第二台百萬兆級超級電腦Aurora

2024 年 05 月 30 日

貿澤電子即日起供貨AMD Alveo V80加速器卡

2024 年 09 月 25 日
前一篇
HOLTEK新推出HT32F59045脈搏血氧儀MCU
下一篇
德州儀器發表磁性封裝技術 電源模組尺寸縮小50%