NVIDIA GTC大會開跑 雲端/邊緣AI新品同步發表

作者: 黃繼寬
2025 年 03 月 19 日

2025年NVIDIA GTC大會正式開跑。在本次GTC大會上,NVIDIA針對AI資料中心與AI邊緣運算,均發表了新一代產品。在雲端方面,NVIDIA發表新一代AI工廠平台Blackwell Ultra,特別強調其AI推理的運算效能提升,可以為推理和代理型AI應用提供更強大計算資源。至於在邊緣端,則推出了DGX Spark與DGX Station。DGX Spark曾在先前的CES展期間亮相,但當時是以開發代號Project DIGITS稱呼,在這次GTC大會上,NVIDIA將其正式產品名稱定為DGX Spark。

NVIDIA GTC大會起跑,採用Blackwell Ultra的新一代AI工廠平台正式亮相

Blackwell Ultra是以2024年推出的Blackwell架構為基礎,搭配NVIDIA GB300 NVL72機架規模解決方案以及NVIDIA HGX B300 NVL16系統而成的AI工廠平台。一套GB300 NVL72機架整合72顆Blackwell Ultra GPU與36顆Arm Neoverse架構NVIDIA Grace CPU。根據官方資料,GB300 NVL72的AI效能較前一代NVIDIA GB200 NVL72提升約1.5倍。

NVIDIA創辦人暨執行長黃仁勳表示,隨著AI技術持續發展,推理與代理型AI所需的運算效能將遠超現有水平,Blackwell Ultra正是針對此需求而設計的多功能平台,能夠高效執行預訓練、後期訓練與推理任務。

此外,官方透露,NVIDIA DGX Cloud平台將陸續提供採用GB300 NVL72機架設計的解決方案,而NVIDIA DGX SuperPOD亦將利用此架構提供一站式AI工廠服務。與此同時,相較於前一代Hopper架構,NVIDIA HGX B300 NVL16在大型語言模型推理方面,分別在推理速度、運算能力及記憶體容量上實現了11倍、7倍與4倍的提升。

至於在邊緣AI方面,NVIDIA同時推出了搭載NVIDIA Grace Blackwell平台的DGX Spark與DGX Station。該系列包括原稱為Project DIGITS的DGX Spark,以及全新設計的桌上型超級電腦DGX Station。兩者均可在桌上型電腦上進行大型模型的原型設計、微調與推理,使用者可選擇在本機端運行模型,或將工作負載轉移至NVIDIA DGX Cloud或其他加速雲端及資料中心平台。全球系統製造商如華碩、戴爾、惠普及聯想等均參與了這一系列產品的開發。

DGX Spark採用NVIDIA GB10 Grace Blackwell超級晶片,針對桌上型電腦尺寸進行了最佳化,其運算能力可達每秒1,000兆次AI運算;而DGX Station則配備了GB300 Grace Blackwell Ultra桌上型超級晶片,擁有784GB的一致性記憶體空間,並搭載NVIDIA ConnectX-8 SuperNIC,支援高達每秒800 gigabits的網路傳輸速率,以應對大規模AI工作負載的資料傳輸需求。

整體來看,NVIDIA此次在GTC上的發表展示了公司在AI推理及桌上型AI設備領域的技術進展,並反映出業界對於更高效能運算平台需求的回應。

標籤
相關文章

黃仁勳:加速運算/生成式AI掀起運算革命

2023 年 05 月 30 日

安提全新無風扇邊緣AI系統亮相2024 NVIDIA GTC

2024 年 03 月 11 日

Meta推出新一代Llama 3模型 AWS/NVIDIA旋即力挺

2024 年 04 月 19 日

Cadence軟硬兼施 多物理模擬結合生成式AI來勢洶洶

2024 年 05 月 14 日

加速百工百業導入生成式AI NVIDIA推出NIM Agent Blueprints

2024 年 08 月 28 日

NVIDIA發表RTX 50系列顯卡與Project Digits 劍指AI應用個人開發者

2025 年 01 月 07 日
前一篇
E Ink元太科技攜手瑞昱半導體推出新一代電子紙貨架標籤解決方案
下一篇
意法半導體推出高效能氮化鎵電源供應器參考設計EVL250WMG1L