創鑫智慧雲端用AI推論晶片贏得最佳能效比

2023 年 04 月 21 日

今年四月初由眾多人工智慧業界一流廠商參與的MLPerf v3.0 AI推論(Inference)效能基準測試中,創鑫智慧(NEUCHIPS)公布其世界第一個專為資料中心推薦模型(Recommendation Model)設計的AI加速器RecAccel N3000的測試數據,在伺服器領域的能源效率(Energy Efficiency)上領先輝達(NVIDIA),成為世界第一能效的AI加速平台,讓需要高運算力的資料中心(Data Center)與雲端服務供應商(CSP)以最低的總擁有成本(TCO)實現企業永續(ESG)發展目標。

MLPerf v3.0 AI推論測試是由致力提升機器學習技術和應用的開放工程聯盟MLCommons所進行。創鑫智慧此次採用技鋼G482-Z54伺服器搭載AMD EPYC 7452 32核CPU及8張RecAccel N3000 32G PCIe加速卡執行DLRM測試。

根據MLCommons公布的測試數據,在資料中心推薦系統領域,RecAccel N3000系統除了展現其100%的效能擴充性(Performance Scalability)之外,在每瓦可處理1,060次查詢(Queries)的評策上,能效為對手NVIDIA H100的1.7倍,高居榜首。未來計畫推出的RecAccel Quad N3000 PCIe卡更能提供達2.2倍的效能。RecAccel N3000的效能和TCO特性,滿足了資料中心與雲端服務業者對於AI應用的需求並符合ESG發展趨勢。

近年來,COVID-19疫情的影響大幅改變了多數人的生活習慣和消費模式,進而引爆行銷科技(MarTech)的興起。如何提升行銷效率及藉由AI模型運算提供即時、個人化的精準數據,設計更佳的消費者使用體驗,已成為各大線上、線下業者所面臨的最大挑戰。此外,電商平台、社群媒體、影音傳媒、交友軟體和搜尋引擎的蓬勃發展,也加速了全球對推薦系統的需求,其市場每年以大約30%左右的複合年增長率(CAGR)快速成長,吸引全球各大廠商與新創公司參與競逐。

創鑫智慧創辦人暨董事長林永隆博士表示,創鑫智慧以具體行動證明對永續發展的承諾,除了在MLPerf測試中取得最佳表現,還將推出專為開放運算計畫(OCP)設計的DM.2模組,繼續引領產業發展,提供更多協助雲端服務供應商與資料中心節省成本的平台方案,並助力AI技術的繁榮與成長。

AMD策略業務發展全球副總裁Kumaran Siva則表示,AMD提供高效能運算產品,幫助智慧系統有效管理複雜的資料集。此次與創鑫智慧合作,藉由AMD EPYC處理器為MLPerf v3.0中的DLRM推理實現優秀效能及能耗。

MLPerf v3.0 AI推論測試是由致力提升機器學習技術和應用的開放工程聯盟MLCommons所進行,參與此測試的成員包括輝達(NVIDIA)、英特爾(Intel)、高通(Qualcomm)、微軟雲端運算服務(Azure)、戴爾(DELL)、技鋼(GIGA Computing)、慧與科技(HPE)等廠商。

標籤
相關文章

凌華新模組支援AMD Ryzen V2000 APU

2020 年 12 月 02 日

AMD發表年度企業責任報告

2023 年 08 月 30 日

AMD收購開源AI軟體專家Nod.ai

2023 年 10 月 13 日

AMD最新ROCm 6.2釋放新一代AI/HPC效能

2024 年 08 月 07 日

貿澤電子為工程師供應AMD最新AI/邊緣技術

2024 年 09 月 18 日

貿澤供貨AMD Versal AI Edge VEK280評估套件

2024 年 11 月 21 日
前一篇
ST/采埃孚簽訂碳化矽元件長期供應協定
下一篇
Diodes推出工業級碳化矽MOSFET