AI伺服器「熱度」飆升 液冷技術百家爭鳴(1)

生成式AI帶來巨大的運算能力需求,同時也讓處理器功耗與熱量節節攀升。為解決晶片散熱問題,導入液冷將是不可避免的趨勢,液冷技術也因而呈現百家爭鳴的態勢。 為滿足生成式AI模型訓練對運算能力的巨大需求,伺服器GPU加速器晶片規模快速增加,其所散發的熱量亦出現驚人成長。以NVIDIA最新推出的加速器平台為例,結合2顆Blackwell...
2024 年 06 月 28 日

AI伺服器「熱度」飆升 液冷技術百家爭鳴(2)

生成式AI帶來巨大的運算能力需求,同時也讓處理器功耗與熱量節節攀升。為解決晶片散熱問題,導入液冷將是不可避免的趨勢,液冷技術也因而呈現百家爭鳴的態勢。 柏斯托/英特爾聯手推動單相浸沒式冷卻 為了替下一代功耗跟發熱量更高的處理器預做準備,解熱能力更高的浸沒式冷卻,也是科技業者積極布局的重點。馬來西亞國家石油化工集團(PETRONAS...
2024 年 06 月 28 日

HDMI喜迎影音AI化時代

人工智慧(AI)有助於提高影像畫質,也能強化音訊品質。HDMI協會總裁暨執行長Rob Tobias表示,AI應用近期非常受到市場歡迎,相關技術也導入到聲音與影片的應用中。在AI技術應用發展下,無論是8K或家用電視都將迎來突破。...
2024 年 06 月 27 日

全球半導體製造產能持續刷新歷史紀錄

SEMI國際半導體產業協會在近日公布的最新一季全球晶圓廠預測報告(World Fab Forecast)中指出,晶片需求不斷上升,帶動全球半導體晶圓廠產能持續成長,2024年及2025年預計將各增加6%及7%,月產能達到3,370萬片晶圓(約當8吋,以下同),再度創下歷史新高。...
2024 年 06 月 27 日

從研發流程到產品規格 生成式AI全面改變IC設計

生成式AI為IC設計產業帶來全方位變革,不僅晶片中的處理器核心需要具備更強大的運算能力與更優異的每瓦效能,晶片上的I/O也將因為生成式AI所帶來的傳輸需求而大步走向光世代。在此同時,生成式AI也正在快速融入IC設計工程師的工作流程,成為設計人員不可或缺的生產力工具。...
2024 年 06 月 26 日

AI資料中心力克功耗挑戰 結合GaN/液冷全力節能(1)

雖然資料中心的電力需求和密度大幅飆升,但其電力使用效率卻未能跟上。此外,過熱還會導致停電、設備故障,並導致氣候變化。這迫使運營商轉向更高效的冷卻技術,而良好的選擇之一就是液體冷卻技術。 由於生成式AI和其他新興技術的大幅增加,資料中心產業正處於十字路口,面臨著前所未有的轉型挑戰。如此的飛速成長極大地增加了伺服器的功耗,為全球的資料中心帶來壓力。根據多個模型,資料中心已占全球能源需求的約2%...
2024 年 06 月 19 日

AI資料中心力克功耗挑戰 結合GaN/液冷全力節能(2)

雖然資料中心的電力需求和密度大幅飆升,但其電力使用效率卻未能跟上。此外,過熱還會導致停電、設備故障,並導致氣候變化。這迫使運營商轉向更高效的冷卻技術,而良好的選擇之一就是液體冷卻技術。 解決電源供應問題...
2024 年 06 月 19 日

Vicor:創新供電架構應對GenAI能源消耗

訓練生成式人工智慧(GenAI)神經網路模型通常需要花費數月的時間,數千個基於GPU並包含數十億個電晶體的處理器、高寬頻SDRAM和每秒數太比特的光網路交換機要同時連續運行。雖然人工智慧有望帶來人類生產力的飛躍,但其運行時能耗巨大,導致溫室氣體的排放也顯著增加。...
2024 年 06 月 17 日

生成式AI機會/挑戰並陳 Arm看好機器人未來

生成式(AI)應用的快速發展,為產業帶來新的挑戰與機會。Arm基礎設施事業部行銷副總裁Eddie Ramirez在Computex2024的採訪中指出,現今AI成本昂貴且耗電大,這是整個產業都意識到的問題。所以Arm現在所做的工作是讓Arm...
2024 年 06 月 13 日

研華發表邊緣運算解方 加速產業AI應用落地

邊緣AI在工業自動化與智慧城市應用的腳步加快,即將在2025~2026年迎來落地應用的成長爆發。研華於Computex2024中,展示應用NVIDIA方案的產業AI平台。此次展出從邊緣端生成式AI、醫療AI,智慧製造AI解決方案三大主軸,提供相應的AI邊緣運算系統與伺服器。...
2024 年 06 月 07 日

異質運算實現邊緣LLM CPU/GPU/NPU各有所長

生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展,在邊緣端導入生成式AI的願景,成為處理器廠商的兵家必爭之地。面對市場上特定應用領域的AI推論需求,處理器廠商積極開發適用於終端裝置的解決方案,期望未來終端應用可以導入生成式AI。...
2024 年 06 月 06 日

群聯Computex展出全系列創新儲存產品與AI方案

台北國際電腦展(Computex)於2024年6月4日開幕,聚焦人工智慧運算(AI Computing)、前瞻通訊(Advanced Connectivity)、未來移動(Future Mobility)、沉浸現實(Immersive...
2024 年 06 月 06 日