全球半導體製造產能持續刷新歷史紀錄

SEMI國際半導體產業協會在近日公布的最新一季全球晶圓廠預測報告(World Fab Forecast)中指出,晶片需求不斷上升,帶動全球半導體晶圓廠產能持續成長,2024年及2025年預計將各增加6%及7%,月產能達到3,370萬片晶圓(約當8吋,以下同),再度創下歷史新高。...
2024 年 06 月 27 日

從研發流程到產品規格 生成式AI全面改變IC設計

生成式AI為IC設計產業帶來全方位變革,不僅晶片中的處理器核心需要具備更強大的運算能力與更優異的每瓦效能,晶片上的I/O也將因為生成式AI所帶來的傳輸需求而大步走向光世代。在此同時,生成式AI也正在快速融入IC設計工程師的工作流程,成為設計人員不可或缺的生產力工具。...
2024 年 06 月 26 日

AI資料中心力克功耗挑戰 結合GaN/液冷全力節能(1)

雖然資料中心的電力需求和密度大幅飆升,但其電力使用效率卻未能跟上。此外,過熱還會導致停電、設備故障,並導致氣候變化。這迫使運營商轉向更高效的冷卻技術,而良好的選擇之一就是液體冷卻技術。 由於生成式AI和其他新興技術的大幅增加,資料中心產業正處於十字路口,面臨著前所未有的轉型挑戰。如此的飛速成長極大地增加了伺服器的功耗,為全球的資料中心帶來壓力。根據多個模型,資料中心已占全球能源需求的約2%...
2024 年 06 月 19 日

AI資料中心力克功耗挑戰 結合GaN/液冷全力節能(2)

雖然資料中心的電力需求和密度大幅飆升,但其電力使用效率卻未能跟上。此外,過熱還會導致停電、設備故障,並導致氣候變化。這迫使運營商轉向更高效的冷卻技術,而良好的選擇之一就是液體冷卻技術。 解決電源供應問題...
2024 年 06 月 19 日

Vicor:創新供電架構應對GenAI能源消耗

訓練生成式人工智慧(GenAI)神經網路模型通常需要花費數月的時間,數千個基於GPU並包含數十億個電晶體的處理器、高寬頻SDRAM和每秒數太比特的光網路交換機要同時連續運行。雖然人工智慧有望帶來人類生產力的飛躍,但其運行時能耗巨大,導致溫室氣體的排放也顯著增加。...
2024 年 06 月 17 日

生成式AI機會/挑戰並陳 Arm看好機器人未來

生成式(AI)應用的快速發展,為產業帶來新的挑戰與機會。Arm基礎設施事業部行銷副總裁Eddie Ramirez在Computex2024的採訪中指出,現今AI成本昂貴且耗電大,這是整個產業都意識到的問題。所以Arm現在所做的工作是讓Arm...
2024 年 06 月 13 日

研華發表邊緣運算解方 加速產業AI應用落地

邊緣AI在工業自動化與智慧城市應用的腳步加快,即將在2025~2026年迎來落地應用的成長爆發。研華於Computex2024中,展示應用NVIDIA方案的產業AI平台。此次展出從邊緣端生成式AI、醫療AI,智慧製造AI解決方案三大主軸,提供相應的AI邊緣運算系統與伺服器。...
2024 年 06 月 07 日

異質運算實現邊緣LLM CPU/GPU/NPU各有所長

生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展,在邊緣端導入生成式AI的願景,成為處理器廠商的兵家必爭之地。面對市場上特定應用領域的AI推論需求,處理器廠商積極開發適用於終端裝置的解決方案,期望未來終端應用可以導入生成式AI。...
2024 年 06 月 06 日

群聯Computex展出全系列創新儲存產品與AI方案

台北國際電腦展(Computex)於2024年6月4日開幕,聚焦人工智慧運算(AI Computing)、前瞻通訊(Advanced Connectivity)、未來移動(Future Mobility)、沉浸現實(Immersive...
2024 年 06 月 06 日

超微全力布局生成式AI 從雲到端一網打盡

超微(AMD)執行長蘇姿丰在COMPUTEX2024的開幕主題演說中,詳細介紹了一系列新的CPU、NPU和GPU架構,完整涵蓋從資料中心到個人電腦等不同的生成式AI應用需求。在資料中心方面,超微揭露其Instinct加速器的發展路線圖,包括將於2024年第四季度推出,採用HBM3E記憶體,容量高達288GB的Instinct...
2024 年 06 月 03 日

RTX AI PC亮相 黃仁勳:數位人類應用可期

NVIDIA執行長黃仁勳在Computex2024主題演講中,圍繞著加速運算與人工智慧(AI)兩大主軸,提到生成式AI在多元領域的應用,以及NVIDIA在軟、硬體提供相應的解決方案。由於AI應用的算力需求飛快成長,運算的成本包含資料中心的用電等也在上升。因此NVIDIA透過CUDA提升CPU的效能,加速每個應用程式的運算效率。同時在CPU的運算中加入GPU,不只效能運算大幅增加,也能節省大量成本,達到「買越多、省越多」的效益。...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(1)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 生成式人工智慧(AI)啟動新一波的AI應用熱潮,而邊緣AI高度安全、低延遲等優勢,也帶動大型語言模型(LLM)在終端裝置中的應用。將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory...
2024 年 06 月 03 日