各期雜誌

新電子 2024 年 5 月號 458 期

高速記憶挺AI

近年來人工智慧(AI)模型的參數量飆速成長,AI機台與終端裝置對於記憶體容量及傳輸速度需求隨之增加。過去記憶體產業受到景氣循環影響,疫情後接連面臨消費電子庫存與通膨的衝擊,市場一度疲軟。目前則隨著生成式AI應用開枝散葉,訓練大型語言模型(LLM)需要更高的記憶體容量與傳輸速度支援。台灣在其中可望基於深厚的半導體技術,發展用於邊緣運算的DRAM、Wafer on Wafer DRAM及客製化的高頻寬記憶體等產品,搶攻AI記憶體商機。

高頻寬記憶體(HBM)供不應求,對企業而言,為了導入生成式AI等應用,提升硬體設備效能勢在必行。在權衡效能、功耗與成本之下,SSD與DRAM的搭配,就成為升級設備與控制成本的解方。另外,AI PC的發展也帶動DDR5普及,未來DDR6產品預期將更重視低功耗設計。010

本期目錄