搶食邊緣AI商機 小語言模型有大用(1)

大語言模型掀起生成式AI浪潮,但大語言模型會占用大量記憶體,對處理器的運算能力要求也不低,使得大語言模型要部署在智慧型手機、NB等用戶端裝置上,會遇到許多障礙。為克服此一挑戰,輕量化的小語言模型遂應運而生。...
2024 年 05 月 30 日

搶食邊緣AI商機 小語言模型有大用(2)

大語言模型掀起生成式AI浪潮,但大語言模型會占用大量記憶體,對處理器的運算能力要求也不低,使得大語言模型要部署在智慧型手機、NB等用戶端裝置上,會遇到許多障礙。為克服此一挑戰,輕量化的小語言模型遂應運而生。...
2024 年 05 月 30 日

運算效能需求再突破 AI PC大舉導入高速記憶體(1)

高速記憶體成為支援AI發展的利器,在終端應用方面,消費者對於AI PC的期待是無須聯網,就可以在終端裝置實現生成式AI的功能。因此裝置儲存資料的擴張性,會順勢帶動記憶體與儲存裝置的升級。 近年來,人工智慧(AI)的快速發展帶動運算技術的新浪潮,同時高速記憶體的不斷創新,成為提升運算效能提供了關鍵的支援。市場上多半視2024年為人工智慧個人電腦(AI...
2024 年 05 月 15 日

運算效能需求再突破 AI PC大舉導入高速記憶體(2)

高速記憶體成為支援AI發展的利器,在終端應用方面,消費者對於AI PC的期待是無須聯網,就可以在終端裝置實現生成式AI的功能。因此裝置儲存資料的擴張性,會順勢帶動記憶體與儲存裝置的升級。 (承前文)頻率跟密度上,DDR5也大大的超越了DDR4。DDR4僅支援最高16Gb的DRAM容量,而DDR5記憶體標準提高到了64Gb。這表示DDR5...
2024 年 05 月 15 日

巨大機會與挑戰迎面撲來 2024生成式AI全方位啟動(1)

生成式AI快速發展,在投資資金大幅提高下,生成式AI市場規模迅速成長, 生成式AI潛力無窮,實踐上卻有許多挑戰。其帶動大規模的產業投資與發展,未來更將在各個方面影響社會的走向。 2023年初,ChatGPT如平地一聲雷,讓所有關心科技產業與人工智慧(AI)技術的人們,都體驗了一場震撼教育,生成式AI(Generative...
2024 年 05 月 06 日

巨大機會與挑戰迎面撲來 2024生成式AI全方位啟動(2)

生成式AI快速發展,在投資資金大幅提高下,生成式AI市場規模迅速成長, 生成式AI潛力無窮,實踐上卻有許多挑戰。其帶動大規模的產業投資與發展,未來更將在各個方面影響社會的走向。 生成式AI邊緣應用百花齊放...
2024 年 05 月 06 日

兼顧效能/功耗/成本 SSD攜DRAM全力應援AI運算

近年來人工智慧(AI)模型的參數量飆速成長,AI機台與終端裝置對於記憶體容量及傳輸速度需求隨之增加。對企業而言,為了導入生成式AI等應用,提升硬體設備效能勢在必行。在權衡效能、功耗與成本之下,SSD與DRAM的搭配,就成為升級設備與控制成本的解方。...
2024 年 05 月 02 日

美光發表新一代用戶端SSD 搭載232層QLC快閃記憶體

針對PC、工作站等用戶端裝置,美光(Micron)近日發表了新一代基於232層QLC快閃記憶體的2500 NVMe固態硬碟(SSD)。除了儲存容量大幅增加外,其讀寫效能甚至超越許多市面上基於TLC快閃記憶體的SSD,逼近PCIe...
2024 年 04 月 26 日

智慧通訊應用可期 處理器廠MWC推AI平台/解方

在MWC 2024中,可以觀察到人工智慧(AI)帶動電信與AI設備、軟體等廠商的跨界合作。AMD與三星合作虛擬RAN解決方案,支援三星的Open RAN應用。NVIDIA則與Service Now合作推出電信專用生成式AI解決方案,並且與其他科技廠商建立AI-RAN聯盟(AI-RAN...
2024 年 02 月 29 日

神盾聯盟策略轉型 深耕AI PC/車用/電源

IC設計公司神盾日前舉辦聯盟Tech Day,揭櫫神盾聯盟IC設計產業新策略,以及旗下各企業AI PC完整解決方案,包括AI PC platform、Power IC for AI PC及伺服器,以及AI...
2024 年 01 月 31 日

Counterpoint:2024將是AI PC元年

根據市場研究機構Counterpoint最新發表的數據,2023年第四季全球PC出貨量僅比2022年同期小幅下滑0.2%,顯示PC市場衰退的情況已經穩定下來。由於目前PC庫存處於健康狀態,因此2024年PC市場重回成長軌道,應該是可以期待的。...
2024 年 01 月 22 日

美光發表LPCAMM2產品 記憶體模組進入新世代

美光(Micron)近日發表其第一款LPCAMM2記憶體模組,該模組是記憶體模組領域繼SO-DIMM以來最重要的一次技術更新,不僅外觀尺寸更小,而且擁有遠勝於SO-DIMM的介面效能。 美光推出最新基於LPDDR5X的LPCAMM2記憶體,具備高效能、低功耗、更小規格尺寸...
2024 年 01 月 19 日