Edge AI創新應用開發者大會

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(1)

作者: 吳心予
2024 年 06 月 03 日
生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 生成式人工智慧(AI)啟動新一波的AI應用熱潮,而邊緣AI高度安全、低延遲等優勢,也帶動大型語言模型(LLM)在終端裝置中的應用。將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory...
》想看更多內容?快來【免費加入會員】【登入會員】,享受更多閱讀文章的權限喔!
標籤
相關文章

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(2)

2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(3)

2024 年 06 月 03 日

軟硬體各提新解方 生成式AI突破運作成本挑戰

2023 年 12 月 11 日

PC生態系龍頭火力全開 AI PC來勢洶洶(1)

2024 年 01 月 04 日

PC生態系龍頭火力全開 AI PC來勢洶洶(2)

2024 年 01 月 03 日

異質運算實現邊緣LLM CPU/GPU/NPU各有所長

2024 年 06 月 06 日
前一篇
算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(2)
下一篇
RTX AI PC亮相 黃仁勳:數位人類應用可期