HDMI喜迎影音AI化時代

人工智慧(AI)有助於提高影像畫質,也能強化音訊品質。HDMI協會總裁暨執行長Rob Tobias表示,AI應用近期非常受到市場歡迎,相關技術也導入到聲音與影片的應用中。在AI技術應用發展下,無論是8K或家用電視都將迎來突破。...
2024 年 06 月 27 日

AI資料中心力克功耗挑戰 結合GaN/液冷全力節能(1)

雖然資料中心的電力需求和密度大幅飆升,但其電力使用效率卻未能跟上。此外,過熱還會導致停電、設備故障,並導致氣候變化。這迫使運營商轉向更高效的冷卻技術,而良好的選擇之一就是液體冷卻技術。 由於生成式AI和其他新興技術的大幅增加,資料中心產業正處於十字路口,面臨著前所未有的轉型挑戰。如此的飛速成長極大地增加了伺服器的功耗,為全球的資料中心帶來壓力。根據多個模型,資料中心已占全球能源需求的約2%...
2024 年 06 月 19 日

AI資料中心力克功耗挑戰 結合GaN/液冷全力節能(2)

雖然資料中心的電力需求和密度大幅飆升,但其電力使用效率卻未能跟上。此外,過熱還會導致停電、設備故障,並導致氣候變化。這迫使運營商轉向更高效的冷卻技術,而良好的選擇之一就是液體冷卻技術。 解決電源供應問題...
2024 年 06 月 19 日

減少應用導入障礙 機器人友善環境概念興起(1)

「機器人友善環境」這個概念仍相當前瞻,缺乏明確定義。除了日本的機器人友善資產促進協會(RFA)已經將機器人友善環境定義為「可以輕鬆導入、運行機器人的環境」之外,大多數國家並未明確指出什麼是機器人友善環境,只是政策或作法背後的精神,符合機器人友善環境概念。...
2024 年 06 月 14 日

減少應用導入障礙 機器人友善環境概念興起(2)

「機器人友善環境」這個概念仍相當前瞻,缺乏明確定義。除了日本的機器人友善資產促進協會(RFA)已經將機器人友善環境定義為「可以輕鬆導入、運行機器人的環境」之外,大多數國家並未明確指出什麼是機器人友善環境,只是政策或作法背後的精神,符合機器人友善環境概念。...
2024 年 06 月 14 日

異質運算實現邊緣LLM CPU/GPU/NPU各有所長

生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展,在邊緣端導入生成式AI的願景,成為處理器廠商的兵家必爭之地。面對市場上特定應用領域的AI推論需求,處理器廠商積極開發適用於終端裝置的解決方案,期望未來終端應用可以導入生成式AI。...
2024 年 06 月 06 日

生成式AI落地邊緣幹大事 突破模型瘦身/精準度瓶頸

生成式人工智慧(AI)從雲端走向邊緣,需要克服模型縮小,以及推論精準度的挑戰。在終端設備資源有限的前提下,大型語言模型(LLM)需要透過量化(Quantization)等方式壓縮模型,並且確保推論維持一定的精準度。...
2024 年 06 月 06 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(1)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 生成式人工智慧(AI)啟動新一波的AI應用熱潮,而邊緣AI高度安全、低延遲等優勢,也帶動大型語言模型(LLM)在終端裝置中的應用。將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(2)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 SSD支援AI運算空間...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(3)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 CXL加快裝置資料傳輸...
2024 年 06 月 03 日

AI機器學習潛力十足 智慧裝置邊緣運算MCU應用爆發

人工智慧(AI)受到機器學習在邊緣運算的發展帶動,在PC與手機等終端裝置的應用成長有目共睹。恩智浦半導體大中華區行銷總監黃健洲表示,隨著使用者更加重視資料安全與隱私,執行在邊緣端的機器學習功能越來越受市場重視。在物聯網(IoT)與工業領域中,包含健康照護、居家控制、工業自動化、電力控制等,都是機器學習在邊緣端的應用範圍。...
2024 年 06 月 03 日

突破AI資料傳輸瓶頸 CPO/LPO高速傳輸障礙迎刃解

過去半年到一年,人工智慧(AI)的技術成長超乎預期。是德科技資深技術專案經理林昭彥提及,AI市場的快速發展,從ChatGPT的用戶成長數據中可見一斑。過去Facebook在推出40週之後,用戶達到百萬,Instagram則在推出12週後累積百萬用戶。而ChatGPT在推出的一週之內,用戶數即達到百萬。AI已經成為時勢所趨,同時AI模型的參數量呈現倍數成長,除了帶動半導體的需求,也需要克服大數據傳輸的挑戰。...
2024 年 06 月 03 日