算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(2)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 SSD支援AI運算空間...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(3)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 CXL加快裝置資料傳輸...
2024 年 06 月 03 日

Retimer力保高速訊號完整性 AsteraLabs解決AI性能需求/傳輸瓶頸

生成式AI時代降臨,資料中心無時無刻進行高速運算,無論是模型訓練或推論。為發揮最高算力、降低耗電量/發熱量,維持訊號完整性便成為AI伺服器的一大重點,PCIe Gen6成為高階AI伺服器的主要匯流排,頻寬高達64...
2024 年 05 月 31 日

400G/800G光收發器模組需求大爆發

根據Yole Group近期發表的《Optical Transceivers for Datacom and Telecom 2024》報告指出,2023年全球光通訊模組市場規模為109億美元,比2022年的110億美元微幅下滑。但由於生成式AI熱潮帶動資料中心對高速光通訊介面的需求,Yole預期此光通訊模組市場的規模到2029年時,將成長到224億美元。...
2024 年 05 月 30 日

瞄準AI商機 SiTime MEMS整合時脈產生器精準度提升十倍

人工智慧(AI)熱潮席捲科技產業,也創造高經濟效益,針對AI資料中心運算所需,是現階段多數廠商追求的重點,AI硬體的快速升級週期將會是執行資料和運算密集型AI工作負載的重要關鍵。AI的高速運算對於設備的硬體需求大幅提高,AI伺服器的時鐘需要精準無誤,SiTime透過高度整合的微機電技術,將傳統時脈的精準度再度提高。...
2024 年 05 月 30 日

搶攻AI商機 創鑫智慧打造端到端RAG方案

致力研發高能效AI ASIC的台灣IC設計公司創鑫智慧,將在2024台北國際電腦展(COMPUTEX 2024)中推出端對端的檢索增強生成(Retrieval-Augmented Generation,...
2024 年 05 月 29 日

Intel分享亞太地區AI成熟度並提三建議

英特爾日前舉辦2024年亞太地區AI趨勢洞察分享會,分享市場調研機構國際數據資訊(IDC)所作亞太地區AI成熟度研究報告(由英特爾贊助),揭示亞太地區八個市場(澳洲、印度、印尼、日本、韓國、馬來西亞、新加坡和台灣)的AI成熟度和競爭力,整理並預測各地投資AI現況與不同AI類型發展。英特爾並分享三大AI發展建議與在台兩成功案例,期望協助台灣持續推進AI發展。...
2024 年 05 月 29 日

聽覺體驗邁入全新境界 AI/LE Audio玩轉音訊新可能(1)

耳機、智慧音箱等音訊裝置正逐漸成為日常生活中的必需品,使用者對於音訊品質和多元功能的要求也隨之提高。音訊技術持續向前,除了優化既有聆聽體驗,也將透過新興技術找到全新應用,未來發展不可限量。 耳機已經成為生活中越來越不可分割的穿戴式裝置,而隨著音訊體驗的廣泛普及,使用者對於音訊品質的要求也越來越高。因此,嵌入式系統的音訊設計需要同步演進,以打造更沉浸式、更乾淨的音訊。此外,藍牙低功耗音訊(LE...
2024 年 05 月 28 日

聽覺體驗邁入全新境界 AI/LE Audio玩轉音訊新可能(2)

耳機、智慧音箱等音訊裝置正逐漸成為日常生活中的必需品,使用者對於音訊品質和多元功能的要求也隨之提高。音訊技術持續向前,除了優化既有聆聽體驗,也將透過新興技術找到全新應用,未來發展不可限量。 功耗/延遲同步降低 LE...
2024 年 05 月 28 日

國科會團隊打造本土LLM 百工百業擁抱生成式AI(1)

為避免繁體中文在大語言模型浪潮中消失,在國科會主導下,TAIDE團隊耗時一年,完成本土大語言模型的開發。TAIDE模型不僅將繁體中文所代表的文化保存在大語言模型中,也為使用繁體中文的台灣一般使用者與企業,奠定了導入生成式AI的基礎。...
2024 年 05 月 24 日

生成式AI帶動半導體測試耗材市場復甦

根據Yole Group在《2024年第一季度半導體測試耗材市場監測報告》中發表的數據,ChatGPT等生成式AI服務的成功,正在推動AI運算基礎設施需求激增,這可能會重塑目前由Google主導的網路搜索服務市場競爭格局。這一轉變將使市場對GPU和DRAM的需求大幅增加,因為AI搜索引擎的運算需求,大約是傳統搜索引擎的十倍。除了半導體前段製造外,後段封裝測試也將從生成式AI所帶來的大量需求獲益。...
2024 年 05 月 23 日

COMPUTEX 2024 Forum首度以人工智慧為主題

COMPUTEX是AIoT和新創產業展覽,2024年將於6月4日至6月7日在南港展覽館1館及2館辦理。呼應展覽主軸「AI串聯、共創未來(Connecting AI)」,今年COMPUTEX Forum以「Let’s...
2024 年 05 月 16 日