國科會團隊打造本土LLM 百工百業擁抱生成式AI(1)

為避免繁體中文在大語言模型浪潮中消失,在國科會主導下,TAIDE團隊耗時一年,完成本土大語言模型的開發。TAIDE模型不僅將繁體中文所代表的文化保存在大語言模型中,也為使用繁體中文的台灣一般使用者與企業,奠定了導入生成式AI的基礎。...
2024 年 05 月 24 日

生成式AI帶動半導體測試耗材市場復甦

根據Yole Group在《2024年第一季度半導體測試耗材市場監測報告》中發表的數據,ChatGPT等生成式AI服務的成功,正在推動AI運算基礎設施需求激增,這可能會重塑目前由Google主導的網路搜索服務市場競爭格局。這一轉變將使市場對GPU和DRAM的需求大幅增加,因為AI搜索引擎的運算需求,大約是傳統搜索引擎的十倍。除了半導體前段製造外,後段封裝測試也將從生成式AI所帶來的大量需求獲益。...
2024 年 05 月 23 日

COMPUTEX 2024 Forum首度以人工智慧為主題

COMPUTEX是AIoT和新創產業展覽,2024年將於6月4日至6月7日在南港展覽館1館及2館辦理。呼應展覽主軸「AI串聯、共創未來(Connecting AI)」,今年COMPUTEX Forum以「Let’s...
2024 年 05 月 16 日

Cadence軟硬兼施 多物理模擬結合生成式AI來勢洶洶

生成式AI已成為工程軟體業界必須緊跟的趨勢,不管是在IC設計前期或設計驗證階段,甚至PCB或系統層級的設計模擬,都能看到設計工具導入越來越多基於生成式AI而發展出的功能。向來採取一條龍策略的益華電腦(Cadence),為了讓客戶能更容易導入這些採用了生成式AI的新一代設計工具,並且讓這些工具有更好的執行效能,近期與GPU業者展開深度合作,推出以GPU為核心的運算系統Millennium...
2024 年 05 月 14 日

手機/AI兩樣情 NVIDIA超越高通拿下IC設計王座

據TrendForce研究顯示,2023年全球前十大IC設計業者營收合計約1,676億美元,年增12%,關鍵在於NVIDIA(輝達)帶動整體產業向上,其營收年成長幅度高達105%。而博通(Broadcom)、上海韋爾半導體(Will...
2024 年 05 月 13 日

2024智慧製造能源成本挑戰浮現 生成式AI將是投資重點

人工智慧(AI)浪潮加速智慧製造發展,日前洛克威爾自動化發布《智慧製造概況》報告,此調查來自全球 17 個主要製造國家/地區中逾 1,500 家製造商的最新研究。研究中發現,已使用或評估智慧製造技術的企業比例,已從...
2024 年 05 月 13 日

生成式AI進駐智慧手機 AP效能需求三級跳

市場研究機構Counterpoint近日與聯發科共同發表了《生成式AI手機產業白皮書》,詳細介紹了生成式AI手機生態系統中的合作夥伴,如晶片製造商、手機製造商和大模型供應商的AI策略,並對未來的軟硬體技術趨勢進行了前瞻性分析。...
2024 年 05 月 09 日

生成式AI助長高速介面需求 Kandou進軍PCIe Retimer市場

為滿足生成式AI對運算效能的需求,高速介面已成為不可或缺的關鍵技術,與高速介面搭配使用的Retimer市場也將隨之爆發。為滿足AI伺服器對Retimer的需求,Kandou將推出針對PCIe Gen5設計的Retimer方案。...
2024 年 05 月 07 日

巨大機會與挑戰迎面撲來 2024生成式AI全方位啟動(1)

生成式AI快速發展,在投資資金大幅提高下,生成式AI市場規模迅速成長, 生成式AI潛力無窮,實踐上卻有許多挑戰。其帶動大規模的產業投資與發展,未來更將在各個方面影響社會的走向。 2023年初,ChatGPT如平地一聲雷,讓所有關心科技產業與人工智慧(AI)技術的人們,都體驗了一場震撼教育,生成式AI(Generative...
2024 年 05 月 06 日

生成式AI效能需求大漲 DDR5 RDIMM/CXL搶攻AI伺服器

大型語言模型(LLM)應用發酵之後,人工智慧(AI)設備在資料傳輸與存取速度,以及記憶體容量的需求隨攀升。在DRAM方面,近期SK海力士及美光相繼推出新的產品及解決方案,期望加快資料傳輸的頻寬、速度,並強化能源使用效率。...
2024 年 05 月 06 日

巨大機會與挑戰迎面撲來 2024生成式AI全方位啟動(2)

生成式AI快速發展,在投資資金大幅提高下,生成式AI市場規模迅速成長, 生成式AI潛力無窮,實踐上卻有許多挑戰。其帶動大規模的產業投資與發展,未來更將在各個方面影響社會的走向。 生成式AI邊緣應用百花齊放...
2024 年 05 月 06 日

兼顧效能/功耗/成本 SSD攜DRAM全力應援AI運算

近年來人工智慧(AI)模型的參數量飆速成長,AI機台與終端裝置對於記憶體容量及傳輸速度需求隨之增加。對企業而言,為了導入生成式AI等應用,提升硬體設備效能勢在必行。在權衡效能、功耗與成本之下,SSD與DRAM的搭配,就成為升級設備與控制成本的解方。...
2024 年 05 月 02 日