生成式AI元年啟動 NVIDIA全力支援企業AI

人工智慧(AI)與大型語言模型(LLM)的快速進展,模型的參數量呈現倍數成長,硬體設備亟需突破效能瓶頸。 面對龐大的算力需求,處理器供應商從CPU、GPU的運算效能、晶片內的資料傳輸頻寬等角度切入,盡可能滿足LLM在訓練與推論方面的效能需求。同時,企業導入生成式AI面臨諸多挑戰,包含模型更新速度飛快、數位分身(Digital...
2024 年 04 月 11 日

英特爾發表Gaudi 3 點名挑戰NVIDIA

英特爾在Vision 2024大會上,正式發表其Intel Gaudi 3 AI加速器。與前代產品相比,Gaudi 3為BF16提供4倍AI運算能力、1.5倍記憶體頻寬以及2倍網路頻寬,可擴充大規模系統,將有助大型語言模型(LLM)和多模態模型的AI訓練和推理,大幅提升效能和生產力。此外,英特爾亦強調,將透過開源社群軟體和符合業界標準的乙太網路,為客戶提供可靈活擴充系統的新選擇。從新推出的產品規格到生態系布局,可以很明顯看出,英特爾正急於抽乾NVIDIA在AI生態系領域所挖掘的護城河。...
2024 年 04 月 10 日

科林研發推出世界首款生產導向脈衝雷射沉積設備

科林研發(Lam Research)近日發表了世界上第一個以生產為導向的脈衝雷射沉積(Pulsed Laser Deposition, PLD)機台,以實現下世代MEMS麥克風和射頻(Radio Frequency,...
2024 年 04 月 10 日

TSMC Arizona獲66億美金補助 將建第三座晶圓廠

美國在2022年制定的《晶片與科學法》(CHIPS and Science Act)加強對當地半導體供應鏈的投資,也加快台積電在美國設廠的腳步。台積電日前宣布,美國商務部和TSMC Arizona已簽署一份不具約束力的初步備忘錄(Preliminary...
2024 年 04 月 09 日

PCIe 7.0標準化進展順利 2025年可望如期推出

負責制定PCI Express(PCIe)標準的PCI-SIG宣布,PCIe 7.0的0.5版標準草案已開放給會員查看,標準制定的進展速度符合預期。PCIe 7.0正式標準將在2025年如期問世。 PCI-SIG宣布,0.5版PCIe...
2024 年 04 月 03 日

NVIDIA Hopper效能大幅提升 TensorRT-LLM簡化推論工作

生成式AI應用市場快速成長,亟需更強大的運算效能支援。NVIDIA在最新的MLPerf基準測試中,NVIDIA TensorRT-LLM軟體,可加速和簡化大型語言模型的複雜推論工作,將GPT-J LLM上的NVIDIA...
2024 年 04 月 01 日

軟硬體新方案亮相 西門子全力推動工具機數位轉型

缺工、減碳與產業升級,是當下全球製造業共同面臨的挑戰。做為製造業的骨幹,工具機產業當然也面臨這三大考驗,而數位轉型則是上述問題的解答。為進一步加快工具機數位轉型的步伐,西門子(Siemens)在台北國際工具機展期間,發表新軟硬體解決方案,希望能引領產業,打造循環再生數位應用,迎向工具機永續未來。...
2024 年 03 月 29 日

Edge AI方興未艾 高通全面擁抱生成式人工智慧

生成式AI正式攻占科技產業,無論那個領域都需要導入,行動通訊終端亦不例外。根據高通技術的統計,該公司的物聯網專用晶片組出貨量已超過3.5億,並已擴展至各產業領域。透過釋放智慧邊緣的無限潛力,高通為客戶提供端對端的解決方案,以最佳化其營運模式、協助做出資訊更充足的商業決策、不斷推動以全新方式創新,共同為促進台灣數位轉型與經濟成長而努力。...
2024 年 03 月 29 日

前瞻半導體技術再突破 國科會/經濟部搶先布局新興應用

近日,國科會、經濟部攜手舉辦「2024臺灣半導體產學論壇暨半導體領域專案成果發表會」,展現各學研團隊在Å世代半導體專案計畫、化合物半導體專案計畫及關鍵新興晶片專案計畫的創新研發,以及經濟部透過法人研發與補助業者加速產業落地的重點成果。...
2024 年 03 月 28 日

群聯aiDAPTIV+力降模型微調成本 助生成式AI落地

在生成式人工智慧(AI)技術爆發後,全球的企業無不積極導入AI應用。但是對企業而言,AI落地除了需要軟體支援,更必須克服硬體效能瓶頸、預算限制等挑戰。面對市場上快速成長的AI需求,廠商如群聯電子推出aiDAPTIV+解決分案,希望透過降低AI的技術開發門檻,以及直接整合SSD與工作站或AI伺服器,取代成本高昂的高頻寬記憶體(HBM)或GDDR。同時,該方案可將資料儲存在邊緣端,可避免企業資料上傳雲端後,可能產生外洩風險。...
2024 年 03 月 28 日

矽光子技術新突破 imec展示32通道矽基波長濾波器

在近日於美國聖地牙哥舉行的光學網路暨通訊會議(OFC)上,比利時微電子研究中心(imec)發表了與矽基分波多工器(WDM)有關的一項重大性能進展。一款具備低損耗與高調變效率的緊湊型32通道矽基波長濾波器首次亮相,成功把收發訊號的波長通道數量增加至現有商用收發器的4倍。此次展示的性能將能持續擴展新一代矽光子收發器的頻寬密度和功率效率,滿足高性能人工智慧(AI)或機器學習(ML)運算叢集應用對短距離光通訊連接的需求。  ...
2024 年 03 月 26 日

AI伺服器帶動中電壓應用需求 TI推出GaN解決方案

生成式AI大行其道,AI伺服器的耗電量也開始受到嚴格檢視。對伺服器電源系統而言,如何提高能源轉換效率與功率密度,一直都是最主要的設計挑戰,但傳統矽MOSFET已經很難再有顯著突破。為協助伺服器電源系統開發者進一步提高功率密度與轉換效率,德州儀器(TI)近日發表新款基於氮化鎵(GaN)技術,而且鎖定的是其他GaN供應商較少著墨的中電壓(100V)應用。...
2024 年 03 月 22 日