NVIDIA Hopper效能大幅提升 TensorRT-LLM簡化推論工作

生成式AI應用市場快速成長,亟需更強大的運算效能支援。NVIDIA在最新的MLPerf基準測試中,NVIDIA TensorRT-LLM軟體,可加速和簡化大型語言模型的複雜推論工作,將GPT-J LLM上的NVIDIA...
2024 年 04 月 01 日

群聯aiDAPTIV+力降模型微調成本 助生成式AI落地

在生成式人工智慧(AI)技術爆發後,全球的企業無不積極導入AI應用。但是對企業而言,AI落地除了需要軟體支援,更必須克服硬體效能瓶頸、預算限制等挑戰。面對市場上快速成長的AI需求,廠商如群聯電子推出aiDAPTIV+解決方案,希望透過降低AI的技術開發門檻,以及直接整合SSD與工作站或AI伺服器,取代成本高昂的高頻寬記憶體(HBM)或GDDR。同時,該方案可將資料儲存在邊緣端,可避免企業資料上傳雲端後,可能產生外洩風險。...
2024 年 03 月 28 日

Arm車用事業部亞太區資深總監鄧志偉:虛擬IP加速車用處理器上市時程

汽車受到軟體定義汽車(SDV)、自駕與電氣化的趨勢影響,新興架構與功能發展快速。車用IC供應商面對汽車產業的變化,需要加快開發晶片的腳步,開發符合SDV 與Zonal架構,並且可滿足未來人工智慧(AI)運算需求的晶片,才能趕上車廠的需求。與此同時,IP供應商也透過建立產業聯盟及軟/硬體整合平台,期望協助車用IC...
2024 年 03 月 26 日

NVIDIA Blackwell GTC亮相 DGX B200助力超級運算

NVIDIA在2024 GTC中,針對規模生成式AI訓練和推論工作,推出了更高效能的運算架構,將能處理兆級的參數模型,可望更多元的大規模AI應用。NVIDIA推出下一代人工智慧(AI)超級電腦,此產品由NVIDIA...
2024 年 03 月 21 日

Arm推出虛擬IP平台 加快車用AI導入

車用供應鏈在軟體定義汽車(SDV)的趨勢下,轉為發展以車廠為中心的供應模式,IC供應商與車廠密集合作,開發符合SDV與Zonal架構,並且可滿足未來人工智慧(AI)運算需求的晶片。也因此車用IC供應商亟需硬體開發工具的支援,才能滿足新興的設計需求,並且加快產品上線時間。IP廠商如Arm面對車用產業的變化,除了建立SOFEE聯盟,近期也推出虛擬IP與新的車用IP,期望助力車用生態系順利開發晶片。Arm...
2024 年 03 月 18 日

5G-A喜迎商用元年 AI帶動電信業轉型

在2024年世界行動通訊大會(MWC 2024)中,5G與人工智慧(AI)兩項技術備受矚目。日前工研院於「MWC 2024展會直擊:邁向智慧通訊新未來研討會」中指出,MWC 2024會展主題以Future...
2024 年 03 月 14 日

Vision Pro發售後退貨率低 台灣16%消費者具購買意願

蘋果(Apple)的頭戴式裝置Vision Pro發布後,受到市場高度矚目。隨後Vision Pro在2月2日,於美國正式發售。第一波產品開賣後,部分消費者將Vision Pro退貨。而資策會產業情報研究所(MIC)事前也發布針對台灣市場「延展實境(XR)品牌與意向調查」,顯示目前僅有16%的台灣消費者有意願購買Vision...
2024 年 03 月 11 日

JEDEC發布GDDR7 圖像處理速度更上層樓

JEDEC固態技術協會日前發布JESD239圖形雙倍數據速率(GDDR7)SGRAM的標準。GDDR7相較過去的GDDR標準,除了頻寬與獨立通道數增加,也改善功耗,並支援整合數據的功能。JESD239...
2024 年 03 月 07 日

AI原生網路助攻 6G擘畫智慧通訊/感測

人工智慧(AI)與虛實整合的熱潮,與行動網路的發展相輔相成。數位分身(Digital Twin)與智慧城市等應用,未來都可能在6G世代快速發展。6G的AI原生(AI Native)網路,有助於基地台管控資源,達到省電的目的。整合感測與傳輸的技術,則可望應用於建立城市的數位分身,提升基礎建設效率。...
2024 年 03 月 05 日

AI帶動ASIC需求 Arm全面設計為客製化晶片鋪路

生成式AI帶動市場對於運算效能與彈性的需求,來處理龐大的資料量。IC的設計與製造也順應AI技術快速變化的趨勢,需要發展更多彈性與客製化設計。因此Arm全面設計(Arm Total Design)與其他企業合作,加速與簡化基於Arm...
2024 年 03 月 04 日

智慧通訊應用可期 處理器廠MWC推AI平台/解方

在MWC 2024中,可以觀察到人工智慧(AI)帶動電信與AI設備、軟體等廠商的跨界合作。AMD與三星合作虛擬RAN解決方案,支援三星的Open RAN應用。NVIDIA則與Service Now合作推出電信專用生成式AI解決方案,並且與其他科技廠商建立AI-RAN聯盟(AI-RAN...
2024 年 02 月 29 日

3GPP R21制定起步走 2028年6G上路接棒

目前針對第六代行動通訊系統(IMT- 2030),ITU-R於2023年6月發布《6G框架建議書草案》,並於2023年11月更新針對6G技術框架的看法。2024年也是3GPP邁入R19標準制定的時間點,延續到2025年3月3GPP的6G工作坊(Workshop)期間,是6G標準初步發展的關鍵時期。...
2024 年 02 月 29 日