NVIDIA Hopper效能大幅提升 TensorRT-LLM簡化推論工作

生成式AI應用市場快速成長,亟需更強大的運算效能支援。NVIDIA在最新的MLPerf基準測試中,NVIDIA TensorRT-LLM軟體,可加速和簡化大型語言模型的複雜推論工作,將GPT-J LLM上的NVIDIA...
2024 年 04 月 01 日

Edge AI方興未艾 高通全面擁抱生成式人工智慧

生成式AI正式攻占科技產業,無論那個領域都需要導入,行動通訊終端亦不例外。根據高通技術的統計,該公司的物聯網專用晶片組出貨量已超過3.5億,並已擴展至各產業領域。透過釋放智慧邊緣的無限潛力,高通為客戶提供端對端的解決方案,以最佳化其營運模式、協助做出資訊更充足的商業決策、不斷推動以全新方式創新,共同為促進台灣數位轉型與經濟成長而努力。...
2024 年 03 月 29 日

群聯aiDAPTIV+力降模型微調成本 助生成式AI落地

在生成式人工智慧(AI)技術爆發後,全球的企業無不積極導入AI應用。但是對企業而言,AI落地除了需要軟體支援,更必須克服硬體效能瓶頸、預算限制等挑戰。面對市場上快速成長的AI需求,廠商如群聯電子推出aiDAPTIV+解決方案,希望透過降低AI的技術開發門檻,以及直接整合SSD與工作站或AI伺服器,取代成本高昂的高頻寬記憶體(HBM)或GDDR。同時,該方案可將資料儲存在邊緣端,可避免企業資料上傳雲端後,可能產生外洩風險。...
2024 年 03 月 28 日

Ansys攜手NVIDIA開創電腦輔助工程新世代

Ansys宣布與NVIDIA合作,共同開發由加速運算和生成式AI驅動的下一代模擬解決方案。擴大的合作將融合頂尖技術以推進6G技術,透過NVIDIA GPU增強Ansys求解器,將NVIDIA AI整合到Ansys軟體產品中,開發基於物理的數位分身,以及自訂使用NVIDIA...
2024 年 03 月 21 日

5G-A喜迎商用元年 AI帶動電信業轉型

在2024年世界行動通訊大會(MWC 2024)中,5G與人工智慧(AI)兩項技術備受矚目。日前工研院於「MWC 2024展會直擊:邁向智慧通訊新未來研討會」中指出,MWC 2024會展主題以Future...
2024 年 03 月 14 日

安提全新無風扇邊緣AI系統亮相2024 NVIDIA GTC

全球邊緣人工智慧(AI)市場蓬勃發展,隨著邊緣端IoT裝置急速成長,加速了對可靠、高效能、高度靈活性邊緣AI推論設備的迫切需求。安提國際(Aetina)宣布推出最新無風扇多功能擴展邊緣AI系統AIE-PN33/43系列和AIE-PO23/33系列,搭載NVIDIA...
2024 年 03 月 11 日

智慧通訊應用可期 處理器廠MWC推AI平台/解方

在MWC 2024中,可以觀察到人工智慧(AI)帶動電信與AI設備、軟體等廠商的跨界合作。AMD與三星合作虛擬RAN解決方案,支援三星的Open RAN應用。NVIDIA則與Service Now合作推出電信專用生成式AI解決方案,並且與其他科技廠商建立AI-RAN聯盟(AI-RAN...
2024 年 02 月 29 日

強化AI基礎設施管理 Equinix 為 NVIDIA DGX提供託管服務

生成式人工智慧(AI)成為市場高度關注的技術,不少企業企圖在自家服務與產品中導入生成式AI應用,藉此強化競爭優勢。然而不同企業導入生成式AI,除了需要足夠的算力支援,還需要完善的數位基礎設施,以發展客製化的模型。因此數位基礎設施公司Equinix宣布推出完全託管的私有雲服務,協助全球企業獲取和管理NVIDIA...
2024 年 01 月 25 日

眺望2024年製造業趨勢 洛克威爾提出RED關鍵三軸

儘管對電子及半導體製造業而言,2023年是相對辛苦的一年,但智慧工廠與數位轉型的發展腳步,並未因景氣修正而放緩。展望2024年,電子及半導體製造仍需加速推動數位轉型,以因應ESG所帶來的挑戰,同時也必須在風險管理方面有更積極的回應。...
2024 年 01 月 24 日

生成式AI助手進軍EDA IC設計面臨大變革

生成式AI浪潮席捲科技業,不只伺服器、PC產品先後擁抱生成式AI,連IC設計業本身的運作,包含IC設計過程在內,也將因生成式AI的導入而出現重大改變。 生成式AI無疑是當前科技產業最熱門的關鍵字,但這項技術的普及速度之快,恐怕會出乎很多人的意料。在ChatGPT展現出寫程式的能力之後,不只軟體領域的從業人員開始研究該如何使用生成式AI來幫忙寫程式,EDA產業也非常積極地探索,如何用生成式AI扮演數位助理的角色,讓自家的工程師也能在生成式AI的幫助下,進一步提高生產力。...
2024 年 01 月 22 日

CES 2024 AI無所不在 開啟AI PC元年

針對CES 2024大力關注人工智慧(AI)應用趨勢,工研院研究團隊在「2024 CES展會直擊-生成式AI賦能科技創新研討會」中指出觀察,CES 2024以個人運算裝置革新、未來創新移動載具與使用體驗新模式、健身及身心健康生活之全方位提升、永續與綠色消費生活的落實為四大展出主軸。並且AI...
2024 年 01 月 19 日

Ansys正式推出SaaS應用程式SimAI

Ansys宣布推出基於人工智慧(AI)的最新技術Ansys SimAI,為一種不限於物理科學的軟體即服務(SaaS)應用程式,將Ansys模擬的準確預測性與生成AI的速度相結合。新的解決方案不僅支援開放的生態系,還能在幾分鐘內預測效能,透過直觀的界面和流程實現模擬普及化。...
2024 年 01 月 18 日