生成式AI落地不再難 達梭攜手Mistral AI推出LLMaaS

進入生成式經濟(Generative Economy)時代,各產業拓展業務的重心,必須從產品研發轉向注重體驗和永續發展,透過數位工具結合模擬技術改善現實世界。 人工智慧技術快速更迭,特別是以Mistral...
2024 年 07 月 18 日

Arm終端產品運算子系統全面啟動 高速運算擁抱行動AI世代

Arm終端產品運算子系統(Arm CSS for Client),在提高整體運算效能、強化人工智慧運算能力與優化省電續航三大主軸下,帶領智慧終端實現下一波運算性能需求。Arm並舉辦Tech Day深入解析相關技術架構與設計理念。...
2024 年 07 月 04 日

GAI/LLM催生即時翻譯應用藍海

大型語言模型(LLM)與生成式人工智慧(AI),是目前市場上最受矚目的技術。其中,即時翻譯服務快速發展,市場上可以看到即時翻譯軟體與錄音筆等產品陸續問世。例如台灣新創廠商聲麥無線即提供即時翻譯的軟/硬體整合方案,該裝置可以將發言者的說話內容,以文字即時翻譯成多種語言,並顯示在透明面板中,提供其他語言的使用者閱讀。...
2024 年 06 月 28 日

Arm Kleidi開發平台助終端AI體驗再升級

市場上有數千種Android設備正在運作,每一種都有不同的硬體規格,比起單一雲平台統一的硬體規格,開發者為千百種行動裝置進行優化需要付出更多努力。而框架就是一個快速發展的生態,Arm已經注意到終端推理運行時(Runtime)的碎片化趨勢,而且其在性能方面的特徵各不相同,在這些框架間移植網路非常複雜。...
2024 年 06 月 25 日

新世代Armv9 CPU效能滿點瞄準AI終端需求

2024年Arm終端產品運算子系統(Arm CSS for Client)解決方案中的核心,絕對非CPU架構莫屬,Arm自2020年推出Cortex-X系列以來,目標簡單明確,就是提高單執行緒性能,要實現優異性能,並非只涉及單一因素,而是要綜合考量每時脈週期指令數(IPC)、頻率、編譯器、作業系統(OS)、封裝等多個方面。Arm對Cortex-X...
2024 年 06 月 24 日

Arm Immortalis-G925 GPU核心大幅強化遊戲體驗

自從行動裝置進入智慧聯網時代,無所不在的影像體驗就成為智慧裝置的一大重點,高階智慧手機的CPU效能也成為產業關注的焦點。目前,Arm合作夥伴的GPU出貨量已累計超過100億顆。2024年Arm CSS...
2024 年 06 月 21 日

Arm終端產品運算子系統全面優化智慧行動裝置AI體驗

人工智慧(AI)時代正式降臨,AI PC與AI NB等智慧終端預計將成為品牌廠商開發的重點,身為各家晶片商軍火庫的Arm,也於5月底正式推出全新的架構解決方案Arm終端產品運算子系統(Arm CSS for...
2024 年 06 月 20 日

研華發表邊緣運算解方 加速產業AI應用落地

邊緣AI在工業自動化與智慧城市應用的腳步加快,即將在2025~2026年迎來落地應用的成長爆發。研華於Computex2024中,展示應用NVIDIA方案的產業AI平台。此次展出從邊緣端生成式AI、醫療AI,智慧製造AI解決方案三大主軸,提供相應的AI邊緣運算系統與伺服器。...
2024 年 06 月 07 日

異質運算實現邊緣LLM CPU/GPU/NPU各有所長

生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展,在邊緣端導入生成式AI的願景,成為處理器廠商的兵家必爭之地。面對市場上特定應用領域的AI推論需求,處理器廠商積極開發適用於終端裝置的解決方案,期望未來終端應用可以導入生成式AI。...
2024 年 06 月 06 日

安提國際發表NVIDIA MGX邊緣AI伺服器

安提國際(Aetina)為宜鼎國際(Innodisk)集團子公司,於COMPUTEX 2024中宣布推出旗下首款創新的NVIDIA MGX短機身伺服器「SuperEdge AEX-2UA1」。AEX-2UA1是市場上首批採用x86...
2024 年 06 月 06 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(1)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 生成式人工智慧(AI)啟動新一波的AI應用熱潮,而邊緣AI高度安全、低延遲等優勢,也帶動大型語言模型(LLM)在終端裝置中的應用。將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(2)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 SSD支援AI運算空間...
2024 年 06 月 03 日