Alif第2代低功耗MCU開創邊緣/端點裝置的生成式AI

2025 年 01 月 24 日

Alif Semiconductor供應安全、連網、節能的人工智慧與機器學習(AI/ML)微型控制器(MCU)和融合處理器,是一家全球性供應商,現宣布推出第二代Ensemble系列產品,鞏固了其端點AI MCU的地位。

全新的E4、E6與E8 Ensemble MCU和融合處理器,將整合Arm最新神經處理單元(NPU)Ethos-U85和Alif獨特的高頻寬記憶體及智慧型電源管理架構,以支援Transformer網路所需之NPU運算子,以便有效執行生成式AI工作負載。Transformer網路只著重處理所取得的輸入序列中較舊部分的最相關環節,同時快速並行處理現行之獲取序列,以加深脈絡化程度,進而讓端點的用例變得更豐富。在本地化使用方面,當在「以視覺、語音、文字和感測器融合為主」的端點產品中使用多模態AI時,這能帶來即時性、準確性和更令人滿意的體驗,且無需倚賴雲端。

Alif Semiconductor總裁Reza Kazerounian表示,Alif特別選用Arm的標準化Ethos NPU IP,因為此IP具有廣受支援的廣大生態系統,以及優異的效能表現和效率。Alif第二代控制器則將再次發揮優勢,使開發人員能打造過去無力實現的產品,釋放無窮無盡的新用例,進入人們的日常生活中。

新的Ensemble裝置採用經過驗證的系統架構,此架構是Alif第一代E1、E3、E5和E7產品廣受歡迎的幕後功臣。這些包含大型、快速的晶載緊密耦合記憶體(以向多組耦合至Ethos-U55 NPU的Arm Cortex-M55 CPU提供資料)、Alif專有的aiPM精細電源管理系統、硬體隔離式安全區域,以及多種將影音和感測器資料串流至裝置中的方式。Ensemble裝置只利用其內部記憶體就能輕易執行神經網路推理,需要時也能搭配外部記憶體進行。

第二代Ensemble做出一系列改進,以更低的功耗提供更高的AI/ML效能,並為嵌入式視覺與音訊應用提供更多整合式支援。新功能整合了更廣大的內部記憶體匯流排拓撲,為NPU的耗用帶來豐富的本地化資料頻寬,並提供雙MIPI-CSI攝影機介面、每秒運行高達200幀的高速硬體影像訊號處理器,以及一對更快速的外部記憶體介面,每個介面都能達到800MB/s。最後,新的SRAM資料保留選項變得更廣泛,為設計人員提供更大的彈性,可以更快地從睡眠狀態中喚醒。

ARM資深副總裁兼IoT業務部門總經理Paul Williamson表示,隨著邊緣AI部署活動持續逐步成長,ARM必須在距離資料來源最近的裝置上提供更智慧、更快速、更安全的處理能力。隨著Ethos-U85在全球首次實作於端點AI MCU中,Alif正在實現裝置端生成式AI,這種AI在語音和視覺應用中特別有益。OEM現在能將AI嵌入到電池供電型應用中,這也說明了為何邊緣AI要建構在節能的Arm運算平台上。

EDGE AI FOUNDATION執行董事Pete Bernard做出了以下補充,表示在智慧眼鏡或耳塞等端點裝置中使用Transformer網路時,與裝置的互動體驗可望變得非常直覺而自然。藉由在高效能、低功耗的Ensemble架構中實作Ethos-U85 NPU,Alif為這個嶄新的機會開路。

新的設計會持續積極支援第一代E1、E3、E5和E7 Ensemble裝置,這些裝置正在量產中。

標籤
相關文章

Ansys宣布AnsysGPT虛擬助理進入測試階段

2023 年 08 月 10 日

微軟Ignite 2023發表AI轉型前瞻技術

2023 年 11 月 17 日

凌華/SimProBot推出Tallgeese AI地端工作站方案

2024 年 10 月 22 日

宜鼎DDR5 6400記憶體助力生成式AI應用穩定扎根

2024 年 11 月 04 日

安提/高通打造本地化AI運算解決方案

2025 年 01 月 15 日

安提導入Super Mode技術提升模組AI推論效能

2025 年 01 月 20 日
前一篇
Meta首席AI科學家Yann LeCun:AI架構新典範5年內到來
下一篇
高階自駕、物流需求帶動 光達產值2029年達53.52億美元