Alif Semiconductor供應安全、連網、節能的人工智慧與機器學習(AI/ML)微型控制器(MCU)和融合處理器,是一家全球性供應商,現宣布推出第二代Ensemble系列產品,鞏固了其端點AI MCU的地位。
全新的E4、E6與E8 Ensemble MCU和融合處理器,將整合Arm最新神經處理單元(NPU)Ethos-U85和Alif獨特的高頻寬記憶體及智慧型電源管理架構,以支援Transformer網路所需之NPU運算子,以便有效執行生成式AI工作負載。Transformer網路只著重處理所取得的輸入序列中較舊部分的最相關環節,同時快速並行處理現行之獲取序列,以加深脈絡化程度,進而讓端點的用例變得更豐富。在本地化使用方面,當在「以視覺、語音、文字和感測器融合為主」的端點產品中使用多模態AI時,這能帶來即時性、準確性和更令人滿意的體驗,且無需倚賴雲端。
Alif Semiconductor總裁Reza Kazerounian表示,Alif特別選用Arm的標準化Ethos NPU IP,因為此IP具有廣受支援的廣大生態系統,以及優異的效能表現和效率。Alif第二代控制器則將再次發揮優勢,使開發人員能打造過去無力實現的產品,釋放無窮無盡的新用例,進入人們的日常生活中。
新的Ensemble裝置採用經過驗證的系統架構,此架構是Alif第一代E1、E3、E5和E7產品廣受歡迎的幕後功臣。這些包含大型、快速的晶載緊密耦合記憶體(以向多組耦合至Ethos-U55 NPU的Arm Cortex-M55 CPU提供資料)、Alif專有的aiPM精細電源管理系統、硬體隔離式安全區域,以及多種將影音和感測器資料串流至裝置中的方式。Ensemble裝置只利用其內部記憶體就能輕易執行神經網路推理,需要時也能搭配外部記憶體進行。
第二代Ensemble做出一系列改進,以更低的功耗提供更高的AI/ML效能,並為嵌入式視覺與音訊應用提供更多整合式支援。新功能整合了更廣大的內部記憶體匯流排拓撲,為NPU的耗用帶來豐富的本地化資料頻寬,並提供雙MIPI-CSI攝影機介面、每秒運行高達200幀的高速硬體影像訊號處理器,以及一對更快速的外部記憶體介面,每個介面都能達到800MB/s。最後,新的SRAM資料保留選項變得更廣泛,為設計人員提供更大的彈性,可以更快地從睡眠狀態中喚醒。
ARM資深副總裁兼IoT業務部門總經理Paul Williamson表示,隨著邊緣AI部署活動持續逐步成長,ARM必須在距離資料來源最近的裝置上提供更智慧、更快速、更安全的處理能力。隨著Ethos-U85在全球首次實作於端點AI MCU中,Alif正在實現裝置端生成式AI,這種AI在語音和視覺應用中特別有益。OEM現在能將AI嵌入到電池供電型應用中,這也說明了為何邊緣AI要建構在節能的Arm運算平台上。
EDGE AI FOUNDATION執行董事Pete Bernard做出了以下補充,表示在智慧眼鏡或耳塞等端點裝置中使用Transformer網路時,與裝置的互動體驗可望變得非常直覺而自然。藉由在高效能、低功耗的Ensemble架構中實作Ethos-U85 NPU,Alif為這個嶄新的機會開路。
新的設計會持續積極支援第一代E1、E3、E5和E7 Ensemble裝置,這些裝置正在量產中。