恩智浦發表Glow神經網路編譯器 實現邊緣機器學習 - 產業動態 - 新電子科技雜誌 Micro-electronics


熱門關鍵字:電源模組 | SiC | 機器視覺 | GaN | 5G

訂閱電子報

立刻輸入Email,獲取最新的資訊:


收藏功能:
分享報新知:
其他功能:

恩智浦發表Glow神經網路編譯器 實現邊緣機器學習

發布日期:2020/08/10 關鍵字:恩智浦NXPGlow神經網路NN編譯器

恩智浦半導體(NXP)宣布eIQ機器學習(ML)軟體對Glow神經網路(Neural Network, NN)編譯器的支援功能,針對恩智浦的i.MX RT跨界微控制器,帶來能夠實現占用較低記憶體並提供更高效能的神經網路編譯器應用。Glow編譯器由Facebook開發,能夠整合特定目標的最佳化,恩智浦利用這種能力,使用適用於Arm Cortex-M核心和Cadence Tensilica HiFi 4 DSP的神經網路運算元庫(NN Operator Libraries),最大程度地提升i.MX RT685以及i.MX RT1050和RT1060的推論效能。此外,此功能已整合至恩智浦的eIQ機器學習軟體開發環境中,於恩智浦的MCUXpresso軟體開發套件(Software Development Kit, SDK)中免費提供。

2018年5月,率先開發PyTorch的Facebook導入Glow(Graph Lowering神經網路編譯器),作為開源社區(Open Source Community)專案,其目的是藉由最佳化提高一系列硬體平台上的神經網路效能。作為神經網路編譯器,Glow能在尚未最佳化的神經網路的基礎上,生成高度最佳化的代碼。此特點有別於典型的神經網路模型處理(Neural Network Model Processing),後者採用即時編譯,因此需要更高的效能,並增加記憶體消耗。像Glow這樣直接運作最佳化的代碼可以顯著降低處理與記憶體要求。恩智浦也在Glow開源社區中扮演著積極角色,幫助推廣和普及Glow的新功能。

恩智浦針對機器學習的邊緣智慧環境解決方案是一個全面的工具包(Toolkit),提供開發人員需要的建構模組,幫助他們高效地在邊緣裝置中實現機器學習。Glow整合到eIQ軟體後,機器學習開發人員將擁有全面的高效能框架,可在包含i.MX RT跨界微控制器和i.MX 8應用處理器在內的恩智浦邊緣處理解決方案上進行擴展。客戶擁有更強大的工具,能夠在i.MX RT微控制器和i.MX應用處理器上開發機器學習語音應用、物體辨識、臉部辨識等應用。

eIQ現在具有針對Glow和TensorFlow Lite的推論支援,對此,恩智浦會定期執行基準測試以衡量其效能。微控制器基準測試包含標準神經網路模型,例如CIFAR-10。以CIFAR-10模型為例,恩智浦採集的基準測試資料展現了如何運用i.MX RT1060裝置(採用600MHz Arm Cortex-M7)、i.MX RT1170裝置 (採用1GHz Arm Cortex-M7)和i.MX RT685裝置(採用600 MHz Cadence Tensilica HiFi 4 DSP)的效能優勢。

研討會專區
熱門文章