CEVA宣布用於人工智慧和機器學習(AI/ML)推論工作負載的最新一代處理器架構NeuPro-M獲EE Awards Asia 2022亞洲金選獎之「金選潛力標竿」(Most Promising Product)獎項。
NeuPro-M是自給自足的異質架構,瞄準邊緣人工智慧(Edge AI)和邊緣運算(Edge Compute)的廣泛市場。它由多個專用的輔助處理器和可配置的硬體加速器組成,可以同時完善處理深度神經網路的各種工作負載,與前代產品相比,性能提高了5到15倍。
NeuPro-M能同時支援系統單晶片(SoC)以及異構SoC(HSoC)的可擴展性,以實現1,200TOPS性能,並提供可選的強大安全啟動和端到端資料隱私。
NeuPro-M與CEVA屢次獲獎的神經網路編譯器CDNN及其強大的軟體發展環境共同運作,為客戶提供了完全可編程設計的硬體/軟體AI開發環境,以最大限度地發揮AI應用的性能。CDNN包含創新的軟體,能夠充分利用客戶自訂的NeuPro-M硬體來實現最佳的功率、性能和頻寬。CDNN軟體還包含用於減少記憶體和最佳化負載平衡演算法的記憶體管理器,並廣泛支援各種網路格式,包括ONNX、Caffe、TensorFlow、TensorFlow Lite、Pytorch等。CDNN相容常見的開源框架,其中包括Glow、tvm、Halide和TensorFlow,並帶有「層融合」(Layer Fusion)和「訓練後量化」(Post Training Quantization)模型最佳化功能,同時使用精度保留方法。