機器學習(Machine Learning, ML)是目前科技業內的顯學,但由即便只做推論,都需要一定程度的運算能力跟記憶體容量才能執行,因此微控制器(MCU)這種效能有限,記憶體空間也不大的元件,通常很難跑得動ML演算法。不過,MCU應用開發者對於ML其實有很濃厚的興趣,這也促使安謀(Arm)決定在未來推出的新版Cortex-M核心中,進一步強化這類核心執行ML演算法的效率。
安謀機器學習事業群總經理Jem Davies表示,人工智慧(AI)應用無所不在,已經是未來的趨勢。也因為商機龐大,處理器、數位訊號處理器(DSP)、繪圖晶片業者都開始強化對神經網路(NN)、機器學習的支援,更有許多新創公司針對人工智慧推出專用的神經網路處理器/加速器方案,市場呈現百家爭鳴的態勢。
不過,就安謀的觀察,MCU對機器學習的需求,其實也十分強勁。Davies透露,在Project Trillium上線,Arm NN軟體開發套件開放用戶下載的第一天,就有超過5,000名用戶開始使用CMSIS NN,嘗試以Cortex-M執行機器學習算法。這個結果其實出乎安謀的預料,也顯示MCU用戶群對機器學習的需求跟興趣,是不容忽視的。
CMSIS NN是安謀神經網路軟體開發套件Arm NN SDK下的一個運算函式庫(Compute Library),可以提升Cortex-M執行機器學習算法的效率。即便是現有的Cortex-M核心,在CMSIS NN的幫助下,也可以執行一些很簡單的機器學習推論,例如判讀感測器輸出資料所代表的意義。當然,由於MCU的運算效能跟記憶體空間都不是很充裕,因此不可能執行非常複雜機器學習推論,但如果是對單一感測器節點輸出的資料做簡單判讀,還是有機會實現的。
Davies指出,MCU如果無法支援某些基本的ML算法,AI應用無所不在的未來是難以實現的。目前透過雲端資料中心提供的人工智慧應用服務,其實有很明顯的應用局限,只有把AI不斷往邊緣推進,才能讓AI應用更加普及。而為了讓MCU能更有效率地執行ML演算法,在安謀未來的產品發展路線圖裡面,Cortex-M執行ML的效率將會進一步提升。