人工智慧(AI)是時下熱議題,其中,由雲端運算架構逐漸轉移至邊緣運算架構,將會為供應鏈各廠商帶來不小的影響。儘管短時間內人工智慧的發展將依然以雲端運算為主,然而,許多關於視覺應用人工智慧功能將開始導入邊緣。
賽靈思(Xilinx)視覺智慧策略市場開發總監Dale K. Hitt指出,在可預見的未來裡,AI發展中的訓練元件可能仍由雲端運算主宰。然而,推論/部署元件已開始使用邊緣運算來支援各種需要低延遲與網路效率的應用。
對於邊緣運算元件而言,用於視覺相關應用的機器學習,將是其中一項關鍵且影響深遠的大趨勢,並且,在工業機器視覺、智慧城市、視覺分析以及自駕車市場都有強勁的成長潛力。就工業視覺與消費應用而言,由於邊緣運算須執行機器學習演算法,因此對於效能的要求也比先前世代方案高出許多。此外,機器學習邊緣演算法/功能也已快速演進,因此各界需要具備自行調適能力的硬體,來針對未來機器學習推論架構進行最佳化。
Hitt以自駕車為例,自駕車中每個感測器背後都有精密演算法支援,負責從感測器資料中產出感知判讀的結果。最新的趨勢是運用深度學習演算法來產出這些感知判讀結果,然而,深度學習演算法必須透過數量龐大的潛在情境加以訓練,來學習如何判讀所有可能出現的感測器資料。在經過訓練後,深度學習演算法需要極高的運算效能與超低的延遲,才能安全地操控車輛。對於電動車而言,則必須運用低功耗來因應工作溫度限制及延長電池電力。半導體商的目標,是提供高效能、低耗電、具調適能力的解決方案,來滿足自駕車運行邊緣AI的各種需求。
在邊緣運算發展的過程中,最大挑戰在於市場的需求變化太快速,因此能針對各種變化快速調適的技術極為重要,才能讓企業維持競爭力。
Hitt進一步說明,深度學習演算法正以飛快的速度持續進步,許多2017年的領先解決方案至今已面臨淘汰的命運。即使現在具有高出他人許多的能力,隨著運算需求不斷攀升,硬體方面仍須進行最佳化。硬體必須以更快的速度更新,才能避免被淘汰,有些硬體甚至在投產中就面臨須更新的需求。許多替代技術還須召回原廠來更新晶片。
Hitt補充,FPGA獨特的優勢在於包括運算、記憶體架構以及連結等方面都能進行深度硬體最佳化,和CPU與GPU相比,最佳化後能以更低的功耗達到較高的效能,而前兩者的硬體架構無法針對新衍生的需求快速進行最佳化。