在AI應用當道世代,人工智慧應用需求不斷攀升;執行AI運算多元性,讓AI系統與應用開發者擁有多元選擇。其中在AI運算效能表現突出的GPU,對此GPGPU和AI邊緣運算平台供應商安提國際(Aetina Corporation),為因應基於各式GPU運算的嵌入式設備需求提供開發選擇。
產品中以Nvidia Jetson模組系列為主的SoM(System on Module)平台,成為時下AI邊緣運算裝置的選擇。因了解顧客需求,安提國際針對安提Nvidia Jetson AGX Xavier AI邊緣運算平台進行實測,與Nvidia RTX 2080相比較,找出屬於SoM平台與安提Xavier AI邊緣運算平台的優點,提供最適合的產品。
平台搭載Nvidia Jetson AGX Xavier模組與安提開發載板AX710,組成高運算效率的嵌入式邊緣運算平台,並導入開源函式庫—Openpose演算法,利用抓取特徵點的方式偵測人體的骨架,能夠即時對多人進行偵測。透過收集骨架資訊並定義各種姿勢和動作,可在動作被偵測後嵌入額外指令碼,進而命令機器人產生回饋,進行更高階的應用,具高效能與低功耗展現。
姿勢偵測應用的硬體使用安提Jetson AGX Xavier AI運算平台,擁有512個CUDA運算核心及11TFLOPS的AI推論效能,功耗僅需30W,能帶來0.367(TFLOPS/W)能效功耗比,在邊緣裝置中具高度適切性。其與Nvidia RTX 2080高階圖形顯示卡相比,後者雖提供20.14 TFLOPS運算效能,但耗能需求為225W,較前者的0.09(TFLOPS /W)低近4倍運算效率,AI推論效率也不及前者的1.5倍。此外,其支援I/O擴充,能搭配擴充高速網卡與彈性選擇各式數位或類比相機搭載;作為SoM平台,易部署在IoT環境中各邊緣端,有效降低AI應用延遲,打造完善AIoT生物鏈。