FPGA火力支援 微軟發表Project Brainwave

作者: 黃繼寬
2017 年 08 月 24 日

軟體業者為了強化人工智慧演算法的執行效率,紛紛跨足硬體設計。繼Google、Facebook之後,微軟(Microsoft)近日也發表了自家的Project Brainwave平台。該平台以英特爾(Intel)提供的Stratix 10現場可編程閘陣列(FPGA)為基礎,除了內建深度神經網路(DNN)加速引擎外,在軟體堆疊方面,還可支援Google的Tensorflow、微軟自家的Cognitive Toolkit等深度學習框架。

微軟傑出工程師Doug Burger指出,在硬體層面,Project Brainwave是一個以FPGA為基礎的高性能DNN處理平台。微軟已經將高性能FPGA應用在自家的資料中心多年,讓該公司可以為DNN運算提供硬體微服務(Hardware Microservices),亦即將DNN映射到遠端的大量FPGA上,透過呼叫伺服器的方式來執行。這個系統架構對於降低延遲、提高資料吞吐量有很大的幫助,因為外部輸入的需求不須透過CPU處理,而FPGA可以用很快的速度來回應外部提出的需求。

其次,Project Brainwave的FPGA上合成(Synthesize)了軟式DNN處理單元(DPU)。雖然許多公司都採取硬體線路的方式來實作DPU,以便實現最高的運算效能,但這種方法也令DNN的靈活性受到限制,例如資料型態、運算子(Operator)的選擇,都會受限於晶片本身的設計。軟式DNN則沒有這個問題,其可支援的資料型態是在合成的時候決定的。Project Brainwave所使用的FPGA結合了硬體數位訊號處理單元與可合成的邏輯,提供比純ASIC更大量、更最佳化的功能單元。這個設計架構有兩大好處,一是允許高度客製化、窄精度的資料型態,可提高性能又不損失模型的精準性,二是可以在幾周內支援新的演算法。整體來說,以FPGA為基礎的DPU,在性能上並不遜於以硬體實作的DPU,甚至有過之而無不及。

第三,Project Brainwave搭載了可支援眾多主流深度學習框架的軟體堆疊,目前已可支援微軟自家的Cognitive Toolkit以及Google的Tensorflow,未來還將支援更多深度學習框架。

微軟的Project Brainwave是以英特爾的14奈米Stratix 10 FPGA作為核心晶片。

標籤
相關文章

10GBASE-T SoC問世 主機板內建網卡有譜

2012 年 03 月 19 日

超前Thunderbolt USB 3.0光纖版Q2先登場

2012 年 04 月 11 日

趕上英特爾/TI 工研院突破超低電壓設計瓶頸

2012 年 12 月 26 日

串連中國供應鏈 英特爾衝刺平板市占

2014 年 04 月 15 日

英特爾展出次世代運算方案 邊緣運算截長補短

2022 年 11 月 03 日

鎖定12奈米製程 聯電/英特爾宣布晶圓代工合作

2024 年 01 月 26 日
前一篇
ADAS晶片可靠度攸關生死 奈米製程大舉採用仿真技術
下一篇
Littelfuse推出80A離散型雙向瞬態抑制二極體