FPGA火力支援 微軟發表Project Brainwave

作者: 黃繼寬
2017 年 08 月 24 日

軟體業者為了強化人工智慧演算法的執行效率,紛紛跨足硬體設計。繼Google、Facebook之後,微軟(Microsoft)近日也發表了自家的Project Brainwave平台。該平台以英特爾(Intel)提供的Stratix 10現場可編程閘陣列(FPGA)為基礎,除了內建深度神經網路(DNN)加速引擎外,在軟體堆疊方面,還可支援Google的Tensorflow、微軟自家的Cognitive Toolkit等深度學習框架。

微軟傑出工程師Doug Burger指出,在硬體層面,Project Brainwave是一個以FPGA為基礎的高性能DNN處理平台。微軟已經將高性能FPGA應用在自家的資料中心多年,讓該公司可以為DNN運算提供硬體微服務(Hardware Microservices),亦即將DNN映射到遠端的大量FPGA上,透過呼叫伺服器的方式來執行。這個系統架構對於降低延遲、提高資料吞吐量有很大的幫助,因為外部輸入的需求不須透過CPU處理,而FPGA可以用很快的速度來回應外部提出的需求。

其次,Project Brainwave的FPGA上合成(Synthesize)了軟式DNN處理單元(DPU)。雖然許多公司都採取硬體線路的方式來實作DPU,以便實現最高的運算效能,但這種方法也令DNN的靈活性受到限制,例如資料型態、運算子(Operator)的選擇,都會受限於晶片本身的設計。軟式DNN則沒有這個問題,其可支援的資料型態是在合成的時候決定的。Project Brainwave所使用的FPGA結合了硬體數位訊號處理單元與可合成的邏輯,提供比純ASIC更大量、更最佳化的功能單元。這個設計架構有兩大好處,一是允許高度客製化、窄精度的資料型態,可提高性能又不損失模型的精準性,二是可以在幾周內支援新的演算法。整體來說,以FPGA為基礎的DPU,在性能上並不遜於以硬體實作的DPU,甚至有過之而無不及。

第三,Project Brainwave搭載了可支援眾多主流深度學習框架的軟體堆疊,目前已可支援微軟自家的Cognitive Toolkit以及Google的Tensorflow,未來還將支援更多深度學習框架。

微軟的Project Brainwave是以英特爾的14奈米Stratix 10 FPGA作為核心晶片。

標籤
相關文章

強攻平板/個人電腦市場 超微精銳盡出

2011 年 06 月 03 日

創造群聚效益 「台灣雲谷」衝刺雲端商機

2012 年 03 月 19 日

布局中國市場 英特爾攜手華為研發TD-LTE方案

2012 年 05 月 03 日

Thunderbolt應用起飛 連接器/纜線商機爆發

2013 年 01 月 21 日

半導體材料掀革命 10nm製程改用鍺/III-V元素

2013 年 03 月 15 日

搶灘物聯網 英特爾強化Quark軟體整合/開放性

2013 年 12 月 23 日
前一篇
ADAS晶片可靠度攸關生死 奈米製程大舉採用仿真技術
下一篇
Littelfuse推出80A離散型雙向瞬態抑制二極體