ChatGPT引發生成式AI的應用熱潮,隨之帶起新一波的高效能運算需求。NVIDIA創辦人暨執行長黃仁勳於2023年5月29日的Computex2023主題演講提及,加速運算與生成式AI重塑了運算,並直指未來的運算將進入「資料中心即電腦;網路定義資料中心」的時代。
在加速運算與生成式AI的發展結合之後,從根本變革了運算產業。黃仁勳表示,CPU難以繼續擴充,顛覆了過去每5年算力成長十倍的規律。突破CPU擴充困境的新方向,就是採用加速運算。現階段加速運算的發展,剛好遇到深度學習(DL)的新技術,也就是生成式AI改變了軟體既有的使用形式。加速運算與生成式AI為目前的運算產業帶來新的動能,而這樣的技術革新,對於從根本改變軟體與運算的運作模式並不容易。
黃仁勳認為,CPU可以說是一個奇蹟,高階程式語言、優良的編譯器,也得益於它的彈性,幾乎所有使用者都在CPU上面寫出很好的程式,只是現階段CPU難以繼續擴充,因此需要採用加速運算。加速運算相較通用運算困難,須要解決全端(Full-stack)問題。在加速運算中,使用者需要從頭到尾重新設計,從晶片到系統,再到系統的軟體,以及新的演算法,最後還要優化新的應用。
其次,新興的運算模式也要解決資料中心等級的挑戰,因為現代的資料中心即是電腦。不像過去一台個人電腦就是電腦、手機就是電腦,現在所有的應用都在整個資料中心中執行。因此,開發人員需要知道如何全面優化晶片、運算、軟體等。
第三是加速運算的應用會在多元領域發酵,以運算生物科學數據,或者為運算流體力學而開發的軟體為例,兩者有本質上的差異。也就是包含科學研究等領域的運算需求,都需要針對性的軟體堆疊,這也是NVIDIA耗費大約30年的時間,才完成加速運算的軟體堆疊的原因。