ChatGPT等LLM大型生成式語言模型橫空問世興起這一波AI人工智慧浪潮，2024（今）年的台灣接續前一年全球AI伺服器的發展依舊火燙，儘管美國科技巨頭們股價在第三季遭逢幾次金融市場震盪，但從AI晶片製造商到台美伺服器業者的出貨量看來完全不受影響，AI平台與新創公司甚至國家主權AI資料庫中心的訂單能見度仍創新高，AI機房與資料中心的建置預估2030年前將供不應求。在產業前景一片大好下，於此同時算力用電需求大增以及更多碳排問題卻成為人們的隱憂。
全球人工智慧發展發展下，AI伺服器與資料中心面臨下面六大問題待解決：
- 高能耗：AI伺服器，特別是執行深度學習模型的大規模集群模型運算將會消耗大量能源。訓練大型神經網路（如GPT-4這樣的模型）需要大量的計算資源，這些資源通常會導致巨大的電力需求。尤其在大型資料中心，這種高能耗會使電力成本和營運壓力增加。
- 散熱需求：隨著AI伺服器的工作量增加，伺服器的發熱量也相應增加。為了保持伺服器內元器件與高昂的晶片能在安全溫度範圍內工作，需要有效的冷卻系統，這進一步增加了能源消耗。冷卻系統包括空調、水冷亦或是浸沒式冷卻技術等，這些系統本身也需要額外的電力來執行。
- 電源管理與效率：在電力使用方面，電源管理效率是另一個挑戰。伺服器需要穩定的電源供應，但隨著使用負載的波動，伺服器可能無法始終以最佳效率執行。如何動態調整電源以應對不同的負載狀況，同時減少不必要的能耗是技術上的挑戰。
- 可持續性再生能源的採用：由於AI伺服器的高能耗，資料中心對建置地點所造成的環境影響越來越受到關注。許多公司開始尋求使用可再生能源來為資料中心供電，但大多數再生能源均屬間歇且不穩定的能量源，要如何穩定地供應大規模的可再生能源仍然是個問題。
- 硬體設計限制：伺服器的硬體設計（如GPU和TPU等專用AI硬體）對用電效率的改善仍然有很大空間。儘管近年來有很多專門針對AI負載的硬體改善，但隨著模型規模的擴大，如何在維持性能的同時降低功耗仍是一個關鍵問題。
- 碳足跡和環境影響：隨著AI伺服器的使用增長，能源消耗所帶來的碳足跡也變得更加顯著。許多公司和研究機構開始關注如何減少AI模型訓練和推理的碳排放。這不僅涉及能源使用效率，還包括設計更節能的AI演算法。
總結來說，AI伺服器的高能耗和散熱需求是當前技術面臨的兩大挑戰，如何改善電源管理、提升硬體效率、以及採用更多的可再生能源是解決這些挑戰的關鍵方向。
創揚科技Just Power以具備人工慣量技術的微電網系統提供綠色算力
綠色算力是指在計算過程中採用可持續、環保的技術與能源，旨在降低計算活動對環境的負面影響。這種算力的實現方式包括使用高效能的硬件、優化算法和更低耗能的數據中心，以減少能源消耗和碳排放。創揚科技李泰安總經理認為所謂的綠色算力核心理念應該包括了
- 能源效率：提升硬件與軟件的計算效率，減少單位計算所需的電力消耗。
- 低碳排放：使用低碳或零碳的可再生能源，如太陽能、風能、或水電來為數據中心和伺服器供電。
- 可持續硬件：採用更節能的硬件，如專門針對AI加速的ASIC（專用集成電路）或TPU（張量處理單元），並使用環保材料製造伺服器設備。
前述三項核心中尤以綠色能源的使用（如風能、太陽能等可再生能源）在支持綠色算力減少環境影響方面扮演關鍵角色，包括：
- 提供可持續的能源來源：傳統數據中心往往依賴化石燃料發電，這會導致大量的碳排放。通過使用綠色能源，AI運算所需的電力來源可以變得更環保。例如，許多科技公司和數據中心已經開始大規模投資可再生能源，將其作為主要的電力來源，減少碳足跡。
- 促進能源效率和智能化運營：AI技術本身可以用來優化能源管理。例如，利用AI分析數據中心的能耗模式，能幫助運營商動態調整功耗，以便在需要的時候使用更多能源，並在低負載時減少不必要的浪費。同時，AI還能協助分配綠色能源，讓數據中心在不同時間段最大化使用太陽能或風能等不穩定的能源。
- 減少碳排放：使用綠色能源進行AI運算不僅能夠減少碳排放，還有助於降低整體電網對高碳能源的依賴。這對於實現碳中和目標尤為重要，特別是隨著AI需求的增長，全球對電力需求日益增加。
- 分散化和本地化能源解決方案：綠色能源可以支持本地化和分散式的數據中心基礎設施。例如，一些數據中心已經安裝了太陽能板或風力渦輪機，這使得它們能夠部分或完全依賴現場的綠色能源來運行。此外，分散化的能源解決方案也能減少對集中式大規模發電廠的依賴，增加能源的自主性和穩定性。此一特點尤其適用於類似台灣，英國，日本，韓國等獨立型電網系統。
- 驅動科技公司的環保承諾：隨著社會對環保和氣候變遷議題的關注，越來越多的科技公司承諾減少碳排放並達到碳中和目標。這些公司在開發人工智慧技術時，會更積極地投資綠色能源，並採取措施優化其運算基礎設施，以應對未來可能更嚴格的環保法規和社會壓力。
李泰安總經理補充道，創揚科技Just Power採用人工慣量綠色微電網是指通過智能控制技術和能源儲存系統模擬傳統發電機組的慣性行為，來維持電網穩定性，並且主要使用綠色能源（主要為太陽能、風能等主流再生能源發電；必要時可以搭配氫燃料電池發電系統或是地熱發電設施等綠色基載電力源）來提供電力的分佈式小型電網系統。這種微電網系統能夠與更大規模的電力系統進行互動，並且具備自給自足和離網運行的能力，從而減少對傳統化石燃料發電的依賴。
- 人工慣量的概念：在傳統的電網中，大型火力發電機組具有物理慣量，這有助於在負載波動時穩定電壓和頻率。綠色能源（如太陽能和風能）本身沒有慣量，因此在接入電網時，當電力需求或供應快速變化時，容易引起電網不穩定。人工慣量技術旨在通過儲能系統（如電池或飛輪）模擬傳統電網的慣性，幫助維持電網頻率穩定，從而增強微電網的可靠性。
- 綠色微電網的構成主要由以下幾個部分組成：
- 可再生能源發電系統：如太陽能板、風力發電機等，提供清潔的能源。
- 儲能系統：包括電池、飛輪或其他形式的能源儲存裝置，用來平衡能源供需，並提供人工慣量支持。
- 智能控制系統：通過數字技術實時監測和管理能源生產、儲存與消耗，並根據需求調整微電網的運行模式。
- 配電網絡：負責將綠色能源分配到用戶端，或與主電網進行互聯。
- 氫燃料電池系統或是生質能發電機組。
AI伺服器機房或資料中心的能耗巨大，而創揚科技Just Power人工慣量綠色微電網技術可以在實現淨零碳排目標中發揮以下關鍵作用：
- 提供穩定且可再生的電力來源：綠色微電網系統可以主要依賴太陽能、風能等可再生能源來運行AI伺服器機房，從而大幅降低對傳統化石燃料發電的依賴。由於綠色能源的間歇性，儲能系統和人工慣量技術能夠有效補充能源的穩定性，確保伺服器機房在高負載時依然能夠穩定運行。
- 降低碳排放：綠色微電網使用的可再生能源如太陽能和風能，能夠在全生命週期內實現接近零碳排放。將這些能源應用於數據中心運營中，能顯著減少伺服器機房的碳足跡，有助於實現碳中和甚至淨零碳排的目標。
- 能源自給自足與離網運行：人工慣量綠色微電網具備自給自足的能力，當外部主電網出現問題或高峰期電力供應緊張時，數據中心仍然可以依賴儲能系統和可再生能源運行。這使得伺服器機房能夠更加靈活地應對電力供應波動，避免碳排放高峰期使用傳統電力來源。甚至可以透過參與VPP需量反應以及時間移轉調度等手段來減少AI機房用電費用。創揚科技獨特的人工慣量技術甚至可以避免不論電網事故或是綠電驟降時對於整體軟硬體的電力品質衝擊。
- 優化能源使用效率：智能控制系統能夠根據AI伺服器機房的運行狀況，實時優化能源使用。例如，在AI模型訓練高峰時段，系統可以優先使用儲能系統中的電力來平衡需求；而在負載較低的時段，則可以更多地使用來自太陽能或風能的直接供電。這種優化的能源調度策略可以最大限度地減少能源浪費，並提高整體能源利用效率，降低機房契約容量。
- 減少峰值負載對電網的壓力：AI伺服器機房通常在高負載時會對主電網產生巨大的電力需求，這可能會加劇電網的負荷，並導致碳排放增加。綠色微電網能夠通過儲能技術平滑這種高峰需求，在需求高峰期使用儲存的綠色能源，從而降低對主電網的依賴，進一步減少碳排放。更有甚者，可以讓目前沒有電力饋線但周遭適合建立再生能源的案場，可以不需要仰賴電網供電而獨立實施綠色運算的能耐。
創揚科技Just Power人工慣量綠色微電網通過提供穩定的綠色能源供應、儲能技術和智能控制系統，為AI伺服器機房滿足了一個可持續的解決方案，幫助其實現淨零碳排放目標。這樣的技術能夠減少對傳統化石燃料的依賴，優化能源效率，並減少整體碳足跡，對於日益增長的AI運算需求提供了一個環保且高效的解決方案。在人工智慧快速發展的背景下，綠色能源能夠幫助平衡計算需求增長與環境保護之間的矛盾。通過採用綠色能源技術，AI算力可以在滿足高速計算需求的同時，降低能耗和碳排放，為全球可持續發展目標作出貢獻。
此資訊欲知更多技術細節，請點《AIx永續x節能 資料中心科技大未來論壇》
