貿澤電子(Mouser Electronics)即日起供貨BittWare的GroqCard加速器。該款雙寬PCIe外形的ML加速器為PyTorch、TensorFlow和ONNX訓練的深度學習模型提供了簡單的部署路徑。GroqCard加速器是一種多功能選擇,可用於金融、政府、生成式AI、石油和天然氣以及工業應用,為其加速AI、HPC和ML工作負載。
貿澤所供應的BittWare GroqCard加速器有9個RealScale晶片到晶片連接,可確保部署多個卡與一個卡一樣高效。此加速器可提供近乎線性的多伺服器和多機架可擴展性,而無需外部交換機。糾錯碼(ECC)可防止資料損壞,進而改善正常運作時間和可靠性。BittWare GroqCard加速器採用完全確定性GroqChip處理器,有助改善可擴展性。GroqChip透過減少資料移動,保證可預測、無瓶頸、低延遲的效能。此獨立晶片可彈性整合到運算密集型應用中,其簡化的架構和以軟體為重點的設計,使GroqChip處理器比GPU更容易編程。
GroqWare套件是一個完整且多功能的軟體堆疊,由Groq編譯器、Groq API和實用程式組成。此套件可簡化整合與設定的程序,並與產業標準的AI和ML框架相容。GroqWare套件中包含的GroqFlow工具鏈支援使用單行的Pytorch或TensorFlow程式碼來導入及轉換現有模型。BittWare GroqCard加速器在900 MHz頻率下為INT8和FP16作業提供達750 TOP和188 TFLOP的處理量。GroqCard加速器的每個晶片具有230MB SRAM和達80TB/s的片上記憶體頻寬,可實現高速資料存取和處理能力。