是德科技推出AI資料中心建構工具 提升AI訓練效能模擬能力

是德科技(Keysight)宣布推出AI資料中心建構工具,這是一款先進的軟體套件,可模擬真實世界的工作負載,以評估新演算法、元件和協定對AI訓練效能的影響。該工具的工作負載模擬功能,能將大型語言模型(LLM)和其他AI模型訓練工作負載,整合至AI基礎設施元件(如網路、主機與加速器)的設計和驗證流程中。此解決方案實現了硬體設計、協定、架構和AI訓練演算法之間更緊密的協同效應,從而提升系統效能。...
2025 年 04 月 02 日
Local AI

蘋果、AMD與NV的終端AI大戰誰將勝出?

你有沒有注意到,最近我們的電腦不僅要能辦公、看影片、打遊戲,還得能跑AI?隨著ChatGPT等大型語言模型的普及,以及各種開源模型的推出,消費者對於「本地端AI運算」的需求激增,不再滿足於必須連網才能使用的AI服務。蘋果、AMD和NVIDIA這三大晶片巨頭也嗅到商機,紛紛推出針對終端AI應用的解決方案。...
2025 年 03 月 05 日

NVIDIA NeMo Guardrails協助開發人員強化聊天機器人安全

生成式人工智慧的安全是整個產業關注的重點,NVIDIA 設計了 NeMo Guardrails 可適用於所有大型語言模型一起使用,像是 Open AI 的 ChatGPT。NeMo Guardrails將有助於確保由大型語言模型(LLMs)所驅動的智慧應用程式能夠準確、適當、切題且安全。該軟體包括企業需要的所有代碼、範例和文檔,為企業用於產生文字的AI應用程式增加安全性。NeMo...
2023 年 05 月 05 日

NVIDIA推出大型語言模型/生成式AI工作負載推論平台

NVIDIA宣布推出四款推論平台,可針對近來快速出現的各種生成式人工智慧應用程式進行最佳化調整,幫助開發人員快速建立專門的人工智慧應用程式,以提供新的服務和洞察。 這些平台將NVIDIA的整套推論軟體與最新的NVIDIA...
2023 年 03 月 31 日