NVIDIA日前宣布與美國科技業大廠攜手合作,利用新的NVIDIA NIM Agent Blueprints以及NVIDIA NeMo和NVIDIA NIM微服務,協助企業量身打造人工智慧(AI)應用,並且改變全球各行各業。在各行各業中,AT&T、Lowe’s和佛羅里達大學(University of Florida)等機構都在使用這些微服務來建立自己的資料驅動型AI飛輪(AI flywheel),以驅動客製化的生成式AI應用。
美國大型科技顧問廠商埃森哲(Accenture)、德勤(Deloitte)、Quantiphi與SoftServe正在採用NVIDIA NIM Agent Blueprints以及NVIDIA NeMo和NIM微服務,協助醫療保健、製造業、電信、金融服務和零售業的客戶建立客製化的生成式AI代理和copilot。資料與AI平台業者Cadence、Cloudera、DataStax、Google Cloud、NetApp、SAP、ServiceNow與Teradata皆使用NVIDIA NIM來推進各自的資料與AI平台。
NVIDIA NeMo微服務實現量身打造的生成式AI
NVIDIA NeMo微服務支援端對端模型客製化工作流程與開發AI代理,幫助企業更快將客製化的生成式AI應用推向市場,降低開發成本。NeMo微服務,包含NeMo Customizer、NeMo Evaluator和NeMo Guardrails,能與NIM微服務搭配使用,協助開發人員輕鬆整理大規模的資料、客製化和評估模型,以及回應各項要求來配合業務目標。接著,開發人員可以在任何GPU加速的雲端、資料中心或工作站上,無縫部署客製化的NIM微服務。
NVIDIA NIM Agent Blueprint已開放使用
為幫助開發人員快速上手,NVIDIA提供NIM Agent Blueprints作為參考工作流程,為使用NVIDIA NeMo與NIM微服務來開發應用提供指南。NIM Agent Blueprints有助於加入關鍵企業使用案例的AI部署,包括藥物探索、客戶服務和資料擷取。全新用於軟體容器安全性的藍圖已於今日推出。開發人員可以免費試用NeMo與NIM微服務,還有NVIDIA NIM Agent Blueprints。企業可以透過NVIDIA AI Enterprise軟體平台,在生產環境裡部署具備企業級安全性、支援與穩定性的應用。
各行各業建立客製化AI代理
各行各業的領導業者都在使用NVIDIA AI來改善電信、教育與安全。
- AT&T正與Quantiphi合作利用NVIDIA NIM建立一個對話平台,可支援員工進行軟體開發、網路工程與金融服務等工作。
- 佛羅里達大學採用NVIDIA NIM與NeMo來推動該校學習管理系統的發展,這套系統採用檢索增強生成技術,可協助助教提高學生的成功率與就學穩定率。
- 家居裝修公司Lowe’s,正在探索使用NVIDIA NIM和NeMo微服務來改善店員和客戶的體驗,以及提高店員的工作效率。例如Lowe’s使用NVIDIA NeMo Guardrails來提高該公司生成式AI解決方案平台的安全性。
全球顧問業利用NeMo加速採用AI
NVIDIA全球服務供應商和服務交付合作夥伴正在協助各行各業的企業使用NVIDIA NeMo和NIM微服務,以及NIM Agent Blueprints來建立可運用商業資料的客製化AI應用。
- 埃森哲利用其AI Refinery 和Accenture NVIDIA事業群,協助客戶使用NVIDIA NeMo和NIM微服務建立特定領域的AI代理。
- 德勤將最新的NVIDIA NIM Agent Blueprint與該公司的網路安全解決方案進行整合,這將有助於企業加速軟體漏洞分析與大規模緩解。
- SoftServe的Generative AI Industrial Assistant採用NeMo與NIM微服務,透過讓設備手冊更容易取得,並為工廠工人提供故障排除和保養維護工作的即時指導,提高工業製造的安全性與效率。
資料與AI平台提升洞察力
NVIDIA AI生態系統合作夥伴Cadence、Cloudera、DataStax、Google Cloud、NetApp、SAP、ServiceNow及Teradata正在使用NeMo和NIM微服務建立具有完善推論能力的客製化生成式AI應用。
- Cloudera日前推出內嵌NIM的AI Inference Service,讓開發人員可以建置、客製化和部署企業級大型語言模型,推論效能最高可提升36倍。
- Google Cloud將NIM整合至Google Kubernetes Engine,為企業客戶提供直接從Google Cloud Marketplace部署最佳化模型的簡化路徑。
- SAP將使用NIM微服務為其客戶部署客製化的生成式AI應用。
- ServiceNow是首批採用NeMo和NIM微服務的公司之一,最近同樣宣布計畫採用NVIDIA NIM Agent Blueprints,為多個美國政府機構提供生成式AI使用案例。ServiceNow的技術也能讓組織建立客製化的生成式AI代理,重塑整個企業的工作模式。
- Teradata將NVIDIA AI Enterprise與自家的Vantage平台進行整合,以便更有效率地開發及部署可信賴的生成式AI應用。