Definition Was ist Nvidia AI Enterprise?

Autor / Redakteur: Dipl.-Ing. (FH) Stefan Luber / Nico Litzel

Nvidia AI Enterprise ist eine Software Suite für die Ausführung von Workloads Künstlicher Intelligenz und für Datenanalysen. Sie ist Cloud-native und bietet eine hohe Performance. Vorgesehen ist die Software Suite für Nvidia-zertifizierte Systeme und die Virtualisierungsplattform VMware vSphere. Nvidia AI Enterprise zertifizierte Systeme mit Nvidia-GPUs sind von zahlreichen namhaften Hardwareherstellern erhältlich.

Firmen zum Thema

(Bild: © aga7ta - stock.adobe.com)

Nvidia AI Enterprise ist der Name einer Software Suite des führenden Entwickler- und Herstellerunternehmens von Grafikprozessoren Nvidia, mit der sich Workloads der Künstlichen Intelligenz (KI), im Englischen Artificial Intelligence (AI), und Datenanalyseaufgaben mit hoher Performance ausführen lassen. Sie ist für den Einsatz in Unternehmen vorgesehen und läuft auf Standardservern mit der Virtualisierungsplattform VMware vSphere. Die Systeme sind von Nvidia zertifiziert und mit einer breiten Palette von Nvidia-GPUs bestückbar. Zahlreiche namhafte Hardwarehersteller wie Dell, HP, Lenovo, Atos, Supermicro und viele mehr bieten entsprechende für AI Enterprise zertifizierte Systeme an. Sie sind beispielsweise mit Nvidia-GPUs A10, A30, A40, A100 oder T4 bestückt.

Die Tools und Frameworks der Nvidia AI Enterprise Software Suite sind Cloud-native und für hybride Cloud-Umgebungen geeignet. Mit VMware vSphere virtualisierte Umgebungen bieten für Workloads der Künstlichen Intelligenz und für Datenanalyseaufgaben über mehrere Knoten hinweg nahezu Bare-Metal-Leistung. KI-Workloads lassen sich schnell bereitstellen, sind problemlos zu skalieren und einfach zu managen. Typische Anwendung für die Software Suite Nvidia AI Enterprise und die zertifizierten Systeme ist beispielsweise das verteilte Deep-Learning-Training. Für einen ersten Eindruck in Sachen Performance und Funktionalität ist der Zugriff auf eine cloudbasierte Testversion der Nvidia AI Enterprise Software Suite mit einigen Demos verfügbar.

Konzept von Nvidia AI Enterprise und Bestandteile der Software Suite

Grundidee von Nvidia AI Enterprise ist, dass sich die Software Suite auf Servern mit Nvidia Grafikprozessoren und der Virtualisierungsplattform VMware vSphere ausführen lässt und eine hohe Performance für KI- und Datenanalyse-Workloads bereitstellt. VMware vSphere ist eine der führenden Virtualisierungsplattformen. Sie eignet sich für die Virtualisierung von Servern und für cloudbasierte Infrastrukturen. Als abstrahierende Schicht zwischen der Hardware und der Software Suite agiert der Typ-1-Hypervisor VMware vSphere ESXi, der direkt auf Bare-Metal-Servern installierbar ist. Zur Software Suite Nvidia AI Enterprise gehören zahlreiche Tools, Anwendungen und Frameworks, die im Umfeld Künstlicher Intelligenz häufig verwendet werden. Sie sind für die von Nvidia zertifizierten Systeme optimiert und für hybride Cloud-Umgebungen geeignet.

Betrachtet man das hierarchische, in Ebenen gegliederte Funktionsmodell, bilden die Server mit Nvidia-GPUs die Hardwarebasis. Auf diesen arbeitet die Virtualisierungsplattform VMware vSphere mit Tanzu. VMware vSphere stellt zentral gemanagte Ressourcenpools bereit, aus denen sich virtualisierte Services bedarfsgerecht konfigurieren lassen. Darauf aufsetzend arbeitet Nvidia AI Enterprise. Zu der Software Suite Nvidia AI Enterprise gehören

  • Komponenten zur Optimierung der Infrastruktur wie Nvidia vGPU, Nvidia Magnum IO oder Nvidia CUDA-X AI,
  • Komponenten für das Cloud-native Deployment wie Nvidia GPU Operator oder Nvidia Network Operator und
  • Tools und Frameworks für Künstliche Intelligenz und Datenanalyse wie Nvidia TensorRT, Nvidia Triton Inference Server, TensorFlow, PyTorch oder Nvidia RAPIDS.

Mögliche Anwendungen der Software Suite Nvidia AI Enterprise

Die Software Suite Nvidia AI Enterprise bietet im Umfeld der Künstlichen Intelligenz und der Datenanalysen eine große Vielfalt an Anwendungsmöglichkeiten. Sie wird in Unternehmen für KI- und Datenanalyse-Workloads sowie von Datenwissenschaftler eingesetzt und ist im Big-Data-Bereich beispielsweise für medizinische Anwendungen nutzbar. Typische Aufgaben, die sich mit der Software Suite Nvidia AI Enterprise mit hoher Performance erledigen lassen, sind das Training von Machine-Learning- und Deep-Learning-Modellen, die Inferenz der Modelle oder das Iterieren komplexer Datenanalysemodelle. Dank der für Grafikprozessoren beschleunigten Bibliotheken verkürzt Nvidia AI Enterprise die benötigte Zeit für das Training von Machine-Learning-Modellen.

Die Vorteile der Software Suite Nvidia AI Enterprise

Der Einsatz der Software Suite Nvidia AI Enterprise bietet zahlreiche Vorteile wie:

  • beschleunigt KI- und Datenanalyse-Workloads dank grafikprozessoroptimierter Bibliotheken
  • bietet über mehrere Knoten hinweg nahezu Bare-Metal-Leistung
  • von Grund auf Cloud-native konzipiert
  • in verteilten Umgebungen und hybriden Cloud-Infrastrukturen einsetzbar
  • wird auf der etablierten und weit verbreiteten Virtualisierungsplattform VMware vSphere ausgeführt
  • auf Standardservern mit VMware vSphere ausführbar
  • Nutzung der gleichen Systeme und VMware-vSphere-Tools, wie sie für die herkömmlichen Unternehmensanwendungen und die Verwaltung der Cloud- und Data-Center-Infrastrukturen zum Einsatz kommen
  • von Nvidia zertifizierte Systeme stellen die benötigte Hardwarebasis bereit und reduzieren die Bereitstellungsrisiken
  • zahlreiche namhafte Hardwarehersteller bieten zertifizierte Systeme an
  • von Nvidia und Partnern geleisteter Support

(ID:47804760)