Generative AI Solutions für Unternehmenskunden Dell stellt Lösungen für die Einführung von generativer KI vor

Anbieter zum Thema

Dell GmbH

Sinequa

Fivetran Germany GmbH

Dell Technologies hat sich mit seinem Partner dem GPU-Hersteller Nvidia zusammengetan und offeriert nun eine Produktpalette, mit der Unternehmenskunden Modelle für generative Künstliche Intelligenz (KI) in ihre Infrastruktur und Prozesse integrieren können sollen. Dell offeriert in diesem Rahmen neue Workstations und Professional Services.

Senior Vice President Varun Chhabra, bei Dell Technologies zuständig für KI und Telekom, stellte die drei Säulen der Dell Generative AI Solutions vor. Gemäß einer eigenen Umfrage unter GenAI-Nutzern wird Generative AI bereits von 71 Prozent der Befragten für geschäftliche Zwecke genutzt, im privaten Bereich sind es sogar 91 Prozent. Es gibt also definitiv einen Markt und eine Nachfrage. Aber auch Risiken beim Einsatz von GenAI und deshalb biete sich Dell Unternehmen als vertrauenswürdiger Partner an, wenn sie das Potenzial von GenAI ausschöpfen wollen.

Validated GenAI Design

Mit dem „Dell Validated Design for Generative AI with NVIDIA“ bietet Dell Technologies Infrastruktur-Baupläne für generative KI. Das Design wurde gemeinsam mit Nvidia entwickelt und ermöglicht es Unternehmen, bei sich vor Ort eine modulare und sichere Plattform für generative KI aufzubauen. Mit ihr können sie für ihre eigenen Daten Anwendungen mit großen Sprachmodellen (Large Language Models, LLMs) entwickeln, betreiben und schnell skalieren.

Bildergalerie

Damit fokussiert sich Dell nach Chhabras Worten zunächst auf den Schritt der Inferenz. Das Training von Modellen kommt also erst später. Inferenz verhilft dem Nutzer aber zu schnellen Ergebnissen, denn es ist ein weniger aufwendiger Schritt bei der KI-Modellierung. Was dafür nötig sei, liefere Nvidia mit seinem Framework NeMo, in dem sich vortrainierte LLMs tummeln. „Solche Funktionen ermöglichen beispielsweise Übersetzungen von natürlichen Sprachen“, sagte Chhabra. Nvidia steuere zudem seine Triton Inference Services und das Cluster Management bei, das nötig sei, um umfangreiche Datenmengen und LLMs auf einem Cluster auszuführen.

NeMo Guardrails

Nvidia bringt Richtlinien-Toolkit für generative KI

Das Design umfasst getestete und validierte Kombinationen von Infrastruktur-Komponenten wie den Servern Dell PowerEdge XE9680 und Dell PowerEdge R760xa mit Nvidia Tensor Core GPUs, Nvidia AI Enterprise Software, Nvidia NeMo Framework und Software von Dell Technologies. Diese Kombinationen können Unternehmen mit Storage-Lösungen für unstrukturierte Daten erweitern, etwa mit Dell PowerScale oder dem Dell ECS Enterprise Object Storage. Die Infrastrukturen sind auch via Dell APEX verfügbar. Auf diesem Weg erhalten Unternehmen eine On-Premises-Installation, die sie wie eine Cloud nutzen und verwalten können.

Dell Precision Workstations

Dell Technologies erweitert außerdem seine Tower-Workstations Dell Precision 7960, 7865 und 5860 um Konfigurationen mit Nvidia RTX 6000 Ada Generation GPUs. Dafür stehen den KI-Entwicklern bis zu vier Nvidia RTX 6000 Ada GPUs in einer Workstation zur Verfügung „Diese GPU und das übrige Design machen diese Rechner bis zu 80 Prozent leistungsfähiger (als bisherige Dell-Rechner)“, sagte Chhabra.

Dell und Nvidia bündeln Kompetenzen

Project Helix für sichere generative KI-Modelle angekündigt

Precision Workstations lassen sich nach seinen Angaben auf der ganzen Bandbreite der KI-Entwicklungs-Workloads nutzen: vom Modellentwurf über Training und Inferenz bis zu Data Science, Machine Learning und Bilderkennung und generativer KI. Für KI-Entwickler stellt eine Precision Workstation jeweils eine lokale Sandbox zur Verfügung, ganz besonders in Umgebungen, in denen eine vollständig mobile Lösung benötigt wird.

KI-Modelle wachsen mit der Zeit an Datenumfang und Komplexität. Die Reichweite des Deployments eines Modells erweitert sich auf ein größeres „Publikum“. Um sowohl die nötige Skalierbarkeit als auch Leistung für die Sicherstellung überzeugender GenAI-Nutzererfahrungen zu erhalten, werden sich die Kunden nach der Überzeugung von Chhabra der Rechenzentrumsinfrastruktur von Dell zuwenden.

Zusammen mit der vorinstallierten Software „Dell Optimizer“ erhielten die Dell-Kunden nach Chhabras Worten nicht nur performante Rechenpower, sondern auch Energie sparende: Der Optimizer minimiere die Betriebszeit der Batterie. Außerdem optimiere er die Customer Experience (CX), sodass der User keine Berührungsängste bei der Nutzung von GenAI zu haben brauche.

Professional Services

Chhabra bestätigte auf Anfrage, dass sowohl die Precision Workstations als auch das Dell Validated GenAI Design über das APEX-Vertriebsprogramm den bestehenden Dell-Kunden angeboten würden, mit einer Einschränkung: „Die Professional Services, mit denen Dell die erwähnten Produkte einführen kann, sind vorerst nur in ausgewählten Regionen verfügbar“, darunter auch Deutschland.

An Server-Kisten und fremder KI-Software verdient Dell nur wenig, wohl aber an den Services, die damit einhergehen. Zunächst ist für das passende Datenmanagement zu sorgen, damit der Kunde die optimalen Datenquellen am optimalen Ort zum richtigen Zeitpunkt zur Verfügung hat; dazu gehört ein automatisierter Datenkatalog, der sämtliche Metadaten enthält, und ein Data Mesh für den umfassenden Datenzugriff.

Zweitens gehört dazu die Implementierung der oben erwähnten Hard- und Software sowie drittens der kniffligste Aspekt: die Business Integration. Denn um GenAI-Services nutzen zu können, sollte bereits ein Anwendungsfall vorliegen, ein Bedarf. Solch ein Fall könnte beispielsweise die Applikationsmodernisierung sein, um etwa Übersetzungen anzufertigen.

Der zweite Use Case ist die Prozessoptimierung, damit generative KI einen Mehrwert in bestimmten Prozessen erbringt. Das kann etwa die Zusammenfassung von Dokumenten im Marketing sein, die Bildauswertung, die Verfeinerung der Betrugserkennung (die sich laut einer aktuellen Studie von BanklesssTimes.com um bis zu 40 Prozent steigern ließe) und vieles mehr. Der dritte Anwendungsfall für Professional Services besteht laut Chhabra in Feedback und in Lernprozessen. Diese sind für die laufende Optimierung des GenAI-Einsatzes von großer Bedeutung. Nach der Implementierung helfen Skalierungsdienstleistungen den Unternehmen dabei, den Betrieb mithilfe von Managed Services, Schulungen oder Experten vor Ort zu optimieren.

Verfügbarkeit

Das Dell Validated Design for Generative AI with NVIDIA ist ab sofort weltweit über die herkömmlichen Kanäle sowie Dell APEX verfügbar.

Die Dell Professional Services for Generative AI stehen ab sofort in ausgewählten Ländern, darunter auch Deutschland, zur Verfügung.

Die Dell Precision Workstations 7960 Tower, 7865 Tower und 5860 Tower mit NVIDIA RTX 6000 Ada Generation GPUs werden Anfang August weltweit verfügbar sein.

Die neuen Features von Dell Optimizer werden ab dem 30. August weltweit auf ausgewählten mobilen Precision-Workstations zur Verfügung stehen.

(ID:49634415)