JFrog und NVIDIA schließen Partnerschaft

Sichere KI-Modelle schneller bereitstellen JFrog und NVIDIA schließen Partnerschaft

26.09.2024 Von Martin Hensel 1 min Lesedauer

Anbieter zum Thema

JFrog

NVIDIA GmbH

fsas-afc-horizontal-2-positive-rgb-nov24 (Fsas)

Fsas Technologies GmbH

Board Deutschland GmbH

Disy Informationssysteme GmbH

Der Software-Supply-Chain-Spezialist JFrog kooperiert mit NVIDIA. Im Mittelpunkt der Zusammenarbeit steht die beschleunigte Bereitstellung sicherer KI-Modelle. Dazu wird die JFrog-Plattform um NVIDIA NIM für GPU-optimierte KI-Services erweitert.

JFrog hat seine Plattform um NVIDIA NIM für GPU-optimierte KI-Services erweitert.(Bild: Brian Penny / Pixabay) — JFrog hat seine Plattform um NVIDIA NIM für GPU-optimierte KI-Services erweitert.
(Bild: Brian Penny / Pixabay)

Neben der Integration von NVIDIA NIM hat JFrog auch die JFrog-Artifactory-Modellregistrierung in seine Plattform implementiert. Auf diese Weise lassen sich ab sofort GPU-optimierte, vorab genehmigte KI-Modelle mit zentralisierten DevSecOps-Prozessen in einem durchgängigen Software-Lieferketten-Workflow kombinieren. Unternehmen können somit sichere Modelle für Machine Learning und große Sprachmodelle („Large Language Models“, LLMs) in kurzer Zeit in den Produktiveinsatz bringen. Dabei sorgt die JFrog-Plattform für erhöhte Transparenz, Rückverfolgbarkeit und Vertrauenswürdigkeit.

„Da Unternehmen KI-Technologie heutzutage schnell einführen, ist es unerlässlich, Praktiken zu implementieren, die ihre Effizienz und Sicherheit gewährleisten und KI verantwortungsvoll einbeziehen“, erklärt Gal Marder, Executive Vice President Strategy von JFrog. Durch die Integration von DevOps-, Sicherheits- und MLOps-Prozessen in einen durchgängigen Software-Lieferketten-Workflow mit NVIDIA NIM-Mikrodiensten können JFrog-Nutzer sicherere Modelle effizient in die Produktion bringen. „Gleichzeitig können sie ein hohes Maß an Transparenz, Rückverfolgbarkeit und Kontrolle in der gesamten Pipeline gewährleisten“, ergänzt Marder.

Funktionen im Überblick

Dank der NVIDIA-NIM-Integration lassen sich containerisierte KI-Modelle als Softwarepakete in bestehende Softwareentwicklungs-Workflows integrieren. Zudem können Unternehmen mit NIVIDIA NGC eine zentrale Quelle für alle Softwarepakete und KI-Modelle nutzen. Das Zusammenspiel der Lösungen von JFrog und NVIDIA sorgt für eine einheitliche Verwaltung, die beispielsweise eine zentralisierte Zugriffskontrolle von NIM-Mikroservice-Containern neben allen anderen Assets in JFrog Artifactory als Modellregister ermöglicht und die nahtlose Integration in bestehende DevSecOps-Workflows gestattet.

Kontinuierliches Scannen sorgt in jeder Entwicklungsphase für Sicherheit und Integrität. Dies schließt Container und Abhängigkeiten mit ein und liefert kontextbasierte Einblicke in NIM-Mikroservices mit JFrog-Prüfungs- und Nutzungsstatistiken, um die Compliance zu fördern. Laut JFrog ist auch für hohe Modell-Performance und Skalierbarkeit gesorgt, da NVIDIA-beschleunigte Recheninfrastruktur mit geringer Latenz und hohem Durchsatz zum Einsatz kommt. Kunden können zudem auf flexible Bereitstellungsoptionen zurückgreifen, einschließlich selbstgehosteter, Multi-Cloud- und Air-Gap-Varianten.

(ID:50166132)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Stand: 08.12.2025

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.