Mobile-Menu

Kostenüberwachung in Echtzeit Dataiku sorgt bei GenAI-Kosten für Durchblick

Von Martin Hensel 2 min Lesedauer

Anbieter zum Thema

Dataiku GmbH
Fsas Technologies GmbH
Board Deutschland GmbH
INFOMOTION GmbH

Mit LLM Cost Guard führt Dataiku eine dedizierte Lösung zur Kostenüberwachung von Lösungen für generative KI (GenAI) ein. Die neue Komponente im Dataiku LLM Mesh etabliert Standards für das Tracken und Optimieren von GenAI-Anwendungsfällen.

Mit LLM Cost Guard sorgt Dataiku für einen stets aktuellen Überblick über die Kostensituation rund um generative KI.(Bild: Dataiku)
Mit LLM Cost Guard sorgt Dataiku für einen stets aktuellen Überblick über die Kostensituation rund um generative KI.
(Bild: Dataiku)

Das rasant zunehmende Angebot rund um generative KI bringt auch Schwierigkeiten für Unternehmen mit sich. So fällt es oft schwer, mit dem Thema verbundene Kosten zu verstehen und zu verwalten. Dataiku will hier mit dem neuen LLM Cost Guard eine Antwort bieten. Dabei handelt es sich um eine neue Komponente im Dataiku LLM Mesh, die eine dedizierte Lösung zur Kostenüberwachung bereitstellt.

Sie soll Unternehmen dabei helfen, die Nutzung ihrer großen Sprachmodelle (LLMs) zu verfolgen und zu überwachen – und damit letztlich die Kosten für generative KI präziser antizipieren und kontrollieren zu können. „Mit LLM Cost Guard möchten wir diese Ausgaben entmystifizieren. IT-Leiter haben nun nicht nur kontrollierten, geregelten LLM-Zugang im Dataiku LLM Mesh, sondern auch eine detaillierte Echtzeitkontrolle über Ausgaben, sodass sie sich auf das Entwickeln und Innovation konzentrieren können. Indem wir verschiedene Kosten klar trennen und Frühwarnungen einstellen, helfen wir Führungskräften, selbstbewusst mit ihren generativen KI-Projekten voranzuschreiten“, erklärt Dataiku-CEO Florian Douetteau.

Zentrale Lösung für zahlreiche Anbieter

Das Dataiku LLM Mesh bietet eine zentrale Lösung mit einer hohen Bandbreite an LLM-Anbietern. Für Unternehmen ist das von Vorteil, da sie für unterschiedliche Anwendungsfälle auf verschiedene LLM-Anbieter setzen können. Dementsprechend liefert auch Dataiku LLM Cost Guard Einblicke und eine Übersicht über die verschiedenen Anbieter hinweg. LLM-Ausgaben lassen sich markieren und verfolgen. Kosten können bestimmten Projekten zugeordnet werden, um für finanzielle Klarheit zu sorgen.

Nutzer können zudem zwischen Produktions- und Entwicklungskosten unterscheiden, um ihre finanzielle Planung strategisch durchzuführen. Dataiku Cost Guard erlaubt zudem die Implementierung von Frühwarnsystemen, um potenzielle Kostenüberschreitungen frühzeitig zu identifizieren. Dies reduziert finanzielle Risiken und schließt auch die Folgen möglicher Governance-Probleme mit ein. Ein Dashboard zeigt sowohl LLM-Nutzung und entsprechende Ausgaben an, um fundierte Entscheidungen und optimale Investitionen zu ermöglichen.

Verfügbarkeit

Dataiku bietet LLM Cost Guard ab sofort an.

(ID:49973980)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte