Kommentar von Rachel Boskovitch, Dataiku So meistern Unternehmen die Kostenkontrolle für Künstliche Intelligenz

Anbieter zum Thema

Dataiku GmbH

QUNIS GmbH

IT-Entscheider, die in der Verantwortung stehen, Künstliche Intelligenz im Unternehmen einzuführen, stehen derzeit vor einem echten Balanceakt. Einerseits wollen sie fortschrittliche und besonders leistungsstarke Modelle nutzen, und das am liebsten zeitnah und für so viele Aufgaben wie möglich. Andererseits fürchten sie Risiken und explodierende Kosten.

Die Sehnsucht nach generativer KI kollidiert mit der Angst, die über lange Jahre bewährten Pfade zu verlassen – und mit der Furcht, dass am Ende die Kosten stärker steigen als die Produktivität. Glücklicherweise lassen sich diese durchaus berechtigten Ängste im Vorfeld lösen.

Viele der leistungsstarken KI-Modelle verursachen im Laufe der Zeit für Unternehmen hohe Kosten, besonders wenn sie von externen Anbietern bezogen werden. Selbstgehostete Modelle könnten zwar günstiger sein, erfordern im Gegenzug aber oft mehr Ressourcen für Finetuning und Wartung.

Nach Angaben des Digitalverbands Bitkom gaben Unternehmen im deutschen Markt im Jahr 2023 rund 4,1 Milliarden Euro für KI-Software aus. Dahinter folgten KI-bezogene Dienstleistungen mit 1,3 Milliarden Euro und Hardware mit 0,9 Milliarden Euro. Ein Vergleich: Laut GfK hat der Markt für Büroausstattung in Deutschland in der ersten Hälfte des Jahres 2022 einen Umsatz von 5,7 Milliarden Euro verbucht. 2024, so die Bitkom-Prognose, steigen die Ausgaben um weitere 30 Prozent auf 8,2 Milliarden Euro. Der Digitalverband geht davon aus, dass Unternehmen 2025 mehr als zehn Milliarden Euro für KI ausgeben werden.

Dass die KI-Ausgaben insgesamt steigen, ist plausibel. Laut dem Ifo Institut setzen inzwischen 13,3 Prozent aller Unternehmen in Deutschland auf KI. Weitere 36,7 Prozent aller befragten Firmen diskutieren über mögliche Anwendungsszenarien. Auch die Zahl der in der Praxis angewendeten Applikationen nimmt kontinuierlich zu. Aber wie kann ein einzelnes Unternehmen gewährleisten, dass die Kosten nicht außer Kontrolle geraten? Dafür erforderlich ist zunächst ein Blick darauf, wieso es den Verantwortlichen inzwischen so schwerfällt, die Kosten fortlaufend zu kontrollieren.

Vielfalt der KI-Modelle

Immer mehr Unternehmen nutzen nicht mehr einzelne, sondern verschiedene Modelle für unterschiedliche Anwendungen. Wer also Kosten für KI zentral kontrolliert, muss nicht mehr ein einzelnes Modell, sondern fortlaufend eine immer größere Anzahl an Modellen überwachen. Unternehmen zahlen häufig nicht nur eine fixe Gebühr, sondern auch fortlaufend – abhängig vom Umfang, in dem das KI Modell eingesetzt wird. Da jeder Anbieter aber ein eigenes Preismodell hat, ist es umso schwieriger zu prognostizieren, welche Gesamtkosten für KI im Laufe eines Jahres entstehen. Zum Beispiel variieren Lizenzgebühren oder Wartungskosten je nach Anbieter und Modell zusätzlich zu den unterschiedlichen Modellen für die variablen Kosten abhängig von der tatsächlichen Anwendung durch die Nutzer.

Falsche Modellauswahl bei KI-Implementierungen

Nicht jedes der vielen verschiedenen KI-Modelle ist für jede Aufgabe geeignet. In vielen Fällen setzen Unternehmen große generative Modelle wie beispielsweise GPT-4 ein, in dem Glauben, dass diese sehr leistungsfähigen Modelle alle Anforderungen abdecken können. Ein Trugschluss. Denn dabei wird oft übersehen, dass viele Anwendungen häufig effizienter von kleineren und kostengünstigeren KI-Modellen bewältigt werden könnten. Unternehmen investieren teils überdimensionierte Beträge, statt auf kostengünstigere und passendere Modelle zu setzen. Laut dem „2023 State of Data AI“ Report von Databricks ist die Nutzung KI-gesteuerter Large Language Models mit einem Plus von 1.310 Prozent innerhalb von sechs Monaten regelrecht explodiert. Auch da die Zahl der vorhandenen Applikationen weiter rasant steigen wird, wird es zukünftig umso schwieriger, im KI-Dschungel die Lösung mit der besten Kosten-Nutzen-Quote zu finden.

Unkontrollierte Nutzung von KI-Ressourcen

Viele Unternehmen haben überhaupt keine Governance-Struktur installiert, um fortlaufend zu überwachen, welche Kosten Tag für Tag und Woche für Woche durch KI im Unternehmen entstehen. Dann reagieren IT-Entscheider teils perplex, wenn sie beim Erstellen der Geschäftsberichte feststellen, wie viel Geld das Unternehmen in den vergangenen Monaten für KI ausgegeben hat. Angesichts der bereits angesprochenen Probleme, insbesondere der Vielzahl der eingesetzten Modelle und der unterschiedlichen Preisstrukturen, kann heutzutage kein Unternehmen mehr darauf verzichten, Kosten zentral zu monitoren. Zudem sollten Mitarbeiter sensibilisiert werden, die richtigen, kosteneffizientesten KI-Modelle für die jeweilige Anwendung auszuwählen.

Preisschwankungen bei Modellanbietern

Hinzu kommt, dass viele Anbieter höchstwahrscheinlich ihre Preise zukünftig anpassen werden. Die Geschäftsmodelle sind in den seltensten Fällen bereits ausgereift, kaum ein KI-Anbieter wirtschaftet bereits profitabel. Wer nicht an den eigenen Preismodellen nachjustiert, wird sich auf dem Markt kaum langfristig behaupten können. Zumal die Anbieter oft kostspielige Technologien verwenden, um ihre Dienste bereitzustellen. Oft werden auch GPUs, also Graphics Processing Unit und Chips für Modellberechnungen benötigt, die auf Seiten der Anbieter hohe Kosten verursachen. Neben diesen Kosten für Technologie fallen auch Kosten für die verbrauchte Energie ins Gewicht. Auch diese Kosten schwanken permanent, was eine Anpassung der Gebühren für die Modelle in einigen Fällen erfordern dürfte.

Kostenkontrolle für KI-Lösungen

Die große Herausforderung für Unternehmen besteht darin, den immer dichter werdenden KI-Dschungel zu überwachen, ohne dass sie ihren Teams die Agilität nehmen. Denn die eine KI-Lösung für alle Anwendungen wird es nie geben. Diese zentrale Kosten-Kontrolle sollte sich zudem nicht selbst als Kostentreiber entpuppen. Die Herausforderung lautet, so effizient wie möglich fortlaufend alle durch KI-Anwendungen im Unternehmen verursachten Kosten zentral überwachen und managen zu können. Dafür implementieren Unternehmen:

• Governance-Strukturen einrichten, um zu verstehen, welche Personen welche KI-Modelle für welche Zwecke einsetzen. Solche Lösungen ermöglichen es den Verantwortlichen, Kosten kontinuierlich in Echtzeit zu überwachen und bei Bedarf aktiv einzugreifen, um Budgetüberschreitungen zu vermeiden. Zusätzlich besteht die Möglichkeit, aktive Blockaden einzurichten. Unternehmen definieren in diesem Fall bestimmte Limits, um sicherzustellen, dass das Budget für die Nutzung eines leistungsstarken Modells wie GPT-4 nicht vorzeitig aufgebraucht oder gar überschritten wird.

• LLM-Ausgaben markieren und verfolgen: Unternehmen ordnen Kosten bestimmten Projekten und Personen zu und können so, falls erforderlich, auch besser nachjustieren – beispielsweise indem Limits für einzelne Teams und Projekte angepasst werden.

• Zwischen Kosten unterscheiden: Produktions- und Entwicklungskosten klar voneinander unterscheiden, um die strategische finanzielle Planung zu verbessern. Welche Kosten fallen fortlaufend an? Welche Kosten sind oder waren nur einmalig?

• Frühwarnsysteme implementieren: Potenzielle Kostenüberschreitungen frühzeitig identifizieren, um finanzielle Risiken zu mindern.

• Detaillierte Einblicke gewinnen: Entscheider können einsehen, wie viele LLM-Ressourcen das Unternehmen ausgibt und idealerweise auch Simulationen durchführen, um herauszufinden, wie die Teams effizienter mit KI arbeiten können. Zum Beispiel könnten Unternehmen aufgefordert werden, weniger genutzte Modelle zu deaktivieren oder alternative, kostengünstigere Optionen zu prüfen.

• Echtzeit-ROI-Berechnungen, um zu verfolgen, wie viel Mehrwert KI-Anwendungen in einem bestimmten Zeitraum generieren und wie Kosten und Mehrwert zueinander stehen.

• Mitarbeiter darüber aufklären, welche Modelle für welche Aufgaben am besten geeignet sind. Dafür erforderlich sind die vorherigen Erkenntnisse.

• In Change-Management, Schulungen und Tools investieren: Fachleute, die möglicherweise keine tiefgreifenden Programmier- Fähigkeiten besitzen, erhalten dadurch Zugang zu bewährten KI-Analyse-Tools. Das ermöglicht es Experten, neue Projekte mit hohem unternehmerischem Mehrwert anzustoßen. Dadurch können zwar keine Kosten für die Projekte gesenkt, dafür aber der Mehrwert, den KI für das Unternehmen generiert, deutlich gesteigert werden. Und schlussendlich steht und fällt die Entscheidung für oder gegen KI-Anwendungen basierend auf einem positiven ROI.

Die Einführung von KI-Projekten birgt eine Vielzahl von Kostenfaktoren, die von spezifischen Anforderungen wie Datenqualität, Modellkomplexität und dem verfügbaren Fachwissen im Unternehmen abhängen. Insgesamt müssen Unternehmen eine Vielzahl von Faktoren abwägen, um geeignete, also kosteneffiziente KI-Anwendungen mit positivem ROI, zu identifizieren. Entscheider dürfen aus der berechtigten Angst vor explodierenden Kosten aber nicht länger die Entscheidung für oder gegen KI-Modelle herauszögern. Ansonsten drohen sie in wirtschaftlich schwierigen Zeiten den Anschluss an innovativere und effizienter wirtschaftende Wettbewerber zu verlieren.

Bevor in Unternehmen ein unkontrollierter Flickenteppich an KI-Modellen mit nicht mehr zu überwachenden Kosten entsteht, liegt es an den Führungskräften, die richtigen Strukturen zu implementieren, damit ihre Teams im Arbeitsalltag das volle Potenzial generativer KI ausschöpfen können, ohne überflüssige Ressourcen zu vergeuden. Die Investition in KI zahlt sich langfristig aus, aber eine kluge Budgetierung und Ressourcenallokation sind die Grundlage für geschäftlichen Erfolg.

(ID:50042663)