Kommentar von Korbinian Zollner, Starburst KI-Kostenfalle vermeiden mit effizientem Datenmanagement

Anbieter zum Thema

Starburst Data Inc.

QUNIS GmbH

Unternehmen sehen sich häufig mit deutlich höheren KI-Kosten als geplant konfrontiert. Diese Erkenntnis kommt oft spät, dabei wäre das Kostenproblem vermeidbar.

Unternehmen setzen bei der Kostenkontrolle für KI oft am falschen Punkt an. Meist vergleichen sie Modellpreise, schränken Zugriffsrechte ein oder suchen nach günstigeren Inferenzanbietern. Das kann zwar Einsparungen bringen, greift aber zu spät. Ein Großteil der Kosten entsteht nämlich schon, bevor Anfrage, die oft auch noch unnötig groß ist, überhaupt beim Modell ankommt. Das ist etwa der Fall, wenn ein Team denselben Datensatz überflüssigerweise in eine weitere Umgebung überträgt oder ein Agent riesige Mengen an Unternehmensdaten durchforstet, nur um eine einzelne, eng eingeschränkte Frage zu beantworten.

Geringerer Token-Bedarf durch bessere Datenaufbereitung

Ein Hauptgrund für unnötig hohe KI-Kosten: Unternehmen füttern ihre Sprachmodelle mit großen Mengen irrelevanter, doppelter oder schlecht strukturierter Daten. Genau hier setzen sogenannte Data Products an, kontrollierte, semantisch angereicherte Datenbündel, die Unternehmen gezielt zusammenstellen und bereitstellen. Greift ein KI-System auf ein solches, klar abgegrenztes Datenprodukt zu statt auf ungefilterte Rohdaten, sinkt der Token-Verbrauch: Die KI arbeitet fokussierter und verarbeitet nur einen qualitativ hochwertigen Ausschnitt relevanter Daten. AI Data Assistants bereiten Daten bereits im Vorfeld so auf, dass sie sich für Agenten und RAG-Pipelines eignen. Das senkt die Gefahr von Halluzinationen und verkürzt den Weg zu verlässlichen Ergebnissen.

Im Idealfall greifen KI-Systeme ausschließlich auf kuratierte, fokussierte Datenprodukte zu, versehen mit Metadaten, Eigentumsverhältnissen, Herkunftsnachweisen und Zugriffsregeln. So lässt sich nachvollziehen, welche Datenquelle welche Workload versorgt, und Zugriffsrichtlinien begrenzen den Handlungsspielraum einzelner Mitarbeiter oder Anwendungen. Das erlaubt es, Verbrauchsmuster gezielt einzelnen Anwendungsfällen zuzuordnen und Zugriffsgrenzen bereits vor unnötigen Abfragen festzulegen, sodass Anfragen bei den passenden Daten landen, statt automatisch auf den größtmöglichen verfügbaren Datenbestand zuzugreifen.

Entscheidend ist also, Ausgaben nicht nachträglich zu kontrollieren, sondern den Ressourcenbedarf des Modells schon vor dem ersten Aufruf zu senken. Ist der Kontext gut vorbereitet, liefern mitunter auch kleinere, günstigere Modelle eine vergleichbare Ergebnisqualität.

Weniger Dateninfrastruktur statt Zentralisierung

Neben dem Token-Verbrauch verursacht auch die Dateninfrastruktur selbst laufende Kosten. Eine mögliche Lösung ist eine föderierte Abfrage-Engine: Daten bleiben in ihren jeweiligen Ursprungsquellen (etwa Amazon S3, Azure oder lokalen Datenbanken, insgesamt mehr als 50 mögliche Systeme), statt für KI-Zwecke in ein zentrales Data Warehouse übertragen zu werden. Damit entfallen aufwendige und teure Migrationsprozesse, sinken Integrations- und Verarbeitungskosten, und Machine-Learning-Pipelines laufen schneller.

Setzt die zugrundeliegende Plattform zudem auf offene Tabellenformate wie Apache Iceberg, vermeiden Unternehmen einen Lock-in bei einzelnen Anbietern. Automatisierte Komprimierung und Datenbereinigung senken zusätzlich die Speicherkosten und damit die Gesamtbetriebskosten der Datenbasis.

Modelle müssen nicht auf das gesamte Data Warehouse zugreifen

Die Abrechnung generativer KI-Dienste erfolgt häufig nach Token, API-Aufrufen oder Rechenzeit. Nach Einschätzung der FinOps Foundation gehört die Steuerung von Kosten und Token-Verbrauch zu den größten Herausforderungen für Unternehmen. Ausgaben lassen sich nur schwer bestimmten Ursachen zuordnen, vorhersagen oder mit einem konkreten geschäftlichen Nutzen verknüpfen. Monitoring liefert dabei zwar wichtige Informationen, zeigt aber nur, was bereits verbraucht wurde. Größere Einsparpotenziale ergeben sich, indem Unternehmen den Datenbedarf eines Modells von Beginn an reduzieren.

Häufig herrscht die Annahme, mehr Kontext liefere automatisch bessere Antworten. Das führt dazu, dass immer mehr Inhalte in einer Anfrage landen, etwa lose zusammenhängende Dokumente oder vollständige Tabellenauszüge. Die Folgen: höherer Token-Verbrauch, mehr Verarbeitungsaufwand, und das Modell muss selbst entscheiden, was tatsächlich relevant ist. Soll ein Modell beispielsweise eine offene Rechnung klären, braucht es nicht die vollständige Kundenhistorie, sondern nur das betroffene Konto, die Rechnung selbst, die geltenden Zahlungsbedingungen sowie die zugehörigen Geschäftsdefinitionen.

Wie gezielt ein Unternehmen dabei vorgehen kann, hängt maßgeblich von der Qualität der Datenaufbereitung ab. Kuratierte Datenprodukte liefern genau jene Metadaten, Eigentumsangaben, Herkunftsnachweise, Qualitätskennzahlen und Zugriffsregeln, die ein KI-System benötigt, um Daten korrekt einzuordnen und sinnvoll zu nutzen.

Überflüssige Datenkopien vermeiden

KI-Projekte neigen ebenso dazu, immer wieder neue Datenkopien zu erzeugen: aus operativen Systemen ins Data Warehouse, von dort in eine Projektumgebung, weiter in eine Vektordatenbank und schließlich in eine separate Testspeicherumgebung. Jeder dieser Schritte erscheint für sich betrachtet sinnvoll, in der Summe entstehen jedoch erhebliche Speicherkosten, doppelte Pipelines, zusätzlicher Abstimmungsaufwand sowie mehrere parallele, teils widersprüchliche Datenstände. Jede weitere Kopie erhöht den Wartungsaufwand und das Risiko, dass Datensätze auseinanderdriften. Teams verbringen dadurch viel Zeit mit der Pflege von Pipelines und dem Abgleich widersprüchlicher Datensätze, während proprietäre Formate und eng verzahnte Systeme einen späteren Anbieterwechsel zusätzlich erschweren und verteuern.

Zentralisierung behält weiterhin ihre Berechtigung, sofern Leistungsanforderungen oder eine häufige Wiederverwendung die Datenverschiebung rechtfertigen, sollte aber nicht automatisch der erste Schritt sein. Föderierter Zugriff ermöglicht es KI-Systemen, ausgewählte Daten direkt an ihrem jeweiligen Speicherort abzufragen, während offene Tabellenformate dafür sorgen, dass unterschiedliche Compute-Engines auf denselben Datenbestand zugreifen können. Teams sollten daher bewusst festlegen, welche Daten verschoben, welche unverändert belassen und welche tatsächlich dauerhaft materialisiert werden, je nachdem, ob der Leistungsgewinn den zusätzlichen Aufwand der Duplizierung rechtfertigt.

Kosteneffizienz setzt konsequente Datenpflege voraus

Offene Formate und föderierter Zugriff allein beseitigen nicht die Kosten, die durch mangelhafte Datenpflege entstehen. Kleine Dateien, überflüssige Snapshots und eine unzureichende Partitionierung zwingen Systeme dazu, deutlich mehr Daten zu scannen und zu verarbeiten, als für eine einzelne Abfrage nötig wäre. Solange Unternehmen lediglich ein überschaubares Set an Dashboards mehrmals täglich abrufen, fällt dies kaum ins Gewicht. Sobald jedoch KI-Anwendungen und Agenten fortlaufend und weniger vorhersehbar auf dieselben Daten zugreifen, steigen die Kosten spürbar.

Komprimierung, Aufbewahrungsrichtlinien, das Ablaufen älterer Snapshots, die Bereinigung verwaister Dateien sowie die Optimierung von Abfragen wirken sich unmittelbar auf die KI-Kosten aus. Vernachlässigen Unternehmen diese Aufgaben, entsteht bei jeder einzelnen Anfrage unnötiger Speicher- und Rechenaufwand, noch bevor das Modell überhaupt zum Einsatz kommt. Ziel ist dabei nicht, grundsätzlich weniger Daten zu speichern, sondern sicherzustellen, dass KI-Systeme bei jeder Interaktion auf die richtigen Daten zugreifen, ohne dabei unnötige Infrastruktur zu beanspruchen.

Governance als fester Bestandteil des Kostenmodells

Viele Unternehmen betrachten Governance vor allem als Compliance-Thema. Im Zusammenhang mit KI erweist sich diese Trennung jedoch als kostspielig. Wer nicht nachvollziehen kann, welche Daten ein Modell verwendet hat, wo diese verarbeitet wurden oder wer zugriffsberechtigt war, muss sein System unter Umständen noch vor der Inbetriebnahme grundlegend überarbeiten.

Zugleich trägt eine solide Governance dazu bei, den Datenverbrauch zu senken. Der DSGVO-Grundsatz der Datenminimierung schreibt vor, personenbezogene Daten auf das angemessene, relevante und notwendige Maß zu beschränken, ein rechtliches Prinzip, das zugleich wirtschaftlich sinnvoll ist. Der EU AI Act ergänzt dies durch risikobasierte Pflichten für Anbieter und Betreiber und macht deutlich, dass Kontrollmechanismen und Rechenschaftspflicht weiter an Gewicht gewinnen werden.

Auch die Frage der Datensouveränität spielt hier eine Rolle: Unternehmen sollten wissen, wo ihre Daten gespeichert sind, welche Modelle darauf zugreifen dürfen, ob dabei Rechtsräume überschritten werden und wie der Zugriff dokumentiert ist. Wer Daten möglichst dort belässt, wo dies praktikabel ist, beim Zugriff klare Richtlinien anwendet und stets nur den freigegebenen Ausschnitt bereitstellt, senkt dadurch sowohl Transferkosten als auch Compliance-Risiken.

Führungskräfte sollten sich entsprechend fragen: Wie viele Daten benötigt ein Anwendungsfall tatsächlich? Erhält das eigene System vertrauenswürdigen, gut aufbereiteten Kontext? Aus welchem Grund entsteht gerade eine weitere Datenkopie? Und lässt sich der Datenverbrauch bis zum jeweiligen Ergebnis zurückverfolgen? Die Kostenkontrolle bei KI beginnt lange bevor ein Modell zu arbeiten beginnt. Das Modell liefert am Ende zwar die Antwort. Welche Kosten diese Antwort verursacht, entscheidet jedoch die zugrundeliegende Datenarchitektur.

(ID:50945589)