Kommentar von Dr. Phil Tee, Zscaler Der Umgang mit KI-Daten neu gedacht

Anbieter zum Thema

Zscaler Germany GmbH

Fsas Technologies GmbH

Board Deutschland GmbH

INFOMOTION GmbH

Organisationen sind heute stetig auf der Suche nach neuen Anwendungsfällen für den Einsatz von Künstlicher Intelligenz (KI), um Effizienzgewinne zu erzielen oder Geschäftsvorteile zu erlangen. Eines haben all diese Anwendungsszenarien gemeinsam: Sie sind auf große Mengen an Daten angewiesen. Aber letztlich kann jeder Anwendungsfall nur so gut sein, wie die Daten, mit denen ein spezifisches Modell trainiert wurde und kontinuierlich weiter versorgt wird.

Bislang war die vorherrschende Denkweise, dass KI-Modelle umso besser sind, je mehr Daten sie erfasst und verarbeitet haben. Doch angesichts der Billionen von Datensätzen zum Füttern der KI ist ein Wendepunkt in dieser Einstellung erreicht. Der Größenunterschied von 15 Billionen gegenüber fünf Billionen Datenpunkten mag im Verhältnis zu der Qualität der eingesetzten Daten irrelevant erscheinen. Angesichts dieser Größenordnung an Daten und den damit einhergehenden Anforderungen ist es an der Zeit zu überdenken, wie die Daten für KI sinnvoll genutzt werden.

Agentenbasierte Workflows und SLMs

Nach Jahren mit einem Fokus auf Large Language Models (LLMs) ist aktuell eine neue Tendenz mit agentenbasierten Workflows und Small Language Models (SLMs) auf dem Vormarsch. Im Gegensatz zu ihren multifunktionalen LLM-Pendants können SLMs gezielt auf begrenzten Datensätzen trainiert werden, was sie für bestimmte Aufgaben oder Bereiche sehr effektiv macht. Zum Teil ist dieser Wandel auf die Kosten- und Latenzprobleme zurückzuführen, die mit LLMs verbunden sind, andererseits auch auf die mit großen Datenmengen einhergehenden Sicherheitsaspekte.

Von einem LLM-Chatbot zum Beispiel erwarten die Anwender, dass ihre Fragen innerhalb von Sekunden beantwortet werden. Dafür muss die gesamte Leistungsfähigkeit der Hardware eines LLMs für die Beantwortung einer Frage bereitgestellt werden. So kann es zur Herausforderung werden, 11.000 Logs pro Sekunde mit einer Latenzzeit von wenigen Sekunden in Einklang zu bringen. Angesichts dieser Ineffizienzen geht man heute davon aus, dass man für den Einsatz von KI in spezifischen Einsatzbereichen, wie beispielsweise der Produktion, kleinere Modelle benötigt, unabhängig davon, ob es sich dabei um Standardmodelle oder fein abgestimmte Varianten handelt.

Die wachsende Popularität von SLMs spiegelt demnach eine gezieltere Herangehensweise von Organisationen an KI-Anfragen wider. Wurde bisher mit einer Frage gestartet und alles gesammelt, was sich möglicherweise darauf beziehen könnte, nimmt man heute die mögliche Antwort als Ausgangspunkt und bildet davon ausgehend einen Workflow ab, der lediglich die notwendigen Daten in der Reihenfolge ihrer Nützlichkeit berücksichtigt.

Fokus auf Datentiefe

Diese strategische Verlagerung hin zu einer gezielten Datenerfassung führt dazu, dass das Argument der Qualität gegenüber der Quantität von Daten überdacht wird. Nicht alle Daten werden gleichwertig betrachtet. Ihr Wert ergibt sich nicht allein aus dem Datenumfang, sondern aus einer Kombination von Tiefe und Relevanz – und der Art und Weise, wie sie aufbereitet werden.

Maschinell erstellte Daten in Form von Logs sind ein klassisches Beispiel dafür, dass der Datenumfang der Feind von Qualität sein kann. Eine Log-Datei ist in der Regel eine Sammlung unstrukturierter Debug-Meldungen, die von Ingenieuren erstellt wurden, die inzwischen möglicherweise ihre Rolle oder sogar das Unternehmen gewechselt haben. Infolgedessen enthalten die Daten nur noch einen geringen Informationsgehalt. Vereinfacht ausgedrückt: Solche Daten beinhalten ebenfalls einen großen unbrauchbaren Anteil, in dem sich ein geringer Teil an „KI-Gold“ verbirgt. Daher ist ein Vorverarbeitungsschritt, der die Logs durch Entfernen des Mülls sozusagen verdichtet, eine weitaus bessere Strategie, anstelle Ressourcen auf die Vorhaltung und Verarbeitung des unbrauchbaren Informationsgehalts zu verschwenden.

Kommentar von Frank Schulz, Precisely

Vertrauenswürdige Künstliche Intelligenz basiert auf vertrauenswürdigen Daten

Das ideale Szenario für KI-Anwendungsfälle ist ein hohes Volumen an Qualitätsdaten. Aber selbst dann sollten Modelle nicht mit übermäßig großen Datenmengen trainiert werden, da sich das sogar unvorteilhaft auswirken könnte. „Overfitting“ beschreibt die negativen Folgen des Versuchs, zu viele Datenpunkte miteinander zu verbinden. Das kann dazu führen, dass die KI-Ergebnisse ungenauer und zufälliger werden. Datenwissenschaftlern ist dieses Phänomen als „Bias-Variance Trade-off“ bekannt, bei dem die endlose Verfeinerung des Modells anhand von Trainingsdaten zu einem Schock führt, wenn plötzlich neue Datenpunkte hinzugefügt werden. Vorsicht ist demnach auch bei zu vielen Informationsquellen geboten. Sonst besteht die Gefahr, dass in einigen Jahren die Gesamtmenge des Datenverkehrs im Netz größer sein wird als die gesamte bisherige Datenproduktion auf dem Planeten Erde.

Nebeneffekt der Verschlankung an Daten: Nachhaltigkeit

Vordenker geben zu bedenken, dass Technologie eine extraktive Economy ist. Technologie wird zwar als sauber und wertschöpfend angesehen, da es darum geht, Informationen zu bewegen und darauf aufbauend bedeutsame Ergebnisse zu erzielen. Doch das ist leider im Bereich der Künstlichen Intelligenz nicht immer der Fall. Sie ist nicht nur daten- und rechenleistungsintensiv, sondern benötigt ebenso große Mengen an Energie und Wasser, um die Daten zu sammeln, zu verarbeiten, zu trainieren und zu speichern. Allein in Bezug auf die Datenvorhaltung in der Cloud fällt für ein Terabyte an Daten, das ein Jahr lang in der Cloud gespeichert wird, ein größerer CO₂-Fußabdruck an als durch einen Flug von Schiphol nach New York. Und in der Größenordnung der KI ist ein Terabyte eine verschwindend geringe Maßeinheit.

Aus diesem Grund haben alle Anstrengungen, um Daten zu recyceln oder während des KI-Prozesses mehr Wert aus ihnen zu ziehen, aus Sicht der Nachhaltigkeit erhebliche Auswirkungen. Mit Blick auf Qualität statt Quantität bedeutet das, dass im Zuge des Verdichtungsprozesses von Logs Daten von „in Ruhe“ zu „in Bewegung“ umgewandelt werden. Dabei werden Metadaten extrahiert und der Rest wird verworfen. Nach der Verwendung muss dieser Anteil an benötigten Information dann nicht mehr gespeichert werden.

Abgesehen von den Auswirkungen auf das Datenspeichervolumen wird durch diese enorme Reduktion auch die Latenzzeit verringert. So kann ein System Zehntausende von Logs pro Sekunde verarbeiten und eine GenAI-Antwort in drei bis vier Sekunden liefern. Außerdem wird damit die Herausforderung der Datensouveränität adressiert, da immer mehr Unternehmen Bedenken äußern, dass Daten ins Ausland verschoben und dort gespeichert werden. Je weniger Daten verwendet und aufbewahrt werden, desto geringer wird dieses Problem.

In diesem Zusammenhang spielt die Datenklassifizierung – der Prozess der Identifizierung und Kategorisierung sensibler Daten auf der Grundlage vordefinierter Kriterien – eine entscheidende Rolle. Damit lässt sich verhindern, dass Unternehmen unnötiger- oder sogar fälschlicherweise zu viele oder gar vertrauliche Daten an KI-Tools senden. Außerdem bekommen die IT-Verantwortlichen dadurch eine Grundlage dafür, mit welchen Daten sie arbeiten sollten und mit welchen nicht.

Ein neuer Umgang mit Daten für die KI

Datenmengen wachsen weiterhin exponentiell. Im Zeitalter der KI werden diejenigen Unternehmen florieren, die die Kunst der Datenveredelung beherrschen. Das heißt, die aus einem Minimum an Daten ein Maximum an Wert schöpfen. Ein solcher Ansatz bietet eine starke Kombination von Vorteilen wie beispielsweise verbesserte Reaktionszeiten der KI-Tools, reduzierte Betriebskosten durch geringeren Einsatz von Ressourcen und damit eine höhere Nachhaltigkeit.

Kommentar von Arlind Ukaj, q.beyond AG

Warum KI nicht ohne Daten funktioniert

Unterm Strich gewinnen Unternehmen auch in puncto Sicherheit, wenn sie den besseren Überblick über ihre Daten haben, diese nur selektiv für KI einsetzen und gleichzeitig im Zuge der Souveränitätsbestrebungen wissen, wo die Daten vorgehalten werden. Durch die Umsetzung eines neuen Umgangs mit Daten können Unternehmen von der nächsten Generation an von KI-Innovationen profitieren und gleichzeitig einige der drängendsten technologischen Herausforderungen bewältigen.

(ID:50428008)