KI-Strategie im Unternehmen Fünf Schritte zu Agentic RAG: CxOs zwischen Datenbasis und Governance

Anbieter zum Thema

Dell GmbH

Board Deutschland GmbH

INFOMOTION GmbH

QUNIS GmbH

Agentenbasierte KI-Systeme auf Basis von Retrieval-Augmented Generation versprechen mehr Autonomie und kontextbezogene Entscheidungen. Der produktive Einsatz hängt jedoch weniger von Modellleistung als von Datenarchitektur, Governance und organisatorischer Vorbereitung ab.

Retrieval-Augmented Generation (RAG) und darauf aufbauende agentenbasierte KI-Systeme gelten als nächster Entwicklungsschritt im Unternehmenseinsatz von KI. Ihr Nutzen hängt jedoch weniger von der Technologie selbst als von Vorbereitung, Datenbasis und Governance ab. Dell Technologies skizziert fünf Handlungsfelder, die Führungskräfte beim Aufbau entsprechender Strategien berücksichtigen sollten.

Large Language Models und klassische KI-Anwendungen automatisieren bereits heute Prozesse, erzeugen Inhalte und unterstützen bei der Informationsaufbereitung. Agentenbasierte Systeme auf RAG-Basis erweitern diesen Ansatz um autonome Entscheidungslogik und kontinuierlichen Zugriff auf aktuelle Datenbestände. Damit steigen allerdings auch die Anforderungen an Infrastruktur, Kontrolle und organisatorische Einbettung.

1. Daten- und Infrastrukturgrundlagen konsolidieren

RAG-basierte KI-Systeme und vor allem Agentic RAG spielen ihr volles Potenzial erst dann aus, wenn ihnen ausreichend relevante und wertvolle Daten vorliegen. Viele Unternehmen sind allerdings noch dabei, ihre fragmentierten Datenbestände zu zentralisieren, Silos abzubauen und mangelnde Daten-Governance aufzuarbeiten. Führungskräfte sollten daher vor allem in Cloud-native und damit zentralisierte Datenarchitekturen investieren sowie Echtzeit-Datenpipelines etablieren.

Optimierung von Retrieval-Augmented Generation

RAG 2.0 – effiziente Architektur für Suche und Antworten

Entscheidend für erfolgreiches Agentic RAG sind zudem standardisierte Governance-Protokolle, die für Transparenz, Kompatibilität und Sicherheit sorgen. Um Vorschriften wie die DSGVO einzuhalten, helfen die Integration von synthetischer Datengenerierung sowie weiterer datenschutzkonformer Trainingsmethoden für die KI.

2. Verbindliche KI-Governance etablieren

Agentic-RAG-Systeme agieren teilweise vollkommen autonom, was unmittelbar die Frage nach der Verantwortlichkeit aufwirft. Es bedarf daher entsprechender Governance-Frameworks, die ethische Leitlinien, Kontrollmechanismen durch Menschen, Prüfpfade und das Testing abdecken. Da EU-weit geltende Richtlinien wie die DSGVO oder der EU AI Act strenge Vorgaben beinhalten, ist ein hohes Maß an Transparenz unerlässlich. Nur so können Unternehmen rechtskonform und sicher ihre RAG-Reise antreten.

3. Kompetenzen in der Belegschaft ausbauen

Wer glaubt, dass es in Zukunft Mensch oder Maschine heißen wird, irrt gewaltig. RAG-basierte KI-Systeme werden nicht die Jobs der Menschen ersetzen, sondern deren Arbeitsalltag erleichtern und ihre Profession sowie die jeweiligen Verantwortlichkeiten verändern. CxOs sollten ihre Mitarbeiter also durch Schulungen und Tools in die Lage versetzen, KI möglichst gewinnbringend zu nutzen. Es liegt in der Verantwortung von Unternehmen, die Belegschaft mit KI- und ML-Kompetenzen auszustatten – ein essenzieller Bestandteil jeder zukunftsgerichteten Unternehmensstrategie.

Agentic AI – handelnde KI

Sicherheitsstrategien für Retrieval Augmented Generation

4. Pilotprojekte statt Komplettausrollung

Agentic RAG ist keine Technologie, die Unternehmen gleich zu Beginn flächendeckend ausrollen sollten. Stattdessen sollten CxOs nach einem „Test and Learn“-Modell vorgehen. Dazu gehört, kontrollierte Pilotprojekte mit klaren KPIs durchzuführen, die sich eng an den Geschäftszielen orientieren. Basierend auf den aus ihnen evozierten Ergebnissen können die Teams dann Optimierungen vornehmen und funktionierende Lösungen skalieren. Ein positiver Nebeneffekt: erfolgreiche Pilotprojekte fördern die Akzeptanz der neuen Technologie in der Belegschaft und auch im Management.

5. Strategische Ziele definieren

Die Einführung von generativer KI und Agentic RAG sollte niemals Selbstzweck sein, sondern fest verknüpft mit konkreten Geschäftszielen stattfinden. Welche genau das sind, müssen CxOs zuvor definieren. Typische Vorteile wären schnellere Entscheidungen, bessere Kundenerlebnisse oder effizientere Teamarbeit. Fakt ist, dass Agentic RAG und GenAI am effektivsten sind, wenn sie echte Probleme lösen.

GraphRAG-Patterns

Musterabfragen für Künstliche Intelligenz

„Traditionelle KI-Systeme und Large Language Models sind längst nicht mehr das Maß aller Dinge“, erklärt Christian Scharrer, Enterprise Architect und CTO Ambassador bei Dell Technologies. „CxOs müssen ihre Unternehmen in die neue Ära der Enterprise-KI führen, um mit der Konkurrenz Schritt zu halten. Agentic RAG bietet die Möglichkeit, digitale Mitarbeiter zu erschaffen, die auf aktuelle und fundierte Informationen zurückgreifen, um autonom Entscheidungen zu treffen. Auf diese Weise schaffen sie einen echten Mehrwert für Unternehmen, indem menschliche Mitarbeiter entlastet werden und mehr Freiraum für gewinnbringende Aufgaben erhalten.“

(ID:50702744)