Kommentar von Franz Kögl, IntraFind Ein Blick unter die Haube von RAG-basierter Enterprise Search

Anbieter zum Thema

IntraFind Software AG

Fujitsu Technology Solutions GmbH

Fivetran Germany GmbH

KI-Assistenten sind mittlerweile im beruflichen Alltag angekommen. Doch die wenigsten machen sich Gedanken darüber, wie die Technologie überhaupt präzise und korrekte Antworten auf Fragen liefern kann. Dahinter steckt ein komplexes System, das weit mehr macht, als Dokumente nach Buzzwords zu durchsuchen.

Es ist noch gar nicht so lange her, da lieferten Enterprise-Search-Lösungen auf Suchanfragen eine Liste von Dokumenten. In der Regel gab es markierte Textstellen oder Snippets, aber keine präzisen und verwertbaren Antworten auf in natürlicher Sprache gestellte Fragen. Unternehmenssuchen, die mit KI-Assistenten und Retrieval-Augmented Generation (RAG) ausgestattet sind, avancieren in dieser Hinsicht zum absoluten Gamechanger.

Von der Frage zur Antwort

Doch wie genau beantwortet die Künstliche Intelligenz Fragen der User? Dafür sind fünf Schritte nötig, die die Enterprise-Search-Lösung nach der Eingabe der Frage eines Nutzers oder einer Nutzerin in das Suchfeld des KI-Assistenten durchläuft:

Schritt 1: Die Frage verstehen und die Intention erkennen

Im ersten Schritt stellt der User eine Frage. Der KI-Assistent muss nun erkennen, wonach genau gefragt wird, also das grundlegende Thema und die spezifische Absicht erkennen. Auch den Kontext und die Semantik muss die KI entschlüsseln. Und sie muss verstehen, ob es sich um eine Faktensuche, eine Zusammenfassung, einen Vergleich, eine Handlungsanleitung oder eine Folgefrage handelt.

Bei mehrstufigen Dialogen kommt hinzu, dass der KI-Assistent den bisherigen Kontext berücksichtigt. Folgefragen des Users bauen auf dem bisherigen Gespräch auf und das zugrundeliegende System erhält Dialoge, Quellen und Threads für die spätere Weiterarbeit. Als Beispiel könnte eine Nutzerin fragen: „Wie ist die aktuelle Regelung zum mobilen Arbeiten für Werkstudenten?“ Der KI-Assistent analysiert die Frage sprachlich und semantisch und leitet daraus ab, wonach mit hoher Wahrscheinlichkeit gefragt wird: In diesem Fall deuten Signale wie „aktuelle Regelung“ auf gültige oder verbindliche Informationen hin, während „mobiles Arbeiten“ den Themenbereich Arbeitsort, Homeoffice oder Remote Work markiert.

Schritt 2: Die richtigen Quellen finden

Nun beginnt das Retrieval. Das Wissenssystem – in diesem Fall die Enterprise-Search-Lösung – durchsucht die durch Konnektoren angebundenen Systeme wie Fileshare, interne Wikis, E-Mail-, Ticket-, Dokumentenmanagement- und CRM-Systeme sowie Fachdatenbanken. Die Unternehmenssuche identifiziert passende Quellen, indem sie eine KI-basierte Suche über sämtliche Dokumententypen hinweg durchführt und dabei Kontext, Aktualität und Popularität berücksichtigt.

Wichtige Merkmale sind in dem Zusammenhang die Datenanbindung, die Indexierung, Metadaten, Relevanzrankings und unternehmensspezifische Merkmale. Bei einer intelligenten Enterprise-Search-Lösung greift bereits an dieser Stelle die Rechtefilterung, wodurch der KI-Assistent nur zugriffsrechte-geprüfte Inhalte für die Antwortgenerierung verwendet, die der User auch tatsächlich erhalten darf.

Databricks Instructed Retriever

Verbesserte RAG-Leistung zu einem Bruchteil der LLM-Kosten

Wichtig ist zu wissen, dass die Antwortqualität von generativer KI stark davon abhängt, ob die richtigen Inhalte gefunden werden. Dafür sorgt die Enterprise AI Search. Ein sehr gutes Sprachmodell hilft wenig, wenn die falschen, veralteten oder unvollständigen Daten in das Kontextfenster gelangen.

Schritt 3: Berechtigungen prüfen

Ein zentraler Unterschied zwischen KI für den Consumer-Markt und Unternehmens-KI ist die Rechteprüfung. Wie bereits in Schritt 2 erwähnt, darf der KI-Assistent im professionellen Einsatz nur Informationen verwenden und weitergeben, für deren Nutzung der jeweilige User auch berechtigt ist. Zugriffsrechte werden aus den Quellsystemen übernommen und automatisch in die Suche integriert, etwa über rollenbasierte Zugriffskontrolle (RBAC). Das ist ein unsichtbarer, aber entscheidender Kontrollpunkt, denn ein KI-Assistent darf nicht durch seine Antwort mehr preisgeben als es eine herkömmliche Suche via Enterprise-Search-Lösung selbst tun würde. Rechte werden bereits beim Retrieval und bei der Kontextübergabe an das Sprachmodell berücksichtigt. Berechtigungsprüfung und Retrieval sind in der Praxis also nicht streng nacheinander angeordnet, sondern greifen bei technisch ausgereiften Lösungen ineinander.

Schritt 4: Relevanz bewerten und Informationstriage durchführen

RAG arbeitet nicht mit beliebig vielen kompletten Dokumenten, sondern mit ausgewählten, relevanten Ausschnitten. Diese Passagen gibt die KI-Suche dem jeweiligen Sprachmodell als Kontext. Die Qualität dieser Auswahl entscheidet, ob die spätere Antwort präzise, vollständig und quellengebunden ist. Moderne Enterprise-Search-Lösungen suchen daher in relevanten Quellen nicht nur nach Stichworten, sondern nutzen hybride Verfahren: klassische Volltextsuche, semantische Suche, Metadatenfilter, Ranking, Aktualitätslogiken und domänenspezifische Begriffe. Treffer werden also nach Volltexttreffern, semantischer Nähe, Metadaten, Aktualität und Kontext gerankt. Die endgültigen Suchergebnisse sind also ebenso sorgfältig identifiziert, ausgesucht und bewertet worden, wie die Quellen selbst, was für eine möglichst hohe Qualität der endgültigen Antwort des KI-Assistenten sorgt.

Schritt 5: Antwort generieren

Nun kommt das vom KI-Assistenten verwendete Sprachmodell zum Einsatz. Es formuliert aus den bereitgestellten Passagen eine Antwort in natürlicher Sprache. Der Mehrwert liegt darin, dass User nicht selbst mehrere Dokumente lesen und vergleichen müssen. Das Modell kann selbstverständlich auch zusammenfassen, strukturieren, Unterschiede herausarbeiten oder nächste Schritte vorschlagen. Gute Systeme unterstützen beispielsweise dokumentenbasierte Antworten, Zusammenfassungen auch in anderen Sprachen als die Originaldokumente, Vergleiche und tabellarische Aufbereitungen.

Optimierung von Retrieval-Augmented Generation

RAG 2.0 – effiziente Architektur für Suche und Antworten

Mittlerweile können sogar rollenbasierte Profile bereitgestellt werden, die berücksichtigen, dass unterschiedliche Abteilungen spezifische Informationsbedarfe haben. Ein Support-Team braucht eben andere Datenquellen und Antwortstile als die Rechtsabteilung, das Marketing oder die Forschung.

Native Qualitätssicherung durch RAG

Ein professioneller KI-Assistent muss Antworten jedoch nicht nur liefern, sondern auch Nachvollziehbarkeit und Prüfbarkeit garantieren. Deshalb gehört die transparente Anzeige von Quellen zu den zentralen Qualitätsmerkmalen moderner Systeme. User müssen jederzeit erkennen können, auf welchen Dokumenten, Zitaten oder relevanten Textpassagen eine Antwort basiert und diese öffnen sowie eigenständig prüfen können.

Gerade in Fachabteilungen, im Support, in der Verwaltung oder im Compliance-Umfeld ist die Antwort häufig nur der Einstieg. Die eigentliche Arbeit beginnt oft im Originaldokument. Ebenso wichtig ist der kontrollierte Umgang mit Halluzinationen. RAG reduziert dieses Risiko deutlich, weil entsprechende Systeme ihre Antworten an konkrete Wissensquellen koppeln. Entscheidend sind dabei präzises Retrieval, klare Antwortregeln, Referenztests und kontinuierliches Monitoring. Ein verlässlicher KI-Assistent darf zudem keine Aussagen erfinden, sondern muss transparent kommunizieren, wenn keine belastbare Datenbasis vorhanden ist. Das sorgt für Vertrauen in die neue Technologie.

Kommentar von David Maria Schmidt, Universität Bielefeld

Warum LLMs beim Kombinieren bekannter Fakten scheitern

Mit der Integration in reale Geschäftsprozesse rücken außerdem Datensouveränität, Sicherheit und Governance in den Mittelpunkt. Sensible Informationen sollten Unternehmen nur in kontrollierten Betriebsmodellen mit klaren Rechtekonzepten, Protokollierung und nachvollziehbaren Zuständigkeiten verarbeiten.

Zusätzliche Mechanismen schaffen in dem Zusammenhang eine technische Schutzschicht über die gesamte KI-Pipeline. Sie machen es möglich, manipulative Eingaben, problematische Inhalte oder auffällige Ausgaben zu erkennen und helfen, Angriffe wie Prompt Injection und Jailbreak-Versuche frühzeitig abzufangen. So entwickelt sich ein KI-Assistent vom reinen Antwortsystem zu einem digitalen Arbeitsbegleiter, der Recherche, Dokumentenarbeit, Wissensmanagement und komplexe Arbeitsprozesse dauerhaft unterstützt.

(ID:50879164)