Wenn KI-Projekte in Unternehmen scheitern, liegt das nur selten am verwendeten Modell. Leistungsfähige LLMs sind inzwischen breit verfügbar. Werkzeuge, Orchestrierung, Evaluation und Schutzmechanismen haben an Reife gewonnen. Die betriebliche Effizienz hängt davon ab, wie gut ein KI-System das Unternehmen versteht, in dem es arbeitet.
Eine zentrale Knowledge Layer verbindet Unternehmenswissen, Datenquellen und Richtlinien, damit KI-Agenten konsistent, kontrolliert und nachvollziehbar handeln können.
(Bild: Unsplash Pawel Czerwinski)
Unternehmensdaten wurden ursprünglich für Anwendungen und Menschen entwickelt. Diese lieferten einen großen Teil der notwendigen Bedeutung selbst. Ein Beispiel: Eine Fachanwendung und ein Analyst wissen, dass der Wert status = 2 für „vorübergehend gesperrt, Prüfung ausstehend“ steht. Diese Information steckt jedoch oft nur im Programmcode, in einzelnen Dokumenten oder im Erfahrungswissen der Beschäftigten. Ein KI-Agent kann darauf nicht ohne Weiteres zugreifen.
Ein verbreiteter Ansatz besteht darin, das Wissen einzelnen Agenten direkt mitzugeben: Definitionen in Prompts, individuelle Werkzeuge auf einem MCP-Server oder Retrieval-Pipelines. In Demonstrationen kann das funktionieren. Im laufenden Betrieb verteilt sich die fachliche Bedeutung jedoch auf viele Systeme.
Zehn Agenten können so zehn eigene Versionen der Unternehmenssemantik erzeugen, die sich mit der Zeit auseinanderentwickeln. Der Begriff „aktiver Kunde“ wird dann möglicherweise in einem Werkzeug neu definiert, in einem Prompt angepasst und an anderer Stelle nicht aktualisiert. Sichtbar ausfallen muss dabei nichts. Das Unternehmen verliert jedoch schrittweise ein einheitliches Verständnis seiner eigenen Begriffe und Zusammenhänge.
Eine Alternative sind schlankere Agenten (Thin Agents), die auf einer gemeinsamen Knowledge Layer arbeiten. Sie verwaltet fachliche Begriffe und Regeln zentral und stellt sie allen berechtigten Systemen bereit. Die Agenten müssen kein eigenes Unternehmensmodell mitführen und können sich auf die Interpretation von Absichten sowie die Planung und Ausführung von Aufgaben konzentrieren.
Eine Knowledge Layer (Wissensschicht) geht über klassische Semantik- und Kontextschichten hinaus. Eine BI-Semantikschicht vereint in erster Linie Kennzahlen und Berechnungslogiken, eine Kontextschicht ergänzt Dokumente und andere unstrukturierte Informationen.
Abb. 1.: Aufbau der Knowledge Layer aus Ontologien, Daten und Memory.
(Bild: Neo4j)
Beide Ansätze definieren jedoch nicht zwangsläufig eine verbindliche fachliche Bedeutung. Ebenso wenig verknüpfen sie diese automatisch mit operativen Systemen, Richtlinien und Herkunftsnachweisen.
Eine Knowledge Layer (siehe Abb. 1) führt diese Fähigkeiten zusammen. Die Wissensschicht regelt, was Geschäftskonzepte bedeuten, aus welchen Quellen die zugehörigen Fakten stammen und unter welchen Bedingungen Systeme sie verwenden dürfen.
Dafür verbindet sie drei Komponenten:
Die Ontologie bildet ab, wie das Unternehmen arbeitet. Dazu gehören Fachbegriffe und Geschäftsobjekte, Rollen und Übergaben, Prozesse, Systeme, Datenbestände sowie verbindliche fachliche Regeln. Ein Abonnement gehört zu einem Kundenkonto. Ein Datenprodukt benötigt eine zugängliche Datenquelle. Zuordnungen verbinden fachliche Konzepte mit ihrer technischen Umsetzung.
Unternehmensdaten füllen dieses Modell mit konkreten Inhalten. Referenzdaten können die Ontologie um kontrollierte Werte und Kategorien ergänzen. Stamm- und Transaktionsdaten verbleiben entweder in den bestehenden Systemen und werden dort abgefragt oder fließen teilweise in materialisierte beziehungsweise virtualisierte Domänengraphen ein.
Die Gedächtniskomponente (Memory) erhöht den Nutzen der Knowledge Layer mit jeder weiteren Interaktion. Das System kann für ein Ergebnis dokumentieren, welche Quellen, Regeln und Schlussfolgerungen eine Rolle gespielt haben. Bei einer Compliance-Prüfung identifiziert die Ontologie möglicherweise mehrere zulässige Verifikationssysteme. Das gespeicherte Erfahrungswissen zeigt anschließend, welches Verfahren sich bei einer bestimmten Personengruppe oder bei früheren Ausnahmefällen bewährt hat.
Wie die Ebenen zusammenwirken
Eine Knowledge Layer ist kein rein beschreibendes Verzeichnis wie ein Datenkatalog. Sie bildet eine ausführbare Softwareschicht zwischen den Datenbeständen und den Agenten oder Anwendungen, die darauf zugreifen.
Abb. 2.: Vom Agenten-Request zum kontrollierten und nachvollziehbaren Kontext.
(Bild: Neo4j)
Definitionen ändern sich, Datenquellen wandern und Erfahrungswissen wächst kontinuierlich. Deshalb lässt sich die Knowledge Layer nicht einfach vollständig in einen Agenten kopieren oder als statischer Kontext zwischenspeichern. Stattdessen fragt ein Agent sie fortlaufend ab und erhält nur die Bedeutung, Daten und Richtlinien, die er für seine aktuelle Aufgabe benötigt.
Bei der Anfrage „Wie hoch ist unser Risiko gegenüber diesem Kunden?“ übernimmt die Knowledge Layer beispielsweise folgende Schritte:
1. Sie ordnet die Absicht der Anfrage dem fachlichen Geschäftsmodell zu.
2. Sie stellt den notwendigen Kontext zusammen und wählt verbindliche Datenquellen aus.
3. Sie übersetzt Geschäftskonzepte in Datenabfragen oder Werkzeugaufrufe oder greift direkt auf Daten innerhalb der Knowledge Layer zu.
4. Sie berücksichtigt Zugriffsrechte und Richtlinien bereits während der Auflösung.
5. Sie dokumentiert Quellen, Transformationen und Entscheidungswege und aktualisiert anschließend das Erfahrungswissen.
Oder anders gesagt: Der Agent führt die eigentliche Aufgabe aus. Die Knowledge Layer übersetzt die Absicht in einen kontrollierten, quellenbasierten und nachvollziehbaren Handlungsplan (siehe Abb. 2).
Aufbau einer Knowledge Layer
Eine Knowledge Layer ist keine standardisierte Lösung, die sich unverändert übernehmen lässt. Sie entsteht aus den spezifischen Informationen, Prozessen, Systemen und Wissensbeständen eines Unternehmens. Dazu gehören interne Begriffsdefinitionen wie Kundenstatus oder Risiko ebenso wie die bestehende Datenlandschaft, Governance-Verantwortlichkeiten und verbindliche Richtlinien.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
Graphtechnologie erlaubt es, all diese Informationen miteinander in Beziehung zu setzen. Die zentrale Herausforderung beim Aufbau liegt in der semantischen Modellierung und Governance: Begriffe müssen eindeutig definiert, Datenfeldern zugeordnet und mit verbindlichen Quellen verknüpft werden.
LLMs können den Aufbau einer solchen Wissensbasis beschleunigen. Sie analysieren Schemata und Metadaten, schlagen mögliche Bedeutungen und Zuordnungen vor und machen Widersprüche sichtbar. So kann ein Modell erkennen, welches Feld wahrscheinlich den maßgeblichen Umsatzwert enthält oder dass Vertrieb und Kundenservice den Begriff „aktiver Kunde“ unterschiedlich definieren. Welche Zuordnung und Definition verbindlich gilt, entscheiden jedoch die Fachverantwortlichen. Eine tragfähige Knowledge Layer verbindet deshalb automatisierte Analyse mit fachlicher Prüfung und klarer Governance.
Einstieg über eine ontologiebasierte Semantikschicht
Bei der Umsetzung konzentrieren sich Unternehmen zunächst auf den Kern der Knowledge Layer: die ontologiebasierte Semantikschicht (Ontology-based Semantic Layer, OBSL). Sie bildet das fachliche Unternehmensmodell als verbindliche Landkarte ab und verknüpft Geschäftskonzepte mit den zugehörigen Datenquellen und Richtlinien. Dazu gehören die Ontologie, die zugehörigen Referenzdaten und die benötigten Betriebswerkzeuge. Die operativen Daten verbleiben in den bestehenden Plattformen und werden dort abgefragt.
Die Semantikschicht interpretiert die Absicht einer Anfrage, ermittelt die relevanten Datenbestände und bestimmt, auf welcher Plattform sie liegen – etwa in Snowflake, Oracle, Salesforce oder S3. Anschließend wendet sie die geltenden Richtlinien an und verweist den Agenten auf die passenden Quellen.
Abb. 3.: Ontologieebenen der Knowledge Layer im Überblick
(Bild: Neo4j)
Die Ontologie (siehe Abb. 3) verbindet mehrere Ebenen miteinander. Technische und fachliche Ontologien ordnen Systeme und Datenquellen den jeweiligen Geschäftskonzepten zu. Datenprodukt- und Prozessontologien zeigen, wie diese Konzepte in konkreten Abläufen zusammenwirken. Richtlinien- und Organisationsontologien regeln, wer Verantwortung trägt, auf welche Informationen zugegriffen werden darf und welche Aktionen ein Agent ausführen kann. Dabei muss nicht von Anfang an das gesamte Modell stehen: Unternehmen können mit einzelnen Ebenen beginnen und die Ontologie schrittweise erweitern, sobald Datenreife und Anforderungen wachsen.
Verantwortlichkeiten und Governance
Technik allein reicht nicht aus. Gerade mit Blick auf den EU AI Act gewinnt eine klare Aufgabenverteilung zusätzlich an Bedeutung. Unternehmen müssen nachvollziehen können, auf welcher Grundlage ein KI-System entscheidet und wer dafür verantwortlich ist.
Eine Knowledge Layer braucht dafür ein föderiertes Betriebsmodell: Die Fachbereiche verantworten Begriffe, Datenprodukte und die Zuordnung zwischen fachlicher und technischer Ebene. Plattformteams betreiben die gemeinsame Infrastruktur, während eine übergreifende Governance verbindliche Quellen, Zugriffsgrenzen und Risikokontrollen festlegt. Diese Regeln greifen bei jeder Abfrage. So arbeiten alle berechtigten Agenten auf derselben kontrollierten Grundlage, statt den fachlichen Kontext jeweils neu zu rekonstruieren.
Unternehmen, deren Agenten auf gemeinsame Semantik, vertrauenswürdige Daten, verbindliche Richtlinien und gesammeltes Erfahrungswissen zugreifen können, schaffen bessere Voraussetzungen für einen konsistenten KI-Einsatz im großen Maßstab. Noch entscheidender ist jedoch: Intelligenz ist eine Ware. Wissen ist der Wettbewerbsvorteil. Wenn jedes Unternehmen dieselben führenden KI-Modelle tokenweise mieten kann, bleibt als einziger dauerhafter Vorteil das, was schon immer dem Unternehmen selbst gehörte und nie zum Verkauf stand: ein verlässliches und kontrolliertes Verständnis des eigenen Geschäfts.
Dr. Jesús Barrasa
(Bild: Neo4j)
Über den Autor
Dr. Jesús Barrasa ist Experte für semantische Technologien und Graphdatenbanken. Bei Neo4j leitet er das Solutions-Architecture-Team in EMEA und verantwortet die Entwicklung von neosemantics, einem Neo4j-Plugin für RDF. Er ist Mitautor mehrerer Fachbücher über Knowledge Graphen und Datenkontext sowie Co-Host des Live-Webcasts Going Meta.