Kommentar von Nitin Singhal, GitLab Institutionelles Wissen ist die Entscheidungsschicht für erfolgreiche KI-Agenten

Wer Datenplattformen für große Institutionen baut, trifft Entscheidungen häufig auf Basis des gut Sichtbaren und übersieht dabei das Unsichtbare, fast wie in einem toten Winkel. Unsichtbare Daten können gefährlicher sein als schlechte. Etwa Ausnahmen, Genehmigungen, Kontext, undokumentiertes institutionelles Wissen, systemübergreifende Synthesen und Ermessensentscheidungen, die den Geschäftsbetrieb tragen, aber selten in ein System gelangen.

Dieses Muster habe ich in jeder Branche erlebt, in der ich gearbeitet habe. Ein Beispiel: Mein Team bei einem großen Social-Media-Unternehmen führte ein Metadaten-Audit durch, das offenlegte, dass die meisten Produktivdatensätze verwaist, ohne Eigentümer oder redundant waren. Niemand hatte eine verlässliche Zahl der laufenden APIs. Herkömmliche Katalog-Tools lieferten Metadaten, die schon bei ihrer Ankunft veraltet waren.

Kommentar von Rachel Laycock, Thoughtworks

KI-Agenten – rasante Fortschritte und neue Sicherheitsrisiken

Um das Problem zu lösen, bauten wir graphbasierte Konnektoren, führten die Lineage der Assets zusammen und erzielten Einsparungen in dreistelliger Millionenhöhe. Doch selbst, nachdem wir das Sichtbarkeitsproblem für strukturierte Daten gelöst hatten, stießen wir immer wieder an dieselbe Grenze: Die Begründung hinter den Daten war im System nirgends zu finden.

Jahrzehntelang war der Verlust dieser Begründung ein akzeptabler Preis. Teams konnten sie über Erfahrung und Onboarding rekonstruieren. Entscheidungen wurden inkonsistent, und die Inkonsistenz blieb unsichtbar. KI-Agenten legen diese Inkonsistenzen offen.

Wo jeder Agent an seine Grenzen stößt

Man stelle sich vor, was passiert, wenn ein KI-Agent bei einer Kundenverlängerung entscheiden soll, ob er einen Rabatt von 20 Prozent genehmigt, obwohl die Richtlinie Verlängerungen bei zehn Prozent deckelt. Ein gut instrumentierter Agent kann den Umsatz des Kunden aus dem CRM ziehen, offene Support-Tickets prüfen, jüngste Incidents durchsuchen und das relevante Richtliniendokument auswerten. Das ist die sichtbare Ebene.

Worauf er nicht zugreifen kann, ist die Begründung, die in den Köpfen jener Menschen steckt, die diese Aufgabe lange genug gemacht haben: eine Historie von Ausnahmen zum Rabattsatz und undokumentierte Veränderungen in der Entscheidungsfindung nach einer Reorganisation.

Ohne diese Begründung trifft der Agent eine Fehlentscheidung, eskaliert an einen Menschen, der dieselbe Logik von Grund auf rekonstruiert, oder wendet die schriftliche Richtlinie starr in Situationen an, die das Unternehmen zuvor mit Augenmaß gehandhabt hat. Der mögliche Fehler, die sich leicht potenzieren können.

Warum etablierte Anbieter diese Lücke nicht schließen können

Die Beschränkung ist architektonischer Natur, keine Produktlücke, die ein Anbieter mit einem Roadmap-Eintrag schließen könnte. Operative Systems of Record – CRM, ERP und HRIS – speichern den aktuellen Zustand. Wird eine Ausnahme genehmigt, verschwindet der Kontext, der sie gerechtfertigt hat. Man sieht, dass sich der Rabatt geändert hat, aber man kann den Zustand der Welt im Moment dieser Entscheidung weder erneut abspielen noch abfragen oder als Präzedenzfall für künftiges Reasoning nutzen.

Datenplattformen haben jedoch ein anderes Problem. Sie erhalten Daten über ETL-Pipelines (Extract, Transform, Load), nachdem die Entscheidungen bereits getroffen wurden. Wenn ein Datensatz im Warehouse landet, ist der Begründungskontext längst verdunstet. Diese Plattformen können Historie zeigen, aber keine Kausalität, denn Kausalität setzt voraus, zum Commit-Zeitpunkt im Ausführungspfad präsent zu sein.

Jeder große Softwareanbieter integriert inzwischen Agentenfunktionen. Diese Agenten arbeiten innerhalb der Grenzen ihrer jeweiligen Systeme zuverlässig, übernehmen jedoch auch die Beschränkungen des übergeordneten Systems. Ein CRM-Agent sieht den Infrastruktur-Incident im Monitoring-System nicht. Ein Agent auf der Support-Plattform sieht das Abwanderungssignal nicht, das in einem internen Thread vergraben ist. Die systemübergreifende Synthese, die erfahrene Menschen instinktiv leisten, bleibt jedem Agenten verborgen, der im Perimeter eines einzelnen Anbieters eingeschlossen ist.

Kommentar von Uwe Specht, Pegasystems

Die KI regelt das – braucht aber klare Regeln

Die fehlende Dimension

Die meisten Wissenssysteme im Unternehmen erfassen, welche Entitäten existieren, wie sie zueinander in Beziehung stehen und wie sich ihr Zustand über die Zeit verändert.

Eine vierte Dimension fehlt jedoch fast überall, obwohl sie den eigentlichen Kern der unsichtbaren Daten bildet: Entscheidungsereignisse, also strukturierte Aufzeichnungen jener Momente, in denen organisationales Urteilsvermögen Kontext in Handlung überführt hat. Die meisten Teams erfassen nicht, welche Eingaben eine Entscheidung trieben, welche Richtlinienversion galt oder welche Bedingungen ein Genehmigender daran knüpfte.

Diese Begründung verdunstet in Slack-Threads, in Telefonaten und in Onboarding-Gesprächen mit Menschen, die irgendwann das Unternehmen verlassen. Vor den Agenten war das ein verkraftbarer Verlust, denn ein erfahrener Mitarbeiter konnte die Begründung aus Gedächtnis und Beziehungen rekonstruieren.

In einer agentengetriebenen Umgebung wird die Lücke kritisch. Agenten müssen verstehen, was die Richtlinie sagt und wie das Unternehmen sie historisch in der Praxis gehandhabt hat. Was das möglich macht, ist eine Entscheidungsschicht: ein lebendiger, abfragbarer Nachweis organisationalen Urteilsvermögens, erfasst im Moment der Entscheidung.

Die Argumente für den Aufbau dieser Entscheidungsschicht werden mit jeder Entscheidung stärker, die das Unternehmen trifft. Jede erfasste Entscheidungsspur wird zu einem durchsuchbaren Präzedenzfall. Jede Ausnahme kalibriert das künftige Routing von Ausnahmen. Das organisationale Wissen, das früher mit ausscheidenden Mitarbeitern verloren ging, wird zu einer bleibenden Ressource, die Umstrukturierungen und Übernahmen überdauert.

Die Entscheidungsschicht aufbauen

Die architektonische Beschränkung zwingt nicht dazu, auf die Lösung eines Anbieters zu warten. Die folgenden fünf Praktiken bauen die fehlende Entscheidungsschicht schrittweise auf, ohne die bestehende Infrastruktur zu ersetzen. Dabei greifen sie ineinander und das von der Bestandsaufnahme bis hin zum abfragbaren Nachweis.

• Die Ausnahmefläche auditieren: Kartieren Sie die Entscheidungen, die Ihr Unternehmen trifft und die die schriftliche Richtlinie nicht vollständig erklärt: Preisausnahmen, Genehmigungs-Overrides, Compliance-Ausnahmen. Das sind die Lücken, an denen Agenten zuerst scheitern werden. Priorisieren Sie, was erfasst werden soll, anstatt zu versuchen, alles auf einmal zu erfassen.

• Den Ausführungspfad instrumentieren, nicht nur das Ergebnis: Das meiste Logging erfasst, was geschehen ist. Entscheidungserfassung verlangt zusätzlich das Warum: welche Eingaben berücksichtigt wurden, welche Richtlinienversion galt, wer genehmigte und welche Bedingungen daran geknüpft waren. Fügen Sie folgenreichen Workflows eine strukturierte Ereigniserfassung hinzu, bevor Sie Agenten in ihnen einsetzen.

• Anbieter am systemübergreifenden Reasoning messen: Fragen Sie bei der Bewertung von Agentenplattformen konkret, wie sie mit Entscheidungen umgehen, die Kontext aus mehreren Systemen erfordern. Hängt die Antwort vollständig von vorgefertigten Integrationen oder einem einzigen Datenmodell ab, wird die strukturelle Lücke als Produktionsfehler zutage treten.

• Mit hochfrequenten, folgenreichen Abläufen beginnen: Kundenverlängerungen, Security-Ausnahmeprüfungen, Incident-Eskalationen und Lieferantenfreigaben bieten sich als Ausgangspunkte an. Sie treten häufig genug auf, um schnell einen aussagekräftigen Präzedenzkorpus aufzubauen, und Agentenfehler tragen hier reale Kosten.

• Für Replay entwerfen, nicht nur für Retrieval: Ein brauchbarer Entscheidungsnachweis ist ein strukturiertes Artefakt, das Teams abfragen, mit früheren Entscheidungen vergleichen und nutzen können, um zu validieren, ob eine geplante Handlung damit übereinstimmt, wie sich das Unternehmen tatsächlich verhalten hat.

Die eigentliche Konsequenz

Agenten schließen aus dem, was zum Ausführungszeitpunkt explizit verfügbar ist und das in einem Tempo und Umfang, den kein menschlicher Mechanismus zur Wissensweitergabe erreichen kann.

Die Unternehmen, die dauerhaft einen Mehrwert aus KI-Agenten ziehen, werden nicht jene mit den ausgefeiltesten Modellen sein. Es werden jene sein, die die Arbeit geleistet haben, ihr organisationales Urteilsvermögen abrufbar zu machen, indem sie nicht nur erfassen, was ihre Daten sagen, sondern wie ihr Unternehmen sich über die Zeit entschieden hat, danach zu handeln.

Der Eisberg ist real, und die Agenten sind da. Jede Entscheidung, die Ihr Unternehmen trifft, ohne ihre Begründung zu erfassen, ist institutionelles Wissen, das Sie nie zurückbekommen.

Kommentar von Adrian Knapp, Aparavi

Wenn die KI mehr sieht, als sie sollte

(ID:50907449)