Kommentar von Nick Boyer, Conga Wenn Angebotsprozesse zum Compliance-Risiko werden

Der EU AI Act verändert den Umgang mit Künstlicher Intelligenz (KI) grundlegend. Viele Unternehmen richten ihre Compliance-Strategien derzeit auf Chatbots, Datenschutz und Modelltransparenz aus. Weniger Beachtung finden Angebots- und Vertragsprozesse, obwohl KI hier längst geschäftskritische Entscheidungen beeinflusst und neue Anforderungen an Transparenz, Nachvollziehbarkeit und Governance schafft.

80 Prozent der Unternehmen halten sich nach eigener Einschätzung für gut auf die Anforderungen des EU AI Act vorbereitet. Gleichzeitig verfügen 36 Prozent über kaum oder gar kein Budget für die Umsetzung, und lediglich 19 Prozent haben eine bereichsübergreifende Verantwortung zwischen Vertrieb, Rechtsabteilung und Revenue Operations etabliert. Genau hier zeigt sich der eigentliche Widerspruch.

Diese Zahlen einer aktuellen Conga-Studie „Verkauf und Vertragsabschluss im Zeitalter regulierter KI“ verdeutlichen zwar, dass das Bewusstsein für regulatorische Anforderungen wächst, doch vielerorts die organisatorischen Voraussetzungen fehlen, um diese dauerhaft zu erfüllen. Der EU AI Act verlangt jedoch ausdrücklich nachvollziehbare Entscheidungen, dokumentierte Datenquellen und klare Verantwortlichkeiten.

Angebots- und Vertragsprozesse sind besonders kritisch

Die öffentliche Diskussion über den EU AI Act konzentriert sich vor allem auf generative KI. Tatsächlich jedoch kommt KI längst in geschäftskritischen Kernprozessen zum Einsatz, etwa in Configure-Price-Quote-Systemen (CPQ) oder Contract-Lifecycle-Management-Plattformen (CLM). Dort unterstützt sie beispielweise bei der Preisfindung, Vertragsanalyse, Risikobewertung und Genehmigungen. Sie beeinflusst unmittelbar Entscheidungen, die später rechtlich bindend werden.

Dennoch unterschätzen viele Unternehmen diese Entwicklung. Laut Studie weiß mehr als jeder fünfte Entscheider nicht einmal, dass KI bereits Bestandteil der eingesetzten CPQ- oder CLM-Lösungen ist. Die eigentliche Herausforderung besteht deshalb nicht darin, KI einzuführen, sondern ihren Einsatz transparent, erklärbar und revisionssicher zu gestalten.

Das eigentliche Risiko liegt zwischen den Systemen

Nur selten liegt das Problem in der einzelnen Anwendung, da Angebots- und Vertragsprozesse heute eine Vielzahl miteinander verbundener Anwendungen durchlaufen. Kritisch werden jedoch die Schnittstellen. Unterschiedliche Preislisten, lokal gepflegte Vertragsbibliotheken, Excel-Dateien oder Genehmigungen per E-Mail führen dazu, dass Datenbestände auseinanderlaufen. KI verarbeitet diese Informationen jedoch gemeinsam.

Compliance-Risiko durch KI in Standardsoftware

EU AI Act betrifft weit mehr deutsche Unternehmen als angenommen

Schon heute sind die Folgen sichtbar: 37 Prozent der befragten Unternehmen mussten Verträge aufgrund regulatorischer Änderungen neu verhandeln, 30 Prozent berichten über Verzögerungen bei Vertragsabschlüssen oder der Umsatzrealisierung. Compliance wird damit zu einer Frage der Daten- und Prozessarchitektur.

Data Governance als Fundament vertrauenswürdiger KI

Im Mittelpunkt der öffentlichen Debatte stehen häufig Sprachmodelle, Rechenleistung oder Prompt Engineering. Aber im Unternehmensalltag entscheidet die Qualität der zugrunde liegenden Daten über die Zuverlässigkeit automatisierter Entscheidungen. CPQ- und CLM-Systeme nutzen Preislisten, Produktdaten, Vertragsbibliotheken und Transaktionsdaten als Grundlage automatisierter Entscheidungen. Diese Informationen bilden den Kontext, auf dessen Grundlage KI Preise kalkuliert, Vertragsklauseln empfiehlt oder Risiken bewertet.

Damit rückt die Data Governance in den Mittelpunkt. Master Data Management, konsistente Metadaten und ein verlässlicher „Single Source of Truth“ sind keine administrativen Nebenaufgaben mehr, sondern Voraussetzung für vertrauenswürdige KI. Denn KI verbessert keine fehlerhaften Prozesse, sie automatisiert sie lediglich.

Erklärbarkeit beginnt nicht beim Modell

Durch die zunehmende Integration generativer KI richtet sich der Blick vieler Unternehmen auf die Auswahl geeigneter Modelle. Tatsächlich ist für den produktiven Einsatz eine andere Frage entscheidend: Wie lässt sich eine automatisierte Entscheidung später nachvollziehen? Denn Unternehmen müssen automatisierte Entscheidungen erklären und belegen können. Diese Nachvollziehbarkeit entsteht jedoch nicht allein durch das KI-Modell, sondern durch eine belastbare Informationsarchitektur. Dafür sorgen Data Lineage, Audit Trails, Versionierung und Policy Engines.

Die Studie zeigt auf, dass hier starker Nachholbedarf besteht. Trotz der Tatsache, dass 80 Prozent der Führungskräfte in Deutschland, Großbritannien und Frankreich angeben, gut vorbereitet zu sein, sehen 48 Prozent in Rahmenwerken wie den EU AI Act in den nächsten drei Jahren als ihr größtes Compliance-Hindernis. 36 Prozent berichten, dass nur wenig oder gar kein Budget für Compliance bereitgestellt wird. Nur 19 Prozent haben funktionsübergreifende Verantwortlichkeiten zwischen Rechtsabteilung, Vertrieb und Revenue Operations etabliert. Und nur 18 Prozent der Unternehmen planen derzeit formale Audit Trails für den KI-Einsatz im Vertragsmanagement.

Prozessdatenanalyse macht Risiken sichtbar

Dokumentierte Prozesse und tatsächliche Abläufe unterscheiden sich in vielen Unternehmen erheblich. Genehmigungen erfolgen außerhalb definierter Workflows, Vertragsänderungen werden per E-Mail abgestimmt oder Preise lokal angepasst. Solche Schattenprozesse entziehen sich der Governance und bleiben oft unbemerkt, bis ein Audit oder regulatorische Prüfung sie offenlegt.

Hier gewinnt Prozessdatenanalyse (Process Mining) an Bedeutung. Durch die Auswertung von Ereignisprotokollen aus CRM-, ERP-, CPQ- und CLM-Systemen lassen sich reale Prozessabläufe rekonstruieren. Medienbrüche, manuelle Eingriffe oder Umgehungen definierter Freigaben werden sichtbar und können systematisch beseitigt werden. Das Process Mining ergänzt klassische Data-Governance-Konzepte um die notwendige Prozessebene und schafft die Transparenz, die der EU AI Act verlangt.

KI-Governance ist eine Führungsaufgabe

Die größten Herausforderungen sind weniger technischer als organisatorischer Natur. In vielen Unternehmen arbeiten Vertrieb, Rechtsabteilung, Finance, Einkauf und IT weiterhin mit unterschiedlichen Datenbeständen, eigenen Freigabeprozessen und voneinander getrennten Regelwerken. Die Fragmentierung erschwert die Zusammenarbeit und erhöht das Risiko nicht nachvollziehbarer KI-Entscheidungen.

Für CIOs und Chief Data Officers bedeutet dies einen Perspektivwechsel. KI-Governance darf nicht als isoliertes Technologieprojekt verstanden werden. Sie muss Teil einer übergreifenden Enterprise Governance sein, die Daten, Prozesse und Verantwortlichkeiten gleichermaßen umfasst. Erst wenn Stammdaten konsistent gepflegt, Rollen eindeutig definiert und Geschäftsprozesse organisationsweit harmonisiert sind, lassen sich KI-Anwendungen regulatorisch sicher und wirtschaftlich sinnvoll einsetzen.

Vier Prioritäten für CIOs und CDOs

Aus den Untersuchungen lassen sich vier zentrale Handlungsfelder für die oberste Führungsebene ableiten:

• 1. Data Governance stärken. Konsistente Stammdaten, einheitliche Metadaten und eine verlässliche Datenbasis für Preise, Produkte und Vertragsbausteine bilden das Fundament belastbarer KI-Entscheidungen.

• 2. Verantwortlichkeiten über Abteilungsgrenzen hinweg etablieren. Angebots- und Vertragsprozesse verbinden Vertrieb, Legal, Finance und IT. Entsprechend bereichsübergreifend sollten auch die Governance-Strukturen organisiert sein.

• 3. Auditierbarkeit sicherstellen. Data Lineage, Audit Trails, Versionierung und transparente Freigabeprozesse schaffen die Nachvollziehbarkeit, die regulatorische Vorgaben künftig verlangen.

• 4. Prozesse kontinuierlich analysieren und vereinheitlichen. Process Mining hilft, Schattenprozesse, Medienbrüche und manuelle Umgehungen frühzeitig zu erkennen und zu beseitigen.

Der blinde Fleck liegt in der Prozessarchitektur

Die Studie verdeutlicht, dass sich mit dem EU AI Act der Blick auf Künstliche Intelligenz grundlegend verändert. Entscheidend ist künftig nicht allein, welche KI eingesetzt wird, sondern wie sie in geschäftskritische Prozesse eingebunden ist und auf welcher Datenbasis sie Entscheidungen trifft.

Darum ist der EU AI Act mehr als eine neue Compliance-Vorgabe. Er bietet Unternehmen die Chance, Datenarchitektur, Prozesslandschaften und Governance gemeinsam zu modernisieren. Wer also Data Governance, Process Governance und AI Governance integriert denkt, reduziert regulatorische Risiken und schafft zugleich effizientere Prozesse, belastbarere Entscheidungen und die Grundlage für vertrauenswürdige KI.

Kommentar von Guru Sethupathy, Optro

KI-Risiken wachsen schneller, als klassische Governance Schritt halten kann

(ID:50944912)