Sage-Studie zur „Verifizierungssteuer“ Finanzentscheider verweigern Black-Box-KI trotz 99 Prozent Trefferquote

Eine von Sage beauftragte IDC-Studie beziffert, was die Kontrolle von KI-Ergebnissen im Finanzwesen kostet: Ein erheblicher Teil der erhofften Produktivitätsgewinne geht wieder verloren, weil Mitarbeiter die Ergebnisse erst nachvollziehen und prüfen müssen, bevor sie darauf reagieren können.

Nicht die Leistungsfähigkeit der Modelle bremst den KI-Einsatz im Finanzwesen, sondern das Vertrauen in ihre Ergebnisse. Das ist die zentrale These einer Studie, die das Marktforschungsunternehmen IDC im Auftrag des Softwareanbieters Sage erstellt hat. Für die Studie „The Emerging Economics of AI in Finance“ (Registrierung erforderlich) befragte IDC im Februar 2026 insgesamt 2.275 leitende Finanzentscheider in Nordamerika und der EMEA-Region telefonisch (darunter 205 Personen aus Deutschland).

Wenn Kontrolle die Ersparnis auffrisst

Den Kern der Untersuchung bildet ein Effekt, den IDC als „Verifizierungssteuer“ bezeichnet: den Aufwand, KI-Ergebnisse überhaupt erst vertrauenswürdig genug für den Einsatz zu machen. Laut Studie wenden leitende Finanzverantwortliche im Schnitt 13 Stunden pro Woche für die Validierung von KI-Ergebnissen auf. 48 Prozent der Befragten kommen auf mindestens 15 Stunden, 19 Prozent auf mehr als 30 Stunden wöchentlich. Diese 30-Stunden-Marke bezeichnet IDC als jenen Punkt, an dem eine intransparente KI mehr Arbeit verursacht, als sie einspart.

Der Aufwand entsteht dem Report zufolge nicht durch spektakuläre Fehlleistungen der Systeme. Die Ergebnisse seien häufig durchaus brauchbar. Das Problem sei, dass Finanzabteilungen nicht unmittelbar auf sie reagieren könnten, ohne Annahmen zu rekonstruieren, Berechnungen zu prüfen oder die Herleitung nachzuvollziehen. Im Mittel gehen nach Angaben von IDC 26 Prozent der erwarteten Produktivitätsgewinne dafür verloren, KI-Ergebnisse für Stakeholder nachträglich zu erklären. Bei 22 Prozent der Organisationen verschlingt diese Nacharbeit sogar mehr als die Hälfte der durch KI eingesparten Zeit.

Vertrauen schlägt Treffsicherheit

Bemerkenswert ist, worauf die Befragten Vertrauen gründen. Nach den Faktoren gefragt, die ihre Bereitschaft erhöhen würden, einer KI-Empfehlung zu folgen, nannten sie an erster Stelle Nachvollziehbarkeit: klare Sicht auf Datenquellen und Entscheidungslogik (71 Prozent), Einblick in die zugrundeliegenden Annahmen (67 Prozent) und einen prüfbaren Audit-Trail (65 Prozent). Eine nachgewiesene Trefferquote in der Vergangenheit landete mit 46 Prozent auf dem letzten Platz. Entsprechend würden 71 Prozent ein KI-Werkzeug ablehnen, das eine Genauigkeit von 99 Prozent verspricht, seine Schlussfolgerungen aber nicht menschenlesbar begründen kann. Nur zehn Prozent der Organisationen würden allein aufgrund einer nachgewiesenen Genauigkeit handeln.

Diese Skepsis erklärt, warum autonome Finanzprozesse bislang die Ausnahme sind. Nach den in der Studie erhobenen Selbsteinschätzungen bezeichnen sich nur vier Prozent der Finanzorganisationen als weitgehend autonom, während 62 Prozent überwiegend manuell oder regelbasiert arbeiten. Dass Governance-Fragen den Ausschlag geben, deckt sich mit einer Prognose von Gartner, wonach bis 2027 rund 40 Prozent der Unternehmen autonome KI-Agenten zurückstufen oder abschalten dürften, weil pauschale Kontrollmodelle im Betrieb versagen.

Der Blick auf Deutschland

Der öffentlich verfügbare IDC-Report weist seine Kennzahlen global aus und schlüsselt sie nicht nach Ländern auf. Für den deutschen Markt nennt Sage jedoch gesonderte Werte. Nach Angaben des Herstellers verbringen hierzulande 29 Prozent der Finanzverantwortlichen wöchentlich zwischen 15 und 29 Stunden mit der Prüfung von KI-Ergebnissen, weitere 18 Prozent mehr als 30 Stunden. 68 Prozent der deutschen Befragten würden demnach ein KI-Werkzeug trotz 99-prozentiger Präzision ablehnen, wenn es seine Entscheidungen nicht nachvollziehbar begründet. Als Ablehnungsgrund stehe in Deutschland weniger die fehlende Transparenz im Vordergrund als der Konflikt mit dem eigenen Fachurteil: 43 Prozent der deutschen Finanzverantwortlichen würden laut Sage eine KI-Empfehlung zurückweisen, wenn sie ihrem professionellen Urteil widerspricht, gegenüber 39 Prozent im globalen Durchschnitt. Diese länderspezifischen Zahlen sind im öffentlichen Report nicht separat ausgewiesen.

Dass fehlendes Vertrauen die KI-Einführung in deutschen Unternehmen ausbremst, zeigen auch andere Erhebungen. In einer Cloudflight-Studie nannten 51 Prozent der Befragten mangelndes Vertrauen und die Angst vor Risiken als wichtigsten Hinderungsgrund für den Einsatz von KI-Agenten.

Von der Black Box zur Glass Box

Als Ausweg beschreibt die Studie einen Wechsel von der undurchsichtigen „Black Box“ hin zu nachvollziehbaren „Glass-Box“-Ansätzen, die Einblick in Logik, Datenquellen und Begründung jeder Empfehlung geben. 71 Prozent der Befragten geben an, dass ein solcher Wechsel den Status eines Anbieters als bevorzugter Partner deutlich erhöhen würde. 54 Prozent wären bereit, für diese Transparenz einen Aufpreis zu zahlen, im Mittel elf Prozent über den üblichen Lizenzkosten.

Diese Zahlungsbereitschaft ist zugleich die Stelle, an der die Interessen des Auftraggebers am deutlichsten durchscheinen. Sages eigener Ansatz für KI im Finanzbereich beruht nach Darstellung des Unternehmens auf dem Prinzip „Vertrauen durch Design“ mit erklärbaren Ergebnissen, kontrollierten Aktionen und lückenloser Rückverfolgbarkeit. Alexander Trautmann, Director of Product Engineering bei Sage, ordnet die Verifizierungssteuer denn auch als Konstruktionsfehler ein. Es handele sich nicht um ein KI-Problem, sondern um ein Architekturproblem, das entstehe, weil Systeme keinen vollständigen Prüfpfad bereitstellten.

Ob sich die von IDC skizzierte Verschiebung durchsetzt, hängt weniger an der Rechenleistung der Modelle als an der Nachvollziehbarkeit ihrer Ergebnisse. Die Debatte um KI-Governance verlagert sich damit von der Frage, was ein System kann, hin zu der Frage, ob Organisationen dem Ergebnis trauen können. Vertiefende Einblicke bietet ein Beitrag zur Transparenzlücke in der KI-Governance.

(ID:50898134)