Kommentar von Jana Behr, KPMG Financial Services Wie der Finanzsektor künftig den Erfolg seiner KI-Systeme sichert

Anbieter zum Thema

KPMG AG Wirtschaftsprüfungsges.

INFOMOTION GmbH

Stellen wir uns vor, die Ingenieure der europäischen Raumfahrtbehörde ESA berechnen die Flugbahn ihrer für 2030 geplanten Marsmission – jedoch unter der Annahme, dass 1 plus 1 nicht 2, sondern 3 ergebe. Der Rover Rosalind Franklin würde den Roten Planeten vermutlich um Millionen Kilometer verfehlen. Ähnlich gravierend müssen wir uns die Folgen von Data Poisoning vorstellen, also der Infektion von KI-Systemen mit falschen Trainingsdaten.

Wie bereits bei den Cloud Services dominieren auch in Sachen LLMs und KI-Tools einige wenige US-Unternehmen den Weltmarkt. Die sogenannten Hyperscaler verfügen nicht nur über technologisch führende Lösungen, ihre KI-Modelle sind auch fest in den IT-Strukturen europäischer Unternehmen verankert. Weder gibt es in Europa konkurrenzfähige Alternativen, noch wäre der Wechsel zu anderen Anbietern ohne weiteres möglich.

Das Problem: Die US-Tech-Giganten lassen sich bei den Trainingsdaten ihrer KI-Systeme nicht in die Karten schauen. Laut AI Act sind die Provider zwar dazu verpflichtet, „ausführliche Zusammenfassungen“ ihrer KI-Trainingsdaten vorzulegen, doch das ist nicht genug. Erst die vollständige Offenlegung aller Trainingsdaten und die stärkere Haftbarkeit der Anbieter könnten einen entscheidenden Wendepunkt für die KI-Datenqualität darstellen. Heute können europäische Unternehmen weder nachvollziehen, wie die Ergebnisse ihrer Systeme zustande kommen, noch haben sie eine effektive Möglichkeit der Qualitätskontrolle.

Digitale Fake News: Realer Schaden für Finanzdienstleister

Der Bereich ESG-Reporting ist derzeit ein besonders plakatives Beispiel für das erhebliche Schadenspotenzial falscher Daten im Zusammenhang mit KI-Systemen: Im Zuge von CSRD, EU-Offenlegungsverordnung und ESMA-Namensrichtlinie müssen Banken und Fondsanbieter nicht nur über die eigene Nachhaltigkeit berichten. Ihre Pflicht zur ESG-Berichterstattung bezieht sich auch auf die Unternehmen, denen sie Kredite gewähren bzw. deren Anteile sich in ihrem Investmentportfolio befinden. Gleichzeitig reduziert die angekündigte Omnibus-Reform der EU künftig die Anzahl der berichtspflichtigen Unternehmen um rund 80 Prozent.

Von freiwilliger Orientierung zur regulatorischen Pflicht

ENISAs FAICP im Spannungsfeld der EU-KI-Verordnung

Deshalb müssen sich Finanzdienstleister derzeit generell die Frage stellen, woher sie künftig die ESG-Daten ihrer Kreditnehmer und Portfoliovertreter bekommen, wenn diese keine Nachhaltigkeitsberichte verfassen. Es gibt nur eine Lösung: das Sammeln und die Auswertung öffentlich zugänglicher Informationen mithilfe von KI. Sind diese Daten fehlerhaft, kann es zu Fehleinschätzungen kommen – und damit im Extremfall zu Sanktionen.

Doch das ist kein einfaches Projekt: Laut einer Veröffentlichung der Datenqualitätsplattform NewsGuard aus dem März sind die zehn weltweit führenden generativen KI-Modelle heute mit gezielten Falschinformationen zum Ukraine-Krieg infiziert – und zwar zu 33 Prozent. Allein im vergangenen Jahr waren diese ein Grund für Falschinformationen in 3,6 Millionen Webartikeln.

Das veranschaulicht das ungeheure Schadenspotenzial: Aufgrund der schier endlosen Menge ist die Richtigkeit öffentlich zugänglicher Informationen für einzelne Unternehmen so gut wie nicht zu überprüfen, weshalb sich Banken in einer Zwickmühle befinden: Ohne KI können sie Anforderungen wie das Scope-3-ESG-Reporting nicht vollständig erfüllen, mit KI fehlt ihnen derzeit die Möglichkeit zur verlässlichen Qualitätskontrolle.

Solide Steuerung des KI-Flaggschiffs

Solide Steuerungsmöglichkeiten haben Finanzdienstleister derzeit nur, wenn es um selbst erhobene oder eingekaufte Daten geht. In der Regel greift die Branche auf einen riesigen Pool externer Datenquellen zu: Marktdatensysteme, Echtzeit-Finanzdaten, Wertpapierstammdaten, Steuerdaten etc. Bei diesen eingekauften Daten liegt die Gewährleistungspflicht im Zweifel beim Provider – oft gestützt auf langjährige Vertrauensverhältnisse.

Kommentar von Daniel Esser, QUNIS

Der EU Data Act – warum Unternehmen mehr als nur juristische Compliance brauchen

Bessere Steuerungsmöglichkeiten haben Finanzdienstleister bei selbst erhobenen KI-Daten. Allerdings gilt auch hier: Besonders generative KI ist immer nur so gut wie ihre Datengrundlage. Damit die KI – etwa im wichtigen Customer Channel – funktioniert, müssen Kundendaten und -historie in Gestalt persönlicher Daten, Kontobewegungen, Kredite und anderer Leistungen sowie die bisherige Korrespondenz zwischen Kunde und Bank so umfassend wie möglich erfasst sein. Zusätzlich sollten Unternehmen die entsprechenden APIs (Application Programming Interfaces) installieren, die der KI den Zugriff auf alle Daten und Systeme ermöglichen.

Um die Nutzung von KI nach außen zu optimieren, hilft die Technologie auch beim internen Datenmanagement: Die automatisierte Datenverarbeitung erhöht die Datenqualität, da die Fehlerquelle „Mensch“ ausgeschlossen wird (etwa beim Datentransfer). Zudem erkennt KI in den Datensätzen Muster und Anomalien, ermöglicht effiziente Analysen und die sichere Verwaltung von Daten. Darüber hinaus unterstützt sie Finanzdienstleister dabei, ihre oft heterogenen und dezentralen Datensätze anzugleichen, sodass jede Filiale und internationale Zweigstelle auf den gleichen, einheitlichen Datenpool zugreift – die Grundvoraussetzung für effiziente KI-Use-Cases. Ähnlich wie die Marsmission ist ein solches Projekt eine große Herausforderung – personell, zeitlich und finanziell. Doch die einzige Alternative wäre, dass das Flaggschiff KI als Weltraumschrott endet.

Europäische Rechtsgrundsätze für KI-Systeme

Absolute Sicherheit wird es im Bereich der KI vermutlich nie geben: Es kann immer zu sogenannten Halluzinationen eines Systems kommen, also zu Trugschlüssen aufgrund falscher Berechnungen. Denn KI errechnet Wahrscheinlichkeiten, keine mathematischen Wahrheiten. Wenn der Nutzen den Schaden langfristig überwiegt, stellt das für die Finanzwelt kein grundsätzliches Problem dar.

Jede KI-Entscheidung vom Menschen überprüfen zu lassen, ist ein hehres Ideal – jedoch in der Praxis nicht umzusetzen. Würde für jeden Chatbot in Zukunft ein Mitarbeiter zur Qualitätskontrolle abgestellt, hätte sich der Mehrwert der Technologie in Luft aufgelöst, denn KI sorgt nur dann für Wertschöpfung, wenn sie Automatisierung ermöglicht.

Kommentar von Christian Nern, Markus Hupfauer & Julian Krautwald, KPMG FS

Warum KI-Manipulation so gefährlich ist und wie Unternehmen sich schützen

Zum existenziellen Problem für Banken, Versicherungen und Asset Manager werden KI-Pannen dann, wenn die Fehlerquellen ein exponentielles Wachstum einleiten: etwa aufgrund sich potenzierender Fake News aus dem Internet oder fehlerhafter Trainingsdaten. Denn wenn Falschinformationen einem selbstlernenden System als Grundlage dienen, werden die Ungenauigkeiten so groß, dass ganze Prozesse scheitern.

Um dem entgegenzuwirken, ist auch die Politik gefragt: Seit rund zehn Jahren unterliegen US-Social-Media-Plattformen europäischen Rechtsgrundsätzen – etwa mit Blick auf den Umgang mit Hassrede und Falschinformationen. Im Bereich der KI ist eine ähnliche Entwicklung erforderlich. Verbindliche Offenlegungsstandards für KI-Trainingsdaten – idealerweise auch rückwirkend – wären ein wichtiger Schritt in Richtung Transparenz und Qualitätssicherung. Damit der Finanzsektor auch künftig verlässlich arbeiten kann, ist weiterhin intensive Abstimmung zwischen den USA und der EU notwendig.

(ID:50534897)