Kommendes KI-Gesetz der EU KI-Regulierung – Pegasystems hat Tipps für Banken parat

Anbieter zum Thema

Pegasystems GmbH

Fsas Technologies GmbH

INFOMOTION GmbH

QUNIS GmbH

Der „AI Act“ der Europäischen Union ist im Anrollen: Der Rechtsrahmen steht bis auf technische Details, danach ist noch die Zustimmung des Europäischen Parlaments und der EU-Länder erforderlich. Pegasystems sieht darin aber nur den Auftakt für weitere KI-Regularien und rät Banken unter anderem, schon jetzt an den richtigen Stellen für Transparenz zu sorgen.

Mit dem Gesetz will die EU sicherstellen, dass in ihren Mitgliedstaaten eingesetzte KI-Systeme sicher, fair und transparent arbeiten. Betroffen sind auch Banken: Der Rechtsrahmen sieht strenge Auflagen für Systeme vor, die ein hohes Risiko für die Grundrechte von Menschen darstellen. Dazu gehören auch Systeme für Kreditscorings, warnt Michael Baldauf, Industry Architect/Strategist Financial Service EMEA von Pegasystems.

Das Gesetz sei begrüßenswert, weil es einen ersten Rahmen dafür schaffe, welche KI erwünscht und welche unerwünscht ist. „Davon werden auch Banken profitieren, denn wenn verbindlich geklärt ist, was sie mit Künstlicher Intelligenz tun dürfen und was nicht, steigt das Sicherheitsgefühl ihrer Kunden, weil sie darauf vertrauen, dass ihre Bank beim Einsatz von KI ihre Rechte nicht verletzt“, so Baldauf. Der Experte erwartet, dass auf den „EU AI Act“ weitere Regelwerke auf europäischer Ebene folgen werden. In Deutschland werde zum Beispiel bereits über eine Art „KI-TÜV“ und ein Siegel „AI made in Germany“ nachgedacht. In anderen Ländern sehe es ähnlich aus – Banken müssen sich deshalb mit dem Thema auseinandersetzen, falls sie dort Geschäfte machen wollen.

Frühzeitig Transparenz herstellen

Baldauf rät Banken dazu, schon jetzt in den richtigen Bereichen für Transparenz zu sorgen. Diese sei mit Abstand der wichtigste Aspekt des „EU AI Act“ und werde es auch bei allen künftigen KI-Vorgaben sein. Dies werde aber nicht per se beim KI-Einsatz gefordert. So sei es zum Beispiel bei Process AI, dem Erstellen einer App durch generative KI oder der Erstellung einer Überweisung aus einer Rechnung völlig unerheblich, wie die KI zu ihren Ergebnissen kommt. Wichtig sei nur, dass sie am Ende von Menschen geprüft und validiert werden.

Anders sehe es dagegen aus, falls Banken prädiktive KI für automatisierte Entscheidungen nutzen. „Natürlich werden Banken auch künftig KI-gestützte Kreditentscheidungen treffen dürfen – sie müssen aber jederzeit nachweisen können, wie diese Entscheidungen zustande gekommen sind, begründen können, warum ein Kredit genehmigt oder abgelehnt wurde, und aufzeigen können, dass sie dabei kein Profiling betrieben haben“, erklärt Baldauf. Derartige Transparenz werde in allen Fällen erforderlich sein, in denen Banken KI für Geschäftsentscheidungen einsetzen und dabei Daten verarbeiten, die Regularien wie MaRisk, der DSGVO oder Verbraucherschutzgesetzen unterliegen.

KI-Verfahren prüfen und Auditierbarkeit sicherstellen

Der Experte rät den Banken zu zwei Maßnahmen: Zum einen sollten sie in fraglichen Bereichen eingesetzte KI-Verfahren auf den Prüfstand stellen. Viele Machine-Learning- und Deep-Learning-Methoden seien per se intransparent und würden es unmöglich machen, ihre Entscheidungen nachzuvollziehen. Dementsprechend sollten Banken derartige Verfahren ausschließen.

Zum anderen empfiehlt Baldauf den Einsatz von Software-Tools, die eine automatische Auditierbarkeit bieten. Dadurch können sie auch nach langer Zeit noch aufzeigen, wie eine Entscheidung zustande kam. Verfügbare Lösungen können bis auf die Ebene einzelner Datenfelder nachweisen, was genau zu einem bestimmten Zeitpunkt und auf welche Art mit was für einem KI-Modell entschieden wurde. Einem Prüferbesuch können Banken laut Baldauf dann gelassen entgegensehen.

(ID:49934650)