Kommentar von Frank Cappel, Coupa Erklärbare KI – eine Frage von Zusammenarbeit und Vertrauen

Anbieter zum Thema

Coupa Deutschland GmbH

Board Deutschland GmbH

INFOMOTION GmbH

BigData-Insider

Die Sorge, dass sensible Daten in falsche Hände geraten, ist in Unternehmen groß. Um diese zu schützen, treffen sie strenge Sicherheitsvorkehrungen. Auch bei der Einführung von ChatGPT gab es zunächst Bedenken: Sollte man einem KI-Modell das wertvollste Gut anvertrauen? Einige Unternehmen überlegten, eigene On-premises-KI-Modelle zu entwickeln, um KI sicher zu nutzen. Unabhängig davon, ob ChatGPT oder eigene Modelle verwendet werden, ist es wichtig, zu verstehen, wie die KI Entscheidungen trifft – und diese erklärbar zu machen.

Künstliche Intelligenz wird häufig als eine undurchsichtige „Blackbox“ beschrieben, die abgekapselt von Menschen und Geschäftsprozessen agiert und bei der unklar bleibt, wie genau sie einzelne Entscheidungen trifft. Tatsächlich gibt es in der Softwarebranche – also selbst unter denjenigen, die alltäglich KI und Datensätze nutzen – oft wenig Klarheit darüber, wie genau die Technologie arbeitet.

Dabei werden immer mehr Entscheidungen und Prozesse in Unternehmen durch Algorithmen und Machine-Learning-Ansätze unterstützt – sei es in Bewerbungsverfahren, in der Kundenkommunikation oder bei Budgetentscheidungen in den Finanzabteilungen. Diese algorithmischen Entscheidungssysteme analysieren Daten und schlagen Lösungen für spezifische Herausforderungen oder Anwendungsbereiche vor. Sie arbeiten entweder auf Basis vordefinierter Regeln und Vorlagen oder sie nutzen vorhandene Daten, um selbstlernend neue Lösungsansätze zu entwickeln. Klar ist jedoch: Je komplexer diese selbstlernenden Mechanismen der Künstlichen Intelligenz werden, desto schwieriger wird es, nachzuvollziehen, wie genau das System zu seinen Entscheidungen und Schlussfolgerungen gelangt ist.

Künstliche Intelligenz besser verstehen

KI-gestützte Lösungen können beispielsweise umfassende Finanzprozesse grundlegend transformieren – von der Beschaffung über die Rechnungsbearbeitung bis hin zum Lieferantenmanagement und zur Risikobewertung. Allerdings erfordert der Einsatz solcher Technologien klare ethische Leitlinien, um sicherzustellen, dass Fortschritte nicht auf Kosten von Sicherheit, Datenschutz oder Objektivität gehen. Denn ohne starke ethische Richtlinien kann KI auch unerwünschte Folgen wie verzerrte Lieferantenbewertungen, Datenschutzverletzungen und eben eine undurchsichtige Entscheidungsfindung nach sich ziehen. Ein zentraler Ansatz, um diesen Anforderungen gerecht zu werden, ist der Einsatz erklärbarer KI.

Erklärbarkeit erhöht die Transparenz und trägt dazu bei, dass Anwender KI-gestützte Entscheidungen nachvollziehen und ihnen dadurch vertrauen können. Dazu gehören ein interpretierbarer Entscheidungsprozess und klare Begründungen von KI-Empfehlungen. Erklärbare KI zielt also darauf ab, die von Algorithmen erzeugten Ergebnisse für menschliche Nutzer verständlich und so vertrauenswürdig zu machen.

Community Intelligence als Grundlage

Hier gilt es zunächst bei den zugrundeliegenden Daten anzusetzen: Jede KI ist nur so gut wie die Daten dahinter. Dieser Grundsatz wird seit dem gehäuften Aufkommen von KI-Tools immer wieder hervorgehoben. Zu Recht, denn er trifft auch zu: Um das volle Potenzial von KI auszuschöpfen, reicht es nicht aus, lediglich modernste Lösungen bereitzustellen. Es ist ebenso wichtig, Zugriff auf die richtigen Daten zu haben.

Denn nur durch den Zugang zu relevanten und aktuellen Informationen können KI-Modelle präzise und nachvollziehbare Ergebnisse liefern. Im Rahmen der erklärbaren KI stellt die Nutzung der richtigen Daten sicher, dass Entscheidungen auf einer breiten, qualitativ hochwertigen und vielfältigen Datenbasis getroffen werden. Unternehmen sollten hier auch über die eigenen Firmengrenzen hinwegsehen – Stichwort: Community Intelligence. Schließlich mag es zwar Organisationen geben, die über umfassende Daten verfügen, doch die Entwicklung und das Training erklärbarer KI profitieren erheblich von der Vielfalt und Breite kollektiver, anonymisierter Daten. Community Intelligence ermöglicht den Austausch und die Nutzung kollektiver, anonymisierter Daten, wodurch Verzerrungen minimiert und Transparenz gefördert werden. Das sind wesentliche Voraussetzungen, um die Funktionsweise von KI verständlich und vertrauenswürdig zu gestalten.

Kontinuierliche Optimierung durch Dokumentation

Eine klare und umfassende Dokumentation aller Datenquellen, Algorithmen und Entscheidungsprozesse ist ebenso unerlässlich, um die Herkunft und Grundlagen von KI-Entscheidungen offenzulegen. Zusätzlich sollten Unternehmen sicherstellen, dass klare ethische Vorgaben für den Umgang mit KI eingehalten werden, um die Integrität und Vertrauenswürdigkeit ihrer Algorithmen zu gewährleisten. Regelmäßige Audits und Echtzeitprüfungen sichern die Einhaltung dieser Standards, indem sie problematische Entscheidungen oder potenziell fehlerhafte Algorithmen identifizieren und überprüfen.

Da sich Produktionsdaten oft von den Trainingsdaten unterscheiden, kann die Leistung von KI-Modellen im Einsatz abweichen oder nachlassen. Deshalb ist es für Unternehmen essenziell, Modelle kontinuierlich zu überwachen und zu verwalten, um die Erklärbarkeit der KI nachhaltig sicherzustellen und gleichzeitig ihren geschäftlichen Nutzen zu messen. Die Anwender behalten dabei jederzeit die Kontrolle über die KI-gestützten Prozesse, indem sie Entscheidungen prüfen und anpassen können. So bleibt der Mensch stets in den Entscheidungsprozess eingebunden.

Schlüssel zum Erfolg

Mit einem ganzheitlichen Ansatz der erklärbaren KI, der die Auswahl der richtigen Daten mit robusten Sicherheitsvorkehrungen kombiniert, können Unternehmen nicht nur ihre Geschäftsziele effizienter erreichen, sondern auch die Rechte und Interessen aller Beteiligten wahren. Das Prinzip der erklärbaren KI ermöglicht Einblicke in Entscheidungsprozesse und schafft Transparenz über die Berechnungen und Ergebnisse. Dies bildet die Grundlage für fundierte Entscheidungen, die Vertrauen schaffen – eine unverzichtbare Voraussetzung für nachhaltigen Erfolg in einer zunehmend datengetriebenen Welt.

(ID:50263136)