Kommentar von Brendan Bonner, IDA Ireland Mit KI-Scorecards verantwortungsvolle KI sicherstellen

Von Brendan Bonner

Die Möglichkeiten der wirtschaftlichen Entwicklung durch künstliche Intelligenz (KI) sind gewaltig und erstrecken sich über mehrere Branchen. So soll das deutsche Bruttoinlandsprodukt PWC zufolge bis 2030 allein durch KI-basierte Lösungen um mehr als 11 Prozent steigen. Doch KI ist ein Werkzeug, mit dem vorsichtig umzugehen ist. Wie können Unternehmen sicherstellen, dass sie gut aufgestellt sind, um die potenziellen Vorteile zu nutzen und gleichzeitig die Herausforderungen zu bewältigen?

Anbieter zum Thema

Der Autor: Brendan Bonner ist Chief Technologist bei IDA Ireland
Der Autor: Brendan Bonner ist Chief Technologist bei IDA Ireland
(Bild: MAXWELLS DUBLIN)

Eine Aufgabe besteht darin, sich an die neuen Vorschriften anzupassen. Im April 2021 legte die EU-Kommission einen Entwurf für den weltweit ersten Rechtsrahmen für vertrauenswürdige Künstliche Intelligenz vor. Er soll dafür sorgen, dass in der EU eingesetzte KI-Systeme sicher, transparent, ethisch vertretbar, unparteiisch und unter menschlicher Kontrolle sind. Um zu beurteilen, wie Firmen die neuen Anforderungen erfüllen und um das Potenzial, das Risiko und die Bereitschaft ihrer Lösungen zu ermitteln, entwickeln große Unternehmensberatungen „KI-Scorecards“, also Bewertungsbögen, die dabei helfen sollen, die Vertrauenswürdigkeit der KI-Lösungen zu beurteilen und festzustellen, wie sie im Vergleich zu den EU-Anforderungen und -Standards abschneiden.

Vielfältige Möglichkeiten

KI verfügt über enormes Potenzial, um Prozesse in verschiedenen globalen Geschäftsbereichen zu verbessern, indem sie für stärkere Automatisierung, strategische Einsichten und bessere Entscheidungsfindung sorgt. Die ersten KI-Anwendungen wurden in der Finanztechnologie zur Vorhersage und zum Risikomanagement eingesetzt, aber sie verbreiteten sich schnell, um auch in anderen Branchen Herausforderungen zu lösen.

Die Medizintechnik, die mit der Einführung von KI in den Bereichen Design, Analyse und Diagnostik begonnen hat, musste sich schnell an bewährte KI-Verfahren anpassen, um eine Vielzahl von globalen Lieferproblemen zu bewältigen. In der Pharmaindustrie wurde verstärkt in KI für die Entwicklung und Personalisierung von Arzneimitteln investiert, während die traditionelle diskrete Fertigung durch Fortschritte in der Sensorik und Kommunikation Lösungen für die Industrie 4.0 entwickeln konnte, die ganze Prozesse optimieren.

Das Bewusstsein für das Potenzial von KI wächst weiterhin schnell – einer Umfrage zufolge hatten 39 Prozent der Erwachsenen im Jahr 2018 Angst vor KI, während im Jahr 2020 rund 70 Prozent Künstliche Intelligenz in der einen oder anderen Form begrüßen. Das eröffnet Dienstleistern, Integratoren und Unternehmen enorme Möglichkeiten, bringt aber auch Verpflichtungen und Verantwortlichkeiten mit sich, um zu gewährleisten, dass KI-Systeme, wo immer sie mit der Gesellschaft interagieren, sowohl ethisch als auch verantwortungsvoll sind. Daher ist es von entscheidender Bedeutung, dass Unternehmen über Kontrollmechanismen verfügen, die sicherstellen, dass ihre Systeme erklärbar, rechenschaftspflichtig und vertrauenswürdig sind.

Starke Steuerung

Der erste Schritt zu einer starken Steuerung von KI-Lösungen besteht darin, den Algorithmus, das Modell und den Entscheidungsprozess zu verstehen. In diesem Zusammenhang ist es sinnvoll, Konzepte wie Materiality zu verwenden. Materiality beschreibt das Ausmaß der Auswirkungen einer falschen KI-Entscheidung: Je größer die potenziellen Konsequenzen eines KI-Fehlers sind, desto größer ist die Materiality. Vergleichen man beispielsweise die möglichen Auswirkungen eines Fehlers bei einer Operation (hohe Materiality) mit den Folgen eines Fehlers bei der Kategorisierung von Kundendaten zu Verwaltungszwecken (geringe Materiality). Die Bewertung der Materiality ist wichtig, da sie das nötige Maß an Kontrolle angibt, um sicherstellen zu können, dass die Ergebnisse einer KI-Lösung für die Einsatzumstände zuverlässig genug sind.

Ein verwandtes Konzept ist die Erklärbarkeit. Es beschreibt, wie einfach es ist, den Prozess hinter einer von einem KI-Tool getroffenen Entscheidung zu erklären. Dazu gehört die Fähigkeit, den Lernpfad zu verstehen und zu erklären – also die Prinzipien, die das System verwendet, um Muster zu erkennen – und wie Abweichungen Entscheidungen beeinflussen können. Eine grundlegende Regel besagt, dass je höher die Materiality ist, desto größer ist der Bedarf an Erklärbarkeit für diese Aktion oder Entscheidung.

Den Stand der Dinge kennen

Die größte Herausforderung für Unternehmen, die KI als Teil ihres Geschäftsbetriebs implementieren wollen, besteht jedoch darin, sicherzustellen, dass ihre Lösungen bereit sind. Sie müssen in vielerlei Hinsicht vorbereitet sein, weit über Daten und Algorithmen hinausgehend. Die Geschäftsleitung muss sich dessen bewusst und die Geschäftsstrategie entsprechend ausgerichtet sein, damit eine Lösung erfolgreich von der Pilotphase in den Einsatz und Betrieb übergehen kann. Das muss durch ein umfassendes Verständnis über die rechtlichen und ethischen Implikationen des KI-Einsatzes unterstützt werden.

Vor diesem Hintergrund sind sogenannte „KI-Scorecards“ ein Instrument, das zunehmend an Bedeutung gewinnt und Unternehmen dabei hilft, ihre praktische Bereitschaft für die Umsetzung sowie die Einhaltung der EU-Anforderungen zu bewerten. Ähnlich wie Business-Scorecards, die eine klare, oft grafische Darstellung des Fortschritts anhand zuvor vereinbarter Kennzahlen liefern, können KI-Scorecards in einfachen Worten erklären, wie bereit ein Unternehmen für den Einsatz eines neuen KI-Tools ist. Dazu gehören die Identifizierung der Risikoelemente, die daraus resultierenden obligatorischen Konformitätsbewertungen und die Bestimmung der Materiality.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung

Jede Branche hat ihre eigenen Metriken, die für die Bewertung der KI-Bereitschaft von Bedeutung sind. Einer der Hauptvorteile einer KI-Scorecard besteht darin, aufzuzeigen, ob die aktuellen und geplanten KI-Systeme von den bevorstehenden Verpflichtungen des europäischen KI-Gesetzes abgedeckt sind, oder ob das Unternehmen beginnen muss, den Prozess für den Einsatz von KI-Lösungen oder -Dienstleistungen zu dokumentieren oder zu verbessern.

Darüber hinaus können Unternehmen mit Hilfe von Scorecards einen Rahmen festlegen, um sich auf jede Phase der Einführung und Anwendung eines neuen KI-Tools vorzubereiten. Firmen können sich als Nutzer oder Anbieter dieser Tools betrachten; die neue Compliance-Verpflichtung wird eine Bewertung der gesamten Wertschöpfungskette erfordern. Scorecards zeigen diese Risiken in einer für das Unternehmen verständlichen Weise auf.

Optimierung der Leistung

Unternehmen, die sich einen Vorsprung verschaffen und bei den Bewertungskriterien für KI-Scorecards gut abschneiden wollen, können mit der Prüfung der zusammenfassenden Dokumente der Branche über den Umfang von KI-Systemen beginnen, um ihren aktuellen Stand zu ermitteln. Um die Fairness und Erklärbarkeit ihrer Tools zu ermitteln, können KI-Praktiker sogenannte Fairness-Toolkits nutzen – Tools, die KI-Modelle und Quelldaten durchlaufen, um sicherzustellen, dass keine algorithmischen Verzerrungen eingeführt werden. Diese können helfen, potenzielle Risiken zu erkennen und festzustellen, ob die Ergebnisse vollständig nachvollziehbar sind. Schließlich sollte das Unternehmen prüfen, ob für alle Modelle, die in irgendeinem Umfang eingesetzt werden, bewährte Verfahren für den Betrieb des maschinellen Lernens angewandt werden.

Mithilfe dieser Schritte, der Verwendung von KI-Scorecards und entsprechender Vorbereitung werden Unternehmen gut aufgestellt sein, wenn die Umsetzung des europäischen KI-Gesetzes in Kraft tritt. Das wird ihnen helfen, wettbewerbsfähig zu bleiben und sicherzustellen, dass sie als Beispiel für eine ethische, nachhaltige und verantwortungsvolle Nutzung von KI und datenbasierten Systemen angesehen werden.

Für die Gesellschaft sind die Vorteile dieser Art von proaktivem Handeln größer: zuverlässigere Infrastruktur und sichererer Verkehr, größere Nachhaltigkeit von Produkten, leichterer Zugang zu vertrauenswürdigen Informationen und eine Verringerung der globalen Treibhausgasemissionen, um nur einige Beispiele zu nennen. Allerdings wird sich KI nur dann durchsetzen, wenn sie von Verbraucherinnen und Verbrauchern und der breiten Öffentlichkeit unterstützt wird. Jede Innovation hat eine Akzeptanzkurve und große Unbekannte – wie z. B. KI-Black-Boxen – verlängern die Zeit, die eine Technologie benötigt, um sich als alltäglich zu etablieren. Das Aufkommen von KI-Scorecards sowie von Verantwortungs- und Fairness-Mappings zeigt, dass Unternehmen sich dessen nicht nur bewusst sind, sondern sich auch dazu verpflichten, ihre Lösungen proaktiv und transparent zu messen, um eine angemessene Bereitschaft zu gewährleisten, so die Einführung zu beschleunigen und gleichzeitig verantwortungsbewusst zu bleiben.

Artikelfiles und Artikellinks

(ID:48026512)