Definition Was ist Descriptive mAchine Learning EXplanations (DALEX)?

Anbieter zum Thema

Fsas Technologies GmbH

Board Deutschland GmbH

INFOMOTION GmbH

DALEX ist ein Open-Source-Toolset, mit dem sich die Arbeitsweise und das Vorhersageverhalten von komplexen Machine-Learning-Modellen erklären lassen. Es gewährt Einblick in die Funktionsweise der KI-Modelle und kommt im Bereich der Explainable Artificial Intelligence (XAI) zum Einsatz.

DALEX ist die Kurzform für Descriptive mAchine Learning EXplanations. Es handelt sich um ein Open-Source-Toolset, das im Bereich der Explainable Artificial Intelligence (XAI) zum Einsatz kommt. Mithilfe von DALEX lassen sich die Arbeitsweise und das Vorhersageverhalten von komplexen Machine-Learning-Modellen besser erklären. DALEX ist modellagnostisch anwendbar und gewährt Einblick in die Funktionsweise beliebiger Black-Box-KI-Modelle. Es stellt einen Link zwischen den Eingabevariablen und dem Output eines KI-Modells her.

Veröffentlicht wurde DALEX im Jahr 2018 als Paket für die Programmiersprache R von einem Forscherteam um Przemyslaw Biecek an der University of Technology in Warschau. Der Titel der Veröffentlichung ist „DALEX: Explainers for Complex Predictive Models in R“. Biecek und das Forscherteam verwendeten das Kürzel in einer späteren Veröffentlichung für „moDel Agnostic Language for Exploration and eXplanation“. DALEX ist inzwischen Bestandteil von DrWhy.ai, einer Sammlung von Tools für Explainable AI, und auch als Python Package implementiert.

Explainable Artificial Intelligence

Die deutsche Übersetzung für Explainable Artificial Intelligence, abgekürzt XAI, lautet erklärbare Künstliche Intelligenz. Das Gegenteil einer erklärbaren Künstlichen Intelligenz ist die Black-Box-KI. Bei Explainable Artificial Intelligence handelt es sich um ein KI-Forschungsgebiet und eine Form von Künstlicher Intelligenz, die die für den Menschen intransparenten inneren Abläufe und schwer nachvollziehbaren Vorhersageprozesse komplexer Black-Box-KI-Modelle transparent und besser erklärbar machen soll. Durch die Explainable Artificial Intelligence soll das Vertrauen von menschlichen Usern in die Künstliche Intelligenz und die Anwendung ihrer Vorhersagen und Ergebnisse gestärkt werden. Letztendlich steigert eine erklärbare Künstliche Intelligenz die Akzeptanz von KI-Anwendungen und Machine-Learning-Modellen. Weitere Ziele einer Explainable Artificial Intelligence sind ein verantwortungsvoller Umgang mit Künstlicher Intelligenz, mehr ethische Fairness und die Erfüllung von Gesetzesvorgaben oder Compliance-Richtlinien.

Zur Erklärung der inneren Abläufe und des Vorhersageverhaltens einer komplexen Black-Box-KI, beispielsweise basierend auf Deep-Learning-Modellen, können verschiedene Verfahren, Techniken und Toolsets zum Einsatz kommen. Neben DALEX existieren Verfahren wie LIME (Local Interpretable Model-Agnostic Explanations), SHAP (SHapley Additive exPlanations), LRP (Layer-wise Relevance Propagation) und andere. Alle diese Verfahren tragen dazu bei, den Zielkonflikt zwischen einer hohen Leistungsfähigkeit der KI und der Nachvollziehbarkeit ihrer Arbeitsergebnisse aufzulösen. Denn je performanter ein KI-Modell ist, desto weniger nachvollziehbar sind in der Regel die inneren Abläufe und die Arbeitsergebnisse des Modells. Dementgegen erzielen transparente Modelle mit für den menschlichen Nutzer nachvollziehbarer Arbeitsweise oft nicht die gewünschte Leistungsfähigkeit.

Funktionsweise von Descriptive mAchine Learning EXplanations

DALEX arbeitet modellagnostisch. Das bedeutet, dass DALEX für beliebige Machine-Learning-Modelle einsetzbar ist. Jedes Modell wird unabhängig von seiner Komplexität als Black Box betrachtet. Für DALEX von Relevanz sind nur die Eingaben und die Ausgaben der zu erklärenden Modelle und nicht die konkreten inneren Abläufe. Das DALEX-Toolset stellt verschiedene Methoden zur Verfügung, um den Zusammenhang zwischen den Eingabevariablen und dem Output eines Modells besser zu verstehen. Mit DALEX lässt sich aufzeigen, wie Veränderungen der Eingabedaten den Output eines KI-Modells beeinflussen.

Die prinzipielle Funktionsweise von DALEX lässt sich in vereinfachter Form folgendermaßen beschreiben:

Ausgangspunkt ist ein beliebiges KI-Modell mit definierter Ein- und Ausgabe. Das Modell wird in ein sogenanntes Explainer-Objekt konvertiert. Es handelt sich dabei um eine Art Liste, die Trainings- und Metadaten des Modells enthält. Das erstellte Explainer-Objekt kann an verschiedene Funktionen übergeben werden, die unterschiedliche Aspekte des Modells erklären. Es wird quasi eine Art Wrapper um das Modell erzeugt. In dieser Form kann es dann genauer untersucht werden. Erklärungen sind unter anderem in visueller Form zum Beispiel als Aufschlüsselungsdiagramme verfügbar. Mit DALEX lassen sich sowohl die Gesamtmodellarbeitsweise als auch einzelne Vorhersagen erklären. Bei der Betrachtung der Gesamtmodellarbeitsweise wird die Struktur des trainierten Modells erklärt. Der Anwender erhält Einblick in das Trainings-Dataset und wie die Variablen der Trainingsdaten allgemein zur Vorhersageleistung beitragen. Bei der Erklärung von Einzelvorhersagen werden die Variablen aufgezeigt, die maßgeblichen Anteil an der untersuchten spezifischen Vorhersage haben.

Vorteile von Descriptive mAchine Learning EXplanations

• erklärt das Vorhersageverhalten und die Entscheidungsprozesse von komplexen Black-Box-Modellen

• unterstützt lokale und globale Erklärungsmethoden

• liefert Erklärungen auch in visualisierter Form

• ist modellagnostisch und unabhängig von der Art des zu erklärenden Modells anwendbar

• in R und Python verfügbares Open-Source-Toolset

• trägt dazu bei, das Vertrauen in Künstliche Intelligenz zu stärken

• ermöglicht das Finden und Beseitigen von Bias oder Fehlern in den Modellen

• macht Modelle besser vergleichbar

(ID:50162424)