Kommentar von Axel Demel, Qdive KIDD – ein Prozess zur Gestaltung ethischer KI

Anbieter zum Thema

Q_PERIOR AG

Bissantz & Company GmbH

Fujitsu Technology Solutions GmbH

Xpand Solutions GmbH

Die Einsatzmöglichkeiten von Künstlicher Intelligenz sind schier unendlich groß. Doch dürfen ethische Aspekte nicht vergessen werden: Fragen der Diversität und damit der Fairness sind ebenso wichtig wie Funktionalitäten. Genau damit beschäftigt sich das Projekt „KIDD – Künstliche Intelligenz im Dienste der Diversität“.

KIDD klingt fast wie K.I.T.T. Doch anders als das mit Künstlicher Intelligenz ausgestattete Allrounder-Auto des 80er-Jahre-Serienhelden Michael Knight aus der beliebten Serie „Knight Rider“ befasst sich KIDD nicht mit Action und Verbrecherjagd, sondern mit Fragen des Zusammenspiels von KI und Diversität. KIDD steht für „Künstliche Intelligenz im Dienste der Diversität“. Dahinter steht ein dreijähriges Forschungsprojekt des Bundesministeriums für Arbeit und Soziales (BMAS) unter dem Dach der Initiative Neue Qualität der Arbeit (INQA), das von einem breit aufgestellten Konsortium umgesetzt wird. Dazu gehören auch die Data-Science-Schmiede Qdive und das Mutterunternehmen Q_Perior.

KIDD soll künftig vor allem dort zum Einsatz kommen, wo es um Menschen geht – also bei sogenannter menschenzentrierter KI. Spannende Einsatzgebiete sind etwa die Einsatzplanung von Personal oder der Aufbau von Matching-Plattformen. Bei solch sensiblen Themen ist es essenziell, dass KI möglichst fair und diskriminierungsfrei arbeitet. Doch wie kann das gelingen? Und wie muss KI gestaltet werden, damit der Trade-off zwischen Effizienz und Betrachtung der Einzelperson gelingt?

Die Kernfragen, die für KIDD beantwortet werden müssen, lauten daher: Wie lassen sich KI-Systeme so aufbauen, dass ihre Entscheidungen für den Menschen transparent dargestellt werden? Wie lässt sich verhindern, dass sich diskriminierende Daten im Lernprozess des Algorithmus weiter verfestigen, und wie wird nachvollziehbar, dass KI tatsächlich diskriminierungsfrei arbeitet? Kurz: Wie lässt sich Künstliche Intelligenz so gestalten, dass Fairness und Fragen der Diversität bei Entscheidungen ausreichend berücksichtigt werden?

Menschenzentrierte KI und wie sie diskriminierungsfrei gestaltet werden kann

Dass auch KI schnell zu Diskriminierung beitragen kann, lässt sich gut an einem Beispiel aus dem Projektgeschäft skizzieren: Hier ist entscheidend, die jeweils am besten geeigneten Mitarbeiterinnen und Mitarbeiter mit den für sie am besten passenden Aufgaben zusammenzubringen. Ein anspruchsvolles Unterfangen, das viel Zeit und Ressourcen bindet und das gut auch von Software erledigt werden kann. Dabei entsteht jedoch die Gefahr der Diskriminierung: Es muss sichergestellt werden, dass tatsächlich die jeweils besten Kandidaten und Kandidatinnen ausgewählt werden.

Das birgt große Herausforderungen hinsichtlich der Kriterien, auf deren Grundlage die KI Entscheidungen und Zuordnungen trifft. Je nachdem, welche Parameter priorisiert werden, können die Ergebnisse unterschiedlich ausfallen. Zählen zum Beispiel Berufsjahre stärker als Skills, werden Entscheidungen zugunsten der Älteren getroffen. Wird dagegen priorisiert, wann das letzte Projekt abgeschlossen wurde, basierend auf der Prämisse, dass je kürzer das Projekt her ist, die spezifischen Fachkenntnisse noch frisch sind, werden Mitarbeiter, die gerade aus der Elternzeit kommen oder in Teilzeit arbeiten, benachteiligt. Mit dem Einsatz von KIDD soll erprobt werden, wie im Einführungsprozess von KI solche Probleme identifiziert und behoben werden können.

Stufe 1, das Buddy Matching

Um den KIDD-Prozess operativ zu erproben, hat Q_Perior im eigenen Haus einen so genannten Experimentierraum geschaffen. Verprobt wird ein Projekt mit dem Titel „Buddy Matching“, das beim Onboarding neuer Mitarbeiterinnen und Mitarbeiter zum Einsatz kommt. Konkret geht es darum, Neuzugänge bei Q_Perior mit Kollegen und Kolleginnen zu vernetzen, die dann als Mentoren dabei helfen, gut im Unternehmen anzukommen. Das Q_Buddy Matching hat dabei die Aufgabe, automatisiert auf Basis verschiedener sozialer Präferenzen die jeweils am besten passenden Matches zu finden. Mit Erfolg: Monat für Monat entstehen dabei neue Matches, viele Verbindungen zwischen Kolleginnen und Kollegen überdauern den initialen Onboarding-Prozess und haben sich sogar zu Freundschaften weiterentwickelt. Damit hat sich das Q_Buddy Matching bereits als wertvolles Tool für die Mitarbeiterbindung erwiesen.

Nächster Schritt: Capability-Matching

Aktuell werden die Möglichkeiten des Matchings auf die nächste Stufe gehoben: Beim Capability Matching geht es darum, offene Positionen in Projekten bestmöglich zu besetzen. Dafür werden Projektanfragen und Mitarbeiter anhand ihrer Skills, Kenntnisse, Wünsche und Verfügbarkeiten automatisiert zusammengebracht. Um eine gute Datengrundlage zu schaffen, müssen die Beschäftigten dafür detaillierte Lebensläufe zur Verfügung stellen.

Beim Matching-Prozess gibt es auf dieser Stufe der Erprobung zusätzliches Potenzial für Diskriminierung. Deshalb muss die Priorisierung der Parameter fein justiert werden: Was soll schwerer wiegen, zeitlich bemessene Erfahrung oder die Qualität der Ausbildung? Sollen und dürfen Alter und Geschlecht der Kandidatinnen und Kandidaten eine Rolle spielen? Inwiefern ist es sinnvoll, neben quantitativen Kriterien auch qualitative einzuarbeiten und wie kann das konkret aussehen und gelingen? All das sind Fragen, die derzeit mithilfe des KIDD-Prozesses gelöst werden.

Panel der Vielfalt: Menschliche Unterstützung für die KI

Schnell wurde dabei klar, dass KI ohne menschliche Kontrolle nicht diskriminierungsfrei arbeiten kann. Deshalb hat Q_PERIOR das sogenannte Panel der Vielfalt gegründet: eine Jury mit aktuell 17 Mitgliedern, die möglichst divers zusammengesetzt sind, was Geschlecht, Alter, Bildungsabschlüsse und Migrationshintergrund, aber auch Organisationseinheiten bei Q_Perior betrifft. Das Gremium soll sicherstellen, dass die Einführung von menschenzentrierter KI aus möglichst vielen Perspektiven kritisch begleitet und ethische Fragestellungen divers diskutiert werden. Dieser Ansatz hat sich bewährt.

Noch ist der KIDD-Prozess nicht finalisiert. Das Projekt zu diesem hochkomplexen Thema steckt noch bis September 2023 in der Entwicklung. Ziel ist es, die bereits zahlreich vorhandenen ethischen Richtlinien für KI, darunter zu Human Agency and Oversight, Technical Robustness and Safety oder Accountability oder auch für Diversity, Non-discrimination and Fairness, in die Praxis zu überführen: Wer setzt diese Guidelines um und wie? Für genau diese Punkte soll das KIDD-Projekt mit seinem partizipativen Ansatz einen standardisierten Prozess bei der Einführung von KI entwickeln, der Antworten auf diese Fragen gibt und Wege zur Umsetzung aufzeigt.

Die Chancen stehen gut, dass am Ende des KIDD-Projektes ein Prozess etabliert werden kann, der Unternehmen und Organisationen dabei unterstützt, menschenzentrierte KI-Lösungen zu implementieren. Und so hat KIDD am Ende doch Parallelen zu K.I.T.T.: Beide stehen auf ihre Weise im Dienste der Menschlichkeit.

(ID:48734985)