Fairness und Safety im Fokus ExamAI analysiert elf KI-Anwendungsszenarien

Autor / Redakteur: Martin Hensel / Nico Litzel

Im Rahmen von zwei neuen Publikationen nimmt das Projektkonsortium ExamAI elf KI-Anwendungsszenarien aus Personalmanagement und Produktionsautomatisierung unter die Lupe. Im Mittelpunkt stehen dabei Fairness- und Safety-Aspekte.

Firmen zum Thema

ExamAI analysiert elf KI-Anwendungsszenarien.
ExamAI analysiert elf KI-Anwendungsszenarien.
(Bild: Screenshot / ExamAI)

Künstliche Intelligenz (KI) ist zunehmend Teil der Arbeitswelt. Im Personal- und Talentmanagement sowie in der maschinellen Produktion sind algorithmische Entscheidungssysteme (ADM) im Einsatz. Das Forschungsprojekt „KI Testing & Auditing“ (ExamAI) unter Leitung der Gesellschaft für Informatik e. V. geht nun einigen Fragen im Zusammenhang mit ADM-Systemen nach: Wie können Verfahren aussehen, die einen beherrschbaren, nachvollziehbaren und fairen KI-Einsatz ermöglichen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür beachtet werden?

Szenarien analysiert

Um diesen Fragen nachgehen zu können, wurden elf Szenarien aus den Bereichen Personalmanagement sowie Mensch-Maschine-Kooperation in der Industrieproduktion vorgestellt. Sie sollen kritische Abläufe und den Nutzen von KI verdeutlichen. Zudem dienen sie als Ausgangspunkt für juristische und informatische Analysen bestehender Probleme, Ungleichbehandlungen, Sicherheitsrisiken und Rechtsverstöße. ExamAI hat hierzu die Publikationen „KI-Systeme im Personal- und Talentmanagement“ und „KI-Systeme in der Produktionsautomatisierung“ veröffentlicht.

„In den beiden Publikationen nehmen wir Szenarien unter die Lupe, in denen Mitarbeiterinnen und Mitarbeiter bei ihrer Arbeit in Kontakt mit Künstlicher Intelligenz kommen. Dabei identifizieren wir Schadens- und Diskriminierungspotentzale, die wir im weiteren Projektverlauf genauer untersuchen werden. Die Arbeit im Projekt ExamAI zeigt aber auch, dass KI-Technologien am Arbeitsplatz eine Reihe positiver Konsequenzen haben können – so kann KI beispielsweise Gefahrensituationen in der Produktion erkennen“, erklärt ExamAI-Projektleiter Nikolas Becker.

(ID:47012411)