Mobile-Menu

Fairness und Safety im Fokus ExamAI analysiert elf KI-Anwendungsszenarien

Von Martin Hensel

Anbieter zum Thema

Fujitsu Technology Solutions GmbH
Sinequa
Gesellschaft für Informatik e.V. Wissenschaftszent.

Im Rahmen von zwei neuen Publikationen nimmt das Projektkonsortium ExamAI elf KI-Anwendungsszenarien aus Personalmanagement und Produktionsautomatisierung unter die Lupe. Im Mittelpunkt stehen dabei Fairness- und Safety-Aspekte.

ExamAI analysiert elf KI-Anwendungsszenarien.
ExamAI analysiert elf KI-Anwendungsszenarien.
(Bild: Screenshot / ExamAI)

Künstliche Intelligenz (KI) ist zunehmend Teil der Arbeitswelt. Im Personal- und Talentmanagement sowie in der maschinellen Produktion sind algorithmische Entscheidungssysteme (ADM) im Einsatz. Das Forschungsprojekt „KI Testing & Auditing“ (ExamAI) unter Leitung der Gesellschaft für Informatik e. V. geht nun einigen Fragen im Zusammenhang mit ADM-Systemen nach: Wie können Verfahren aussehen, die einen beherrschbaren, nachvollziehbaren und fairen KI-Einsatz ermöglichen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür beachtet werden?

Szenarien analysiert

Um diesen Fragen nachgehen zu können, wurden elf Szenarien aus den Bereichen Personalmanagement sowie Mensch-Maschine-Kooperation in der Industrieproduktion vorgestellt. Sie sollen kritische Abläufe und den Nutzen von KI verdeutlichen. Zudem dienen sie als Ausgangspunkt für juristische und informatische Analysen bestehender Probleme, Ungleichbehandlungen, Sicherheitsrisiken und Rechtsverstöße. ExamAI hat hierzu die Publikationen „KI-Systeme im Personal- und Talentmanagement“ und „KI-Systeme in der Produktionsautomatisierung“ veröffentlicht.

„In den beiden Publikationen nehmen wir Szenarien unter die Lupe, in denen Mitarbeiterinnen und Mitarbeiter bei ihrer Arbeit in Kontakt mit Künstlicher Intelligenz kommen. Dabei identifizieren wir Schadens- und Diskriminierungspotentzale, die wir im weiteren Projektverlauf genauer untersuchen werden. Die Arbeit im Projekt ExamAI zeigt aber auch, dass KI-Technologien am Arbeitsplatz eine Reihe positiver Konsequenzen haben können – so kann KI beispielsweise Gefahrensituationen in der Produktion erkennen“, erklärt ExamAI-Projektleiter Nikolas Becker.

(ID:47012411)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung