Universität Kassel Künstliche Intelligenz transparenter gestalten

Von Christoph Kurth

Obwohl Künstliche Intelligenz in immer mehr Bereichen eingesetzt wird, verstehen nur noch wenige, welche Daten wie genau verwendet werden. Hier will die Universität Kassel für mehr Transparenz sorgen.

Anbieter zum Thema

Ein internationales Forschungsprojekt unter Beteiligung der Universität Kassel will mehr Transparenz beim Einsatz von Künstlicher Intelligenz schaffen.
Ein internationales Forschungsprojekt unter Beteiligung der Universität Kassel will mehr Transparenz beim Einsatz von Künstlicher Intelligenz schaffen.
(Bild: Universität Kassel)

Das Projekt „AI Forensics: Accountability through Interpretability in Visual AI Systems“ soll sich vor allem auf den Einsatz von Bild-Systemen konzentrieren. Der am Projekt beteiligte Prof. Dr. Claude Draude vom Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung der Universität Kassel sagt: „Beispielsweise wird in den USA eine KI mit Gesichtserkennung genutzt, um potenzielle Gefährder zu erkennen. Was der allgemeinen Sicherheit dient, ist gleichzeitig auch ein Eingriff in Persönlichkeitsrechte. Wir möchten Entscheidungen der KI-Entscheidungen nachvollziehbar machen.“

Modelle des maschinellen Lernens verstehen

Das Ziel soll eine für die Öffentlichkeit frei zugängliche Internetplattform sein, die große Datensätze erschließbar macht. Modelle des maschinellen Lernens sollen so analysierbar und verstehbar gemacht werden. Laut Draude sollen Anwender beispielsweise Bilder hochladen können und über eine automatische Untersuchung überprüfen, ob das Bild bereits in einem Datensatz vorhanden ist und wo und zu welchem Zweck es verwendet wurde.

Prof. Dr. Draude sagt: „Der Umfang dieser Fähigkeiten variiert von Modell zu Modell und veranschaulicht unterschiedliche Grade von Transparenz und Interpretierbarkeit auf dem Spektrum der für die Forschung verfügbaren Modelle.“

Initiative „Künstliche Intelligenz“ der VolkswagenStiftung

Gefördert wird das Vorhaben im Rahmen der Initiative „Künstliche Intelligenz“ der VolkswagenStiftung. Es hat eine Laufzeit von drei Jahren und wird mit 1,5 Millionen Euro unterstützt. Neben der Universität Kassel sind das Institut für Künstliche Intelligenz und Medienphilosophie der Staatlichen Hochschule für Gestaltung in Karlsruhe, das Department of Computer Science der Durham University in Großbritannien sowie das Department of Germanic and Slavic Studies der University of California in Santa Barbara (USA) beteiligt. Technische Partner sind das Steinbuch Centre for Computing am Karlsruher Institut für Technologie (KIT) und das NVIDIA CUDA Forschungszentrum an der Durham University.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung

(ID:47928580)