Studie des Fraunhofer IAIS KI-Managementsysteme fördern Vertrauenswürdigkeit

Autor / Redakteur: Martin Hensel / Nico Litzel

Eine aktuelle Studie des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme (IAIS) zeigt, dass KI-Managementsysteme Unternehmen beim vertrauenswürdigen Einsatz von Künstlicher Intelligenz unterstützen.

Firmen zum Thema

Das Fraunhofer IAIS hat sich detailliert mit KI-Managementsystemen befasst.
Das Fraunhofer IAIS hat sich detailliert mit KI-Managementsystemen befasst.
(Bild: Fraunhofer IAIS)

Um eine sichere, risikoarme und kompatible Nutzung moderner KI-Systeme zu gewährleisten, ist der Einsatz von normierten Managementsystemen nötig. Derartige Tools befinden sich noch in Entwicklung. Ein internationaler Standard für KI-Managementsysteme („AI Management Systems“, AIMS) wird derzeit von einer gemeinsamen Arbeitsgruppe der International Organization for Standardization (ISO) und der International Electrotechnical Commission (IEC) erarbeitet.

Im Rahmen der Studie „Management System Support for Trustworthy Artificial Intelligence“ hat das Fraunhofer IAIS den Entwurf des AIMS-Standards unter die Lupe genommen. Im Mittelpunkt stand dabei die Frage, inwieweit Unternehmen und Organisationen auf dieser Basis KI-Technologien vertrauenswürdig nutzen und entwickeln können. Der Entwurf wurde deshalb mit aktuellen Anforderungen und Empfehlungen für vertrauenswürdige KI verglichen. Sie wurden von der Europäischen Kommission, der High-Level-Expert Group on AI (HLEG) sowie dem Bundesamt für Sicherheit in der Informationstechnik (BSI) formuliert.

Managementsysteme als wichtiger Schritt

Die Studie zeigt, dass die Einführung eines KI-Managementsystems für Unternehmen ein wichtiger Schritt sein kann, um Strategien und Prozesse für die vertrauenswürdige Entwicklung und Nutzung von KI-Technologien zu definieren. Zudem bietet es auch langfristig Unterstützung bei der Einhaltung aktueller und kommender Richtlinien und Gesetze. „Selbst bei Vorhandensein mehrerer Interessensgruppen und komplexer Lieferketten erleichtert der Einsatz von KI-Managementsystemen die Einhaltung von Vorschriften über den gesamten Lebenszyklus von KI-Systemen hinweg“, erklärt Dr. Michael Mock, Co-Autor der Studie und Leiter des Projekts „KI-Absicherung“ am Fraunhofer IAIS. Zudem habe die Implementierung solcher Systeme auch einen positiven Einfluss auf Akzeptanz und Vertrauen in der Gesellschaft.

Die über 60-seitige Studie fasst den Standard-Entwurf und die KI-Leitlinien der Europäischen Kommission, der HLEG und des BSI zusammen. Sie vergleicht organisatorische und technische Anforderungen in Anlehnung an den KI-Prüfkatalog des Fraunhofer IAIS. Weitere Themen sind die mögliche Zertifizierung von KI-Managementsystemen, eine Zusammenfassung der Erkenntnisse sowie Empfehlungen zur weiteren Ausarbeitung. Finanziert wurde die Studie von Microsoft.

(ID:47759429)