TÜV-Verband, BSI und Heinrich-Hertz-Institut kooperieren Whitepaper: Konzept zur KI-Prüfbarkeit vorgestellt

Von Martin Hensel

Anbieter zum Thema

Der TÜV-Verband, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer Heinrich-Hertz-Institut haben gemeinsam ein Whitepaper vorgelegt. Es beschreibt ein Konzept für die Prüfbarkeit Künstlicher Intelligenz (KI).

Ein aktuelles Whitepaper liefert ein Konzept zur Prüfbarkeit von KI-Anwendungen.
Ein aktuelles Whitepaper liefert ein Konzept zur Prüfbarkeit von KI-Anwendungen.
(Bild: Gerd Altmann / Pixabay )

Die sogenannte „Certification Readiness Matrix“ (CRM) beschreibt, welche Prüfmethoden und Werkzeuge bereits heute zur Verfügung stehen, um KI beurteilen und zertifizieren zu können. Zudem zeigt sie auf, in welchen Bereichen noch Forschungs- und Entwicklungsbedarf besteht. Hintergrund des Whitepapers ist die geplante Regulierung von KI-Anwendungen in der EU.

„Die Prüfmatrix unterstützt die praktische Umsetzung der KI-Verordnung und zukünftiger Gesetzgebungsprozesse in der EU“, erklärt Patrick Gilroy, Referent Künstliche Intelligenz und Bildung des TÜV-Verbands. Die Verordnung regelt unter anderem, wie die Sicherheit kritischer KI-Anwendungen gewährleistet werden soll. Dazu zählen zum Beispiel Fahrzeugsteuerungen, medizinische Anwendungen, biometrische Verfahren oder Roboter, die mit Menschen zusammenarbeiten. Je nach Risikoklasse sollen unterschiedliche Vorgaben zum Einsatz kommen.

Zertifizierungsmatrix erfasst Prüfbarkeit

Die vorgestellte Matrix stellt eine Methode zur Erfassung der Prüfbarkeit der Qualitäts- und Sicherheitskriterien von KI-Systemen dar und wendet diese exemplarisch an. Dabei wird der gesamte Lebenszyklus komplexer KI-Anwendungen von der Datensammlung über die Trainingsphase bis hin zum Praxiseinsatz berücksichtigt sowie Sicherheitsaspekte beleuchtet.

Das Whitepaper und die Zertifizierungsmatrix entstanden im Rahmen einer gemeinsamen Workshop-Reihe, die jährlich anlässlich der TÜV AI Conference stattfindet. Diskussionen und Beiträge des letztjährigen Fachforums wurden aufgegriffen und weiterentwickelt. „Das Whitepaper, aber auch die gemeinsamen Veranstaltungen sind Ausdruck einer sehr intensiven und ergebnisorientierten Zusammenarbeit dreier Kompetenzpartner auf Augenhöhe. Diese Kooperation wollen wir weiter ausbauen“, so Gilroy.

Das vollständige Whitepaper steht auf der Website des TÜV-Verbands zum Download bereit.

(ID:48397892)