Tipps von Pegasystems Wie Unternehmen bereits im Vorfeld des KI-Gesetzes handeln sollten

Anbieter zum Thema

Pegasystems GmbH

Board Deutschland GmbH

INFOMOTION GmbH

QUNIS GmbH

Mit ihrem KI-Gesetz will die EU sicherstellen, dass eingesetzte KI-Systeme sicher, fair, transparent und nachvollziehbar arbeiten. Pegasystems erklärt, was das für Unternehmen konkret bedeutet und wie sie sich auf die neuen Spielregeln vorbereiten können.

Das KI-Gesetz soll künftig den Einsatz Künstlicher Intelligenz in der EU regeln. Dabei sind unterschiedliche Risikokategorien vorgesehen, für die verschiedene Vorschriften und Auflagen gelten. Bestimmte Systeme, die eine Gefahr für Menschen oder die Gesellschaft darstellen können, sind sogar komplett verboten. Für den Einsatz generativer KI sind besondere Transparenzauflagen vorgesehen, wie etwa eine Kennzeichnung KI-erzeugter Inhalte.

Da das KI-Gesetz extraterritorial angelegt ist, sind nicht nur europäische Unternehmen betroffen. Es gilt für alle, deren KI-Systeme Auswirkungen innerhalb der EU haben. Pegasystems weist darauf hin, dass solche Unternehmen den regelkonformen, sicheren, fairen und transparenten Betrieb ihrer KI-Lösungen sicherstellen müssen. Der Low-Code-Spezialist hat die folgenden fünf Maßnahmen zusammengefasst, wie sich betroffene Firmen schon jetzt auf die Auswirkungen des KI-Gesetzes vorbereiten können.

Aufbau eines Frameworks für KI-Governance
Um den Verpflichtungen aus dem KI-Gesetz nachkommen zu können, benötigen Unternehmen ein Framework mit Richtlinien und Vorschriften für die Entwicklung, Bereitstellung und Nutzung von KI. Zu diesem muss unbedingt auch ein Risikomanagementsystem gehören. Dieses hilft, KI-Systeme nicht nur einmalig, sondern über ihren gesamten Lebenszyklus hinweg hinsichtlich möglicher Risiken zu überwachen und zu bewerten.

Anpassung von Organisationsstrukturen
Mit den Regelungen für KI-Systeme gehen neue Rollen und Verantwortlichkeiten einher. Unternehmen müssen deshalb neue Stellen und Organisationseinheiten in den Bereichen Risikomanagement und Compliance schaffen. Zudem ist es notwendig, das aktuelle Betriebsmodell anzupassen, damit die neuen Stellen und Einheiten reibungslos mit den bestehenden zusammenarbeiten und Werte für das Unternehmen generieren können.

Überprüfung von Werkzeugen und Technologien
Alle aktuell und künftig eingesetzten Tools bedürfen einer Überprüfung, ob sie KI nutzen und in welche Kategorie diese KI fällt. Eine gute technische Dokumentation der Tools erleichtert die Prüfungen und eine Sammlung von Protokolleinträgen die Kontrolle der Prüfaktivitäten und -ergebnisse. Transparente Hinweise klären Anwender über den KI-Einsatz in den von ihnen genutzten Tools auf.

Sicherstellen der KI-Modell-Governance
Unternehmen müssen sicherstellen, dass die in ihrem Governance-Framework festgelegten Praktiken, Richtlinien und Rahmenbedingungen zur Verwaltung und Überwachung der KI-Entwicklung, -Bereitstellung und -Wartung den Anforderungen des KI-Gesetzes entsprechen. Sie müssen aber auch dafür Sorge tragen, dass die für das Training, die Validierung und den Test von KI-Systemen verwendeten Datensätze zuverlässig sind, sprich: relevant, repräsentativ, fehlerfrei und vollständig. Das geht nur mit menschlicher Aufsicht – dementsprechend werden erfahrene Mitarbeiter gebraucht, die die KI-Systeme überwachen und gegebenenfalls intervenieren, wenn sie Verstöße gegen die KI-Governance feststellen.

Sicherstellen der Daten-Governance
Neben dem KI-Modell selbst unterliegen auch die Trainingsdaten verschiedenen Gesetzen und Richtlinien, etwa der DSGVO. Für Unternehmen geht es also nicht nur darum, ihre KI-Systeme mit korrekten und unvoreingenommen Daten zu füttern, sondern auch darum, diese Daten mit ordnungsgemäßer Zustimmung der Betroffenen zu erheben und konform zu allen relevanten Vorschriften zu speichern und zu verarbeiten.

(ID:49836257)