Kommentar von Dr. Alisa Küper, Adesso Der AI Act und die Bedeutung von KI-Kompetenz

Anbieter zum Thema

adesso SE

Fsas Technologies GmbH

INFOMOTION GmbH

QUNIS GmbH

Unternehmen nutzen Künstliche Intelligenz (KI), um Prozesse zu automatisieren, datenbasierte Entscheidungen zu treffen und neue Geschäftsfelder zu erschließen. Doch trotz der wachsenden Verbreitung dieser Technologien bleibt das Verständnis für ihre Funktionsweise und die zugrunde liegenden Mechanismen oft begrenzt – sowohl auf individueller als auch auf organisatorischer Ebene.

Diese Wissenslücke birgt erhebliche Risiken: Ohne ein fundiertes Verständnis für KI können Unternehmen nicht nur regulatorische Anforderungen wie den EU AI Act verfehlen, sondern auch das Vertrauen von Kunden und Partnern gefährden. KI-Kompetenz wird daher zu einer Schlüsselqualifikation, um nicht nur Compliance sicherzustellen, sondern auch langfristig wettbewerbsfähig zu bleiben.

KI-Kompetenz: Verpflichtend für alle Mitarbeiter

Die Europäische Union hat mit dem AI Act einen Meilenstein in der Regulierung von Künstlicher Intelligenz gesetzt. Ziel ist es, einheitliche Standards für den sicheren und verantwortungsvollen Einsatz von KI zu schaffen, ohne dabei Innovationen zu behindern. Ein zentraler Aspekt des AI Acts ist die risikobasierte Einstufung von KI-Anwendungen. Diese reicht von minimalen Anforderungen für Systeme mit geringem Risiko bis hin zu strengen Vorgaben für hochriskante Anwendungen, die beispielsweise in kritischen Infrastrukturen oder im Gesundheitswesen eingesetzt werden.

Die neue Verantwortungslücke im Gesundheitswesen

Die KI therapiert – aber niemand reguliert

Über alle Risikostufen hinweg gibt es eine Verpflichtung, die alle Unternehmen betrifft, die KI nutzen. Seit Februar 2025 ist Artikel 4 des AI Acts in Kraft, der die Bedeutung von KI-Kompetenz auf eine neue Ebene hebt. Unternehmen sind nun gesetzlich verpflichtet, sicherzustellen, dass alle Mitarbeiter, die mit KI-Systemen arbeiten, über ein ausreichendes Maß an Wissen und Verständnis verfügen. Dabei geht es nicht nur um technisches Know-how, sondern auch um die Fähigkeit, KI-Entscheidungen kritisch zu hinterfragen und deren Auswirkungen zu bewerten.

Die Bandbreite der KI-Anwendungen reicht von einfachen Chatbots bis hin zu hochkomplexen Systemen, die über Kredite oder medizinische Diagnosen entscheiden. Je nach Use Case variieren die Anforderungen an die Mitarbeiter erheblich – doch eines bleibt gleich: Jeder Mitarbeiter muss geschult werden, um KI sicher und verantwortungsvoll einzusetzen.

KI-Regulierung konkretisiert

EU veröffentlicht Pflichtvorlage für KI-Trainingsdaten

Generative KI-Tools wie ChatGPT oder Copilot sind in vielen Unternehmen bereits im Einsatz. Doch diese Systeme bergen spezifische Risiken, die allen Nutzern bewusst sein müssen. Viele generative KI-Modelle nutzen Eingaben, um ihre Algorithmen weiter zu trainieren. Mitarbeiter müssen verstehen, dass sensible oder vertrauliche Informationen nicht unbedacht eingegeben werden dürfen, um Datenschutzverletzungen zu vermeiden. Zudem kann Generative KI Inhalte erstellen, die plausibel erscheinen, aber faktisch falsch sind. Mitarbeiter müssen in der Lage sein, solche „halluzinierten“ Ausgaben zu erkennen und kritisch zu hinterfragen, um Fehlentscheidungen zu vermeiden.

Höhere Anforderungen in regulierten Branchen

In der Finanzbranche und im Gesundheitswesen, wo KI-Systeme zum Beispiel für Kreditentscheidungen oder medizinische Diagnosen eingesetzt werden, sind die Anforderungen höher. Diese Anwendungen basieren auf komplexen Algorithmen, die große Datenmengen analysieren. Nutzer müssen sich über mögliche Verzerrungen in den Daten bewusst sein und die Entscheidungen der KI nachvollziehen können, um sie auf Richtigkeit und Fairness zu beurteilen. Menschliche Expertise bleibt unverzichtbar, um KI-gestützte Empfehlungen zu überprüfen und bei Unsicherheiten einzugreifen.

EU-KI-Gesetz konkretisiert

Code of Practice für GPAI tritt in Kraft

Die Beispiele veranschaulichen, dass KI-Kompetenz nicht nur an verschiedene Nutzungskontexte, sondern auch an unterschiedliche Stufen von Vorerfahrung angepasst werden muss. Von der IT-Abteilung über das Management bis hin zu den operativen Teams gibt es unterschiedliche Informationsbedürfnisse. Eindeutig ist jedoch, dass alle Beteiligten zumindest ein grundlegendes Verständnis für die Funktionsweise und die Grenzen von KI entwickeln müssen.

Ethische und rechtliche Fragestellungen

Ein sicherer und verantwortungsvoller Umgang mit KI basiert auf drei zentralen Kompetenzbereichen, die Unternehmen gezielt fördern sollten: Datenkompetenz, Modellverständnis und ethische sowie rechtliche Fragestellungen.

Datenbewusstsein ist die Grundlage für faire Entscheidungen. Denn KI trifft keine neutralen Entscheidungen – sie spiegelt die Daten wider, mit denen sie trainiert wurde. Verzerrungen oder blinde Flecken in den Datensätzen können unbemerkt weitreichende Konsequenzen haben. Mitarbeiter müssen verstehen, welche Daten ihre KI antreiben und wie Vorurteile in Modellen entstehen können. Die größte Gefahr liegt nicht in der fehlerhaften Entscheidung selbst, sondern darin, dass diese Fehler unentdeckt bleiben.

Modellverständnis dient dazu, KI-Entscheidungen nachvollziehbarer zu machen. Mitarbeiter sollten die grundlegenden Mechanismen der Entscheidungsfindung verstehen. Dazu gehört, zu wissen, welche Faktoren ein Modell beeinflussen, wie Ergebnisse interpretiert werden und wann eine Entscheidung hinterfragt werden sollte. Auch Risiken wie die Weiterverwendung von Eingabedaten oder Halluzinationen bei Sprachmodellen müssen bekannt sein, um schädliche KI-Nutzung zu vermeiden.

Neuer Leitfaden

Rechtssicherer Einsatz von KI in der Medizintechnik

Zuletzt benötigt es Kompetenz im Hinblick auf ethische und rechtliche Fragestellungen, um Verantwortung übernehmen zu können. Die Einhaltung ethischer und rechtlicher Standards ist ein zentraler Bestandteil des KI-Einsatzes. Mitarbeiter müssen wissen, welche Vorschriften – etwa der AI Act – für ihre Branche gelten und wie ethische Prinzipien in der Praxis umgesetzt werden können. Fehlende Kenntnisse in diesem Bereich können nicht nur rechtliche Konsequenzen haben, sondern auch das Vertrauen in KI-Systeme nachhaltig schädigen.

Die Förderung von KI-Kompetenz geht über Compliance hinaus: Geschulte Mitarbeiter entwickeln ein höheres Kontrollbewusstsein, treffen fundiertere Entscheidungen und fördern die Akzeptanz von KI im gesamten Unternehmen.

Zugeschnittene Schulungen für erfolgreiche Wissensvermittlung

Aber wie kann man KI-Kompetenz sinnvoll und effektiv im Unternehmen implementieren? Die Einführung von KI-Kompetenz im Unternehmen erfordert ein gezieltes und durchdachtes Vorgehen. Schulungen dürfen nicht nach dem Gießkannenprinzip erfolgen, sondern müssen auf die spezifischen Anforderungen und Rollen der Mitarbeiter abgestimmt sein. Ein „One-size-fits-all“-Ansatz reicht hier nicht aus.

Führungskräfte benötigen ein grundlegendes Verständnis dafür, wie KI-Modelle arbeiten, welche Risiken sie bergen und wo menschliche Kontrolle unverzichtbar ist. Nur so können sie strategische Entscheidungen treffen, die sowohl innovativ als auch regelkonform sind. Fachabteilungen hingegen müssen lernen, KI-Ergebnisse kritisch zu bewerten und diese sinnvoll in ihren Arbeitsalltag zu integrieren – sei es im Personalwesen, im Finanzsektor oder in der kritischen Infrastruktur. Technische Teams wiederum tragen die Verantwortung, die Sicherheit und Transparenz der KI-Systeme zu gewährleisten, indem sie Themen wie Datenqualität, Modelltraining und regulatorische Vorgaben beherrschen.

Schulungen sollten dabei nicht als einmalige Maßnahme betrachtet werden. Sie müssen ein kontinuierlicher Prozess sein, der sich an den spezifischen Use Cases und den sich wandelnden Anforderungen der Mitarbeiter orientiert. Nur so können Unternehmen sicherstellen, dass KI-Systeme nicht nur effizient, sondern auch verantwortungsvoll genutzt werden.

Fazit: KI-Kompetenz als Erfolgsfaktor

Die Einführung von KI in Unternehmen ist längst kein Zukunftsthema mehr – sie ist Realität. Doch der Erfolg von KI-Systemen hängt nicht allein von der Technologie ab, sondern vor allem von den Menschen, die sie nutzen. KI-Kompetenz ist eine unverzichtbare Grundlage für den sicheren, regelkonformen und verantwortungsvollen Einsatz von KI. Doch die Vermittlung von KI-Kompetenz ist weit mehr als eine Pflicht – sie eröffnet Unternehmen enorme Chancen. Unternehmen, die frühzeitig in die Kompetenzen ihrer Mitarbeiter investieren, schaffen nicht nur die Basis für die Einhaltung regulatorischer Vorgaben, sondern sichern sich auch entscheidende Wettbewerbsvorteile. Sie positionieren sich als Vorreiter in ihrer Branche und schaffen eine Kultur des Vertrauens und der Innovation.

(ID:50500469)