Kommentar von Martin Claßen, TOPdesk Trotz KI: Der Mensch bleibt in der Verantwortung!

Anbieter zum Thema

TOPdesk Deutschland GmbH

QUNIS GmbH

BigData-Insider

Fivetran Germany GmbH

Am 2. August sind neue Vorgaben des EU AI Acts in Kraft getreten, die auch IT-Verantwortliche im Service-Management vor neue Herausforderungen stellen. Am zweiten Dezember endet die Übergangsphase – spätestens dann müssen Unternehmen die neuen Regeln operativ beachten. Aber was bedeuten diese für den Einsatz von Künstlicher Intelligenz (KI) im Service-Management?

Fundamentale Spielregeln lauten fortan mehr denn je zuvor: Datenhoheit, Transparenz und eine klare Governance. Spätestens jetzt sollten bei Entscheidern die Alarmglocken läuten, wenn KI-Einstellungen standardmäßig auf ‚Opt-out‘ stehen oder der Mensch als Experte kaum in die Handlungen der Agenten eingreifen kann. Denn fehlende manuelle Eingriffsmöglichkeiten, intransparente Datenflüsse oder das Unvermögen, KI-Funktionen bei Bedarf abzuschalten, sind kritische Warnsignale. Organisationen, die ihre Daten in Europa halten und die Hoheit über KI-Entscheidungen behalten, sind dagegen bestens gerüstet. Eines ist klar: Auch im Zeitalter der KI muss der Mensch in Europa das Steuer fest in der Hand halten.

Fünf Punkte auf die IT-Entscheider bei KI im Service-Management fortan besonders achten sollten:

1. Transparenz: Wissen die Nutzer, dass KI zum Einsatz kommt?

Transparenz ist das oberste Gebot der Regeln, die seit dem zweiten August greifen. Ein recht weit verbreiteter Trugschluss ist, dass Transparenzpflichten nur für die Kommunikation nach außen gelten. Auch im internen Service Desk greifen die gleichen Regeln. Das heißt: Setzt ein Unternehmen beispielsweise einen KI-Chatbot im IT-Service ein, der die Anfragen der Mitarbeiter beantwortet, müssen diese erfahren, dass sie gerade nicht mit einem Menschen, sondern mit einer KI interagieren. Die Transparenzvorgaben des AI Acts beziehen sich eben nicht nur auf die Interaktion mit externen Kontakten. Und während sich viele Unternehmen in der Kundenkommunikation bereits professionalisiert haben, herrscht bei internen Interaktionen oft noch Nachholbedarf.

2. Opt-in statt Opt-out ist nur der erste Schritt

Sind KI-Funktionen in den Systemen per default eingeschaltet? Gerade mit Hinblick auf die Transparenzpflicht birgt dies nicht unerhebliche Risiken. Denn wie wollen IT-Entscheider sichergehen, diese Vorgaben zu erfüllen, wenn sie angesichts von Opt-in-Konfigurationen die Übersicht verloren haben, wo überall KI im Einsatz ist? Wer KI in seinen Systemen nicht gezielt steuern oder abschalten kann (im Idealfall erst selbst einschalten muss), für den ist eine verlässliche Governance von vornherein unmöglich.

Und echte Governance geht weiter; sie erfordert die volle Kontrolle darüber, wann und wie KI-Funktionen konfiguriert und überwacht werden. Schaltet man also KI-Funktionen auf Ebene der Organisation ein, geht es daher auch um die Fragen, wie sich die Überwachung durch Menschen konfigurieren lässt. Wann sind Freigabe- und Kontrollmechanismen erforderlich? Wer ist befugt und verantwortlich dafür, diese auszuüben? Wie übernimmt der Mensch seine Aufgaben? In der Praxis warten an vielen Stellen Stolperfallen: Das An- und Ausschalten oder modifizieren von KI-Funktionen ist häufig versteckt, der Support kaum erreichbar und menschliche Kontrolle daher de facto kaum möglich. Echte Governance geht daher über Opt-in hinaus.

3. Governance statt Autonomie: Bleibt der Mensch in der Verantwortung?

Im Enterprise-Service-Management kann der erste Eindruck täuschen. Denn auch bei KI-basierten internen Service-Prozessen geht es nicht nur um Software und Hardware, sondern auch um teils hoch sensible Personal- und Finanzdaten, für die strenge regulatorische Anforderungen gelten. Greift KI auf Daten zu Bewerbungen, Einstellungen, Beförderung, Kündigung, Rollenverteilungen, Personalakten oder Performance-Systemen zu, ist menschliche Kontrolle unabdingbar. Das ist nicht groß anders als bei einem Auto mit Assistenzsystemen: Die Systeme unterstützen, aber der Fahrer bleibt verantwortlich und kann jederzeit eingreifen – und er bleibt in der Verantwortung. Analog dazu dürfen sich auch Führungskräfte nicht aus der Verantwortung für die Arbeit der KI-Agenten stehlen.

Ein typisches Beispiel, was Kontrolle bedeutet. Diskriminiert eine KI im Bewerbungsprozess systematisch anhand bestimmter sozio-demografischer Merkmale, ist es Aufgabe der Verantwortlichen, dies zu erkennen und einzugreifen. Eine Faustformel lautet: Je weniger sensibel die Daten und Themen sind, desto mehr Autonomie ist möglich (und andersrum ist umso mehr Governance erforderlich, je sensibler die Daten). Eine der dringendsten Fragen in europäischen Organisationen in Sachen KI lautet daher: Können Führungskräfte in ihrem Zuständigkeitsbereich beim Einsatz von KI ihrer Verantwortung gerecht werden?

4. Daten: Greift die KI verhältnismäßig auf die Daten zurück, die sie benötigt?

Ungeachtet des AI Acts gilt weiterhin die DSGVO. Das bedeutet auch: KI benötigt eine Berechtigung, um personenbezogene Daten zu nutzen. Während im Helpdesk bei IT relevanten Themen häufig Software- oder Hardwarefragen im Vordergrund stehen, hat der Datenschutz gerade beim Einsatz von KI in der Personal- oder Finanzabteilung nochmal eine größere Tragweite. Ohne ausreichende Governance birgt der Einsatz von KI im Service Desk daher immense Risiken. Etwa wenn die KI unkontrolliert auf personenbezogene Daten oder auf Finanzdaten zugreift – und unberechtigten Nutzern diese Informationen zur Verfügung stellt. Solche Daten bezogenen Governance-Themen waren zwar bereits vor dem 2. August 2026 relevant. Die Transparenzoffensive der EU verleiht ihnen aber nochmal mehr Nachdruck. Spätestens jetzt gilt für IT-Entscheider: Menschen in ihren Organisationen bestimmen, auf welche Daten die KI für welche Zwecke und bei welchen Anfragen durch welche Nutzenden zurückgreifen darf.

5. Speicherung: Bleiben die Daten in Europa?

Spätestens wenn die DSGVO greift, sollte die KI keine Daten außerhalb Europas speichern, beziehungsweise nur unter bestimmten Voraussetzungen. Die kürzliche Einschränkung von KI aufgrund geopolitischer Ziele sollten Entscheidern zudem Mahnung genug sein. Wer auf Nummer sicher gehen will, speichert seine Daten daher in Europa – und zwar auch jene, die die KI verarbeitet. An sich ist auch dies ein alter Hut: Aber die neuen Dokumentations- und Transparenzpflichten erleichtern die Überprüfbarkeit der Datenspeicherung und -nutzung. Wer daher bösen Überraschungen vorgreifen möchte, der entscheidet sich für europäische Server-Standorte. Wer noch einen Schritt weiter gehen möchte, hält sich Optionen für On-premises-Lösungen offen – also die Speicherung aller von der KI genutzten Daten auf dem eigenen Server. Nur so erlangt man wirkliche Datensouveränität.

(ID:50944263)