Mobile-Menu

KI-Governance Gartner: 40 Prozent der Unternehmen werden autonome KI-Agenten zurückstufen

Von Berk Kutsal 2 min Lesedauer

Anbieter zum Thema

Gartner Inc
Fujitsu Technology Solutions GmbH
Board Deutschland GmbH
QUNIS GmbH

Eine pauschale Governance für alle KI-Agenten lässt deren Einsatz scheitern, warnt Gartner. Bis 2027 sollen vier von zehn Unternehmen autonome Agenten abschalten oder einschränken, weil Kontrolllücken erst im Produktivbetrieb auffallen.

Bis 2027 könnten 40 Prozent der Unternehmen autonome KI-Agenten zurückstufen oder abschalten. Gartner zufolge liegt das an einer Governance, die nicht zwischen den Autonomiestufen unterscheidet.(Bild: KI-generiert)
Bis 2027 könnten 40 Prozent der Unternehmen autonome KI-Agenten zurückstufen oder abschalten. Gartner zufolge liegt das an einer Governance, die nicht zwischen den Autonomiestufen unterscheidet.
(Bild: KI-generiert)

Bis 2027 werden rund 40 Prozent der Unternehmen autonome KI-Agenten zurückstufen oder außer Betrieb nehmen. Das prognostiziert das Beratungshaus Gartner. Der Grund seien Governance-Lücken, die erst nach Vorfällen im laufenden Betrieb sichtbar würden. Eine belastbare Datenbasis nennt Gartner für die Zahl nicht, es handelt sich um eine Analystenschätzung.

Auslöser der Probleme ist laut Gartner ein verbreiteter Denkfehler: Unternehmen wenden auf alle Agenten dieselben Regeln an, unabhängig davon, wie autonom diese handeln und worauf sie zugreifen dürfen. „Organisationen behandeln die Governance von KI-Agenten als Entweder-oder, also entweder abgeriegelt oder voll vertrauenswürdig, und genau das ist die Ursache des Scheiterns“, sagt Shiva Varma, Senior Director Analyst bei Gartner.

Zwei Fehlerbilder

Werden alle Agenten gleich behandelt, beobachtet Gartner zwei wiederkehrende Muster. Einfache Agenten werden überreguliert, was die Umsetzung bremst und Schattenentwicklung begünstigt. Autonomere Agenten werden umgekehrt zu wenig kontrolliert, was die Betriebs-, Sicherheits- und Compliance-Risiken in die Höhe treibt.

Gegen beide Fehler empfiehlt Gartner eine proportionale Governance, die Agenten nach ihrem Autonomiegrad in vier Stufen einteilt. Stufe eins („Observe“) umfasst reine Lesezugriffe, etwa für Zusammenfassungen oder Wissensabruf, und kommt mit leichten Kontrollen aus. Stufe zwei („Advise“) liefert Empfehlungen und Entwürfe, die Menschen prüfen und manuell ausführen. Ab Stufe drei („Act with Approval“) dürfen Agenten Daten schreiben oder Nachrichten senden, aber nur nach Freigabe jeder einzelnen Aktion. Auf Stufe vier („Act Autonomously“) handeln sie eigenständig innerhalb von Leitplanken.

Je höher die Stufe, desto strenger die Anforderungen. Für die autonome Spitzenstufe verlangt Gartner unter anderem kontinuierliches Monitoring, schnelle Rollback-Mechanismen und Circuit Breaker, die den Betrieb bei Schwellenwertverletzungen stoppen. „Wenn Agenten autonom arbeiten, werden Aktionen in einem Tempo und Umfang ausgeführt, die menschliche Aufsicht überholen können“, so Varma.

Auch bei der vermeintlich sicheren Freigabe-Stufe warnt der Analyst vor trügerischer Sicherheit: Menschliche Prüfung wirke nur, „wenn sie eine bedeutsame Kontrolle bleibt“. Unter Zeitdruck oder durch Genehmigungsmüdigkeit könnten Freigaben sonst zur Formsache verkommen.

(ID:50857484)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte