Illumio-Studie zu KI-Autonomie Illumio-Studie: KI bekommt mehr Befugnisse, als Unternehmen kontrollieren können

Anbieter zum Thema

Illumio UK Ltd.

QUNIS GmbH

Fivetran Germany GmbH

KI-Systeme sollen in Unternehmen nicht mehr nur Vorschläge machen, sondern handeln. Die Befugnisse dafür wachsen schneller als die Kontrolle darüber. In der DACH-Region sehen Unternehmen zwar genauer hin, das allein begrenzt aber noch keinen Schaden.

Lange war die Rollenverteilung klar: Die KI schlägt etwas vor, ein Mensch entscheidet. Diese Grenze verschiebt sich. Laut der Studie Licensed to Act: How AI Autonomy Is Outrunning the Limits Placed on It von Sapio Research im Auftrag des Sicherheitsanbieters Illumio lassen 70 Prozent der Unternehmen KI inzwischen Entscheidungen treffen, die vor einem Jahr noch eine menschliche Freigabe brauchten. Befragt wurden 1.100 IT- und Sicherheitsverantwortliche in zehn Märkten.

Das geschieht selten per Grundsatzbeschluss. Ein Agent erhält zusätzliche Rechte, wird an ein weiteres System angebunden, eine Freigabeschleife fällt weg, weil die Ergebnisse bisher stimmten. So sammelt die KI Schritt für Schritt Befugnisse, ohne dass jemand die Summe im Blick hat.

Die Kontrolle hält nicht Schritt

Die meisten Verantwortlichen sind überzeugt, ihre KI im Griff zu haben. Mehr als vier von fünf geben an, klar zu sehen, wie ihre KI-Systeme auf Daten und Anwendungen zugreifen. Jede einzelne Aktion eines Agenten prüfen kann aber nur die Hälfte.

Die Folgen sind greifbar. Drei von vier Unternehmen haben im vergangenen Jahr ein Sicherheitsproblem oder zumindest ein Warnsignal im Zusammenhang mit KI registriert. In jedem vierten Fall griff die KI auf Daten zu, die für sie nicht vorgesehen waren. Das Risiko kommt damit nicht nur von Angreifern, die KI missbrauchen. Es entsteht auch durch die eigenen Systeme, die mit legitimen Zugängen ausgestattet sind und mehr tun, als vorgesehen war. Illumio beschreibt KI deshalb als neue Form des Insider-Risikos.

Das Governance-Paradox

Blindflug mit gutem Gefühl

DACH: genauer hingesehen, trotzdem großzügig

In Deutschland, Österreich und der Schweiz fällt die Kontrolle besser aus. Hier können 61 Prozent jede Aktion eines KI-Agenten nachvollziehen, deutlich mehr als im globalen Schnitt. Gleichzeitig räumen DACH-Unternehmen der KI an anderer Stelle mehr Spielraum ein: Mehr als jedes dritte würde KI unbeaufsichtigt Code ändern lassen.

Auch Fälle, in denen KI auf nicht vorgesehene Daten zugriff, melden DACH-Unternehmen häufiger. Das muss nicht bedeuten, dass hier mehr schiefgeht. Eine Box-Studie zur KI-Reife kam zu dem Befund, dass gerade reifere Anwender mehr Datenvorfälle melden, weil sie ihre Agenten besser überblicken.

„Visibilität ist nicht gleich Kontrolle“, sagt Alex Goller, Principal Solutions Architect bei Illumio. Dass ein Unternehmen nachvollziehen könne, was ein Agent tut, hindere diesen nicht daran, auf falsche Daten zuzugreifen oder folgenreiche Änderungen vorzunehmen.

Begrenzen statt vorhersagen

Illumio rät deshalb davon ab, jede mögliche Aktion einer KI vorhersehen zu wollen. Unternehmen sollten stattdessen per Zero Trust festlegen, welche Systeme eine KI erreichen und welche Aktionen sie ausführen dürfe. Ein Fehlgriff bliebe dann auf einen kleinen Bereich beschränkt.

In der Praxis hat dieser Ansatz noch wenig Gewicht. Nur jedes fünfte DACH-Unternehmen zählt klar definierte, zulässige Aktionen zu seinen wichtigsten Sicherheitsmaßnahmen. Wohin das führen kann, hat Gartner skizziert: Die Analysten erwarten, dass 40 Prozent der Unternehmen autonome KI-Agenten bis 2027 zurückstufen oder abschalten, weil Kontrolllücken erst im Produktivbetrieb auffallen.

(ID:51000080)