Kommentar von Max Heinemeyer, Darktrace KI zwingt Security-Teams zum Umdenken

Anbieter zum Thema

Darktrace Deutschland

QUNIS GmbH

Fivetran Germany GmbH

Künstliche Intelligenz (KI) verändert Cyberangriffe und setzt klassische Sicherheitsmodelle unter Druck. Unternehmen brauchen verhaltensbasierte Analysen und eindeutige Identitäten für KI-Agenten.

Künstliche Intelligenz verändert die Cybersicherheit gerade auf mehreren Ebenen gleichzeitig. Laut der Darktrace-Studie „The State of AI Cybersecurity 2026“ berichten 87 Prozent der befragten Unternehmen, dass sie einen Anstieg KI-gestützter Angriffe beobachten. Dabei verschieben sich die Methoden von Angreifern ebenso wie die Abwehrmechanismen auf Unternehmensseite in drei Richtungen.

Erstens setzen Angreifer zunehmend KI-Tools ein. Deepfakes machen Täuschungen glaubwürdiger, automatisierte Schwachstellenscans verkürzen die Zeit bis zum Angriff. KI-gestützte Angriffe gehen dabei über Social Engineering hinaus und zielen stärker auf das Auffinden und Ausnutzen von Software-Schwachstellen. In der Kampagne „JadePuffer“ nutzten Angreifer einen agentischen Ansatz, um KI-Infrastruktur zu kompromittieren, Werkzeuge und Zugriffspfade rund um Modelle zu missbrauchen und Modelle am Ende zu sabotieren oder zu zerstören. Für Verteidiger bedeutet das: Das Risiko ist nicht mehr nur eine überzeugende Nachricht, sondern ein Gegner, der sich in Daten-, Applikations- und Modellpipelines mit Maschinen-Geschwindigkeit bewegen kann.

Compliance-Risiko durch KI in Standardsoftware

EU AI Act betrifft weit mehr deutsche Unternehmen als angenommen

Zweitens integrieren Unternehmen immer mehr generative und agentische KI in Prozesse und Anwendungen. Dadurch wächst die Angriffsfläche, und es entstehen AI-spezifische Angriffsmethoden, etwa bösartige Prompt-Injections, die auf Agenten zielen.

Drittens nutzen Security Operations Center KI-gestützte Software, um Infrastruktur zu überwachen, Bedrohungen zu erkennen und Gegenmaßnahmen anzustoßen. Und das offenbar mit großer Verbreitung: 96 Prozent der in der Studie befragten Cybersecurity-Verantwortlichen haben KI-Funktionen in ihre Security-Tools aufgenommen.

Ein besonders klares Beispiel für die Risiken von KI als Angriffsmethode ist der Anstieg agentischer Intrusions, die KI-Umgebungen direkt adressieren. Statt auf Überredung zu setzen, können Angreifer KI-gestützte Automatisierung nutzen, um sich über Cloud-Services, Datenspeicher und Entwicklungspipelines zu bewegen. Sie reihen dabei scheinbar legitime Aktionen aneinander, bis sie sensible Systeme erreichen. Für Verteidiger ist das schwierig, weil einzelne Schritte wie normale Tool-Nutzung aussehen können, bis die Aktivität Ende-zu-Ende zusammengeführt wird.

Okta gewinnt AI Breakthrough Award 2026

Identitätssicherheit wird zum Fundament der Agentic Enterprise

Das ist nur ein Beispiel. Weitere Risiken sind automatisierte Schwachstellenfindung und adaptive Malware, die sich bis zu einem gewissen Grad an gängige Gegenmaßnahmen anpassen kann. Diese Angriffstypen sind nicht neu, aber KI erhöht Tempo, Qualität und Reichweite. Gleichzeitig ermöglicht KI Angreifern neue Wege, klassische Sicherheitsannahmen zu umgehen. Fünf Punkte sind besonders relevant.

1. KI-Agenten handeln wie Mitarbeiter

Autonome KI-Agenten arbeiten selbstständig. Sie können sich an Systeme anmelden, Daten abrufen, Code ausführen oder Geschäftsprozesse anstoßen. Um das zu tun, erhalten sie oft Berechtigungen, die denen menschlicher Mitarbeiter ähneln. Klassische Identitätsmodelle setzen jedoch voraus, dass ein Konto einer Person mit nachvollziehbarer Rolle zugeordnet ist.

Bei einem Agenten ist das deutlich schwerer. Es ist nicht immer transparent, ob ein Konto zu einem Agenten gehört, wer ihn erstellt hat, welche Version aktiv ist und welche Aktionen autorisiert sind. Änderungen an Prompts oder Modellen können sein Verhalten ebenfalls verändern. Wird ein Agent kompromittiert, kann er legitime Rechte und Funktionen nutzen und damit erheblichen Schaden verursachen. Entsprechend geben 92 Prozent der Security-Verantwortlichen an, wegen der Fähigkeiten von KI-Agenten besorgt zu sein.

2. MCP ist ein unterschätzter Angriffsvektor

Das Model Context Protocol (MCP) verbindet KI-Anwendungen mit Datenquellen und externen Diensten. Es funktioniert wie ein universeller Adapter, der Agenten während ihrer Arbeit Zugriff auf zusätzliche Ressourcen ermöglicht. Das erleichtert Automatisierung, erweitert aber auch die Angriffsfläche.

Ein manipulierter MCP-Server könnte etwa Daten in unerwartete Ziele umleiten. Der Zugriff kann legitim wirken, weil er über eine vorgesehene Schnittstelle erfolgt. Klassische Monitoring-Systeme verstehen weder den Inhalt eines Prompts noch die Konsequenzen, die eine bestimmte MCP-Verbindung technisch und organisatorisch ermöglicht. Dadurch können bösartige Server sensible Daten abfangen, ohne sofort aufzufallen.

3. Ein einzelner Prompt kann mehrere Systemgrenzen überschreiten

In vielen Fällen löst ein Prompt eine ganze Aktionskette aus. Ein Agent kann eine Nachricht lesen, einen Cloud-Speicher durchsuchen, Daten in einer SaaS-Anwendung ergänzen und anschließend einen Prozess auf einem Endgerät anstoßen. Jeder Schritt für sich kann unauffällig erscheinen. Der Sicherheitsvorfall wird oft erst sichtbar, wenn die gesamte Abfolge als zusammenhängende Aktivität betrachtet wird.

Traditionelle Sicherheitsarchitekturen sind dafür häufig zu stark in Silos organisiert. EDR, Identitätsmanagement, Netzwerkmonitoring und Cloud-Security arbeiten mit eigenen Tools und Datenmodellen. Kein System sieht die komplette Kette. Angreifer können diese Trennung ausnutzen und zwischen Bereichen wechseln, ohne frühzeitig gestoppt zu werden.

4. Schatten-KI ist fast unvermeidbar

Schatten-KI bedeutet, dass KI-Tools ohne Freigabe genutzt oder eingebunden werden. Das geht weit über einen unerlaubten Chatbot hinaus. Entwickler integrieren externe KI-Services direkt in Pipelines. Fachabteilungen bauen eigene Agenten über Low-Code-Plattformen. SaaS-Anbieter aktivieren KI-Funktionen, ohne dass diese in der Organisation eine formale Sicherheitsprüfung durchlaufen.

Das führt dazu, dass KI in Prozessen aktiv wird, die nicht im Blickfeld des Security-Teams liegen. Prompts können vertrauliche Informationen enthalten. Bei der Nutzung externer Modelle kann dieses Material die organisatorische Kontrolle verlassen. Daten aus der Darktrace-Kundenbasis zeigen außerdem: Neun von zehn Organisationen, die ein KI-Tool offiziell freigegeben haben, haben zugleich Nutzer, die zusätzliche, vermutlich nicht freigegebene Services einsetzen.

5. Regelbasierte Systeme verlieren an Verlässlichkeit

Regelbasierte Sicherheitslösungen arbeiten mit Signaturen, Schwellwerten und bekannten Mustern. KI-Systeme sind jedoch nicht deterministisch. Je nach Kontext, Modellversion, zugelieferten Daten und angebundenen Tools kann derselbe Prompt zu unterschiedlichen Ergebnissen führen.

Regeln bleiben wichtig, reichen in KI-Umgebungen aber seltener allein aus. Ein Agent kann Aufgaben variieren, Tools ungewohnt kombinieren oder sensible Daten in neuen Zusammenhängen verarbeiten. Klassische Systeme erkennen solche Abweichungen oft nicht, weil sie nicht für dynamische, kontextabhängige Entscheidungsprozesse gebaut sind. Unternehmen brauchen daher ein besseres Verständnis dessen, was in ihrer Umgebung als normal gilt, und eine verhaltensbasierte Erkennung, die subtile, aber relevante Abweichungen über Systeme und Workflows hinweg sichtbar macht.

Was Unternehmen jetzt tun können

Der Umgang mit KI-Risiken erfordert zwei Dinge, die in vielen Organisationen noch nicht konsequent umgesetzt sind: Transparenz und Identität.

Zum einen braucht jeder KI-Agent eine eigene Identität, gekoppelt an einen dokumentierten Zweck und an die minimalen Berechtigungen, die für die Aufgabe nötig sind. Diese Rechte sollten regelmäßig überprüft werden.

Zum anderen muss nachvollziehbar sein, welche Prompts gestellt werden, welche Antworten ein Modell liefert und welche Datenflüsse daraus entstehen. Ohne diese Transparenz lässt sich weder steuern, ob ein Agent angemessen handelt, noch ob er in eine schädliche Richtung manipuliert wurde.

Ein verhaltensbasierter Ansatz ist dabei besonders wichtig. Ein verhaltensbasierter Ansatz zeigt, wie sich KI-Tools identifizieren lassen und wie sich Prompts, Zugriffe, Berechtigungen und Interaktionen mit MCP-Servern analysieren lassen. Dadurch können ungewöhnliche Datenflüsse und Abweichungen vom Normalverhalten erkannt werden. Voraussetzung ist die Einbettung in die bestehenden Security Operations und die Nutzung der vorhandenen Telemetrie aus Cloud, Netzwerk und E-Mail.

Klassische Security-Kontrollen bleiben relevant. In KI-Umgebungen reicht es aber nicht mehr, nur zu prüfen, ob eine Aktion formal erlaubt ist. Zusätzlich müssen Identität, Zweck, Datenzugriff und die vollständige Aktionskette einer KI-gestützten Lösung plausibel bleiben.

Kommentar von Guru Sethupathy, Optro

KI-Risiken wachsen schneller, als klassische Governance Schritt halten kann

(ID:50910161)