KI-Ökosystem vor dem Kollaps? Warum KI schneller unsicherer wird, als sie reift

Anbieter zum Thema

TREND MICRO Deutschland GmbH

Fsas Technologies GmbH

Board Deutschland GmbH

BigData-Insider

Der Report „State of AI Security“ von Trend Micro belegt eine besorgniserregende Entwicklung: KI-spezifische Sicherheitslücken sind im vergangenen Jahr auf über 2.100 Fälle explodiert. Vor allem die Hardware-Basis und neue Protokolle wie MCP erweisen sich als gefährliche Schwachstellen.

Das glänzende Versprechen der Künstlichen Intelligenz (KI) bekommt tiefe Risse, die bis in das fundamentale Gestein der Infrastruktur reichen. Wo Unternehmen gestern noch über Effizienzgewinne staunten, sollen heute technologische Verwerfungen klaffen, die von den untersten Hardware-Schichten bis hinauf zu den autonomen Agenten an der Oberfläche führen. Der Report „State of AI Security“ von Trend Micro zeichnet das Bild einer Landschaft, in der die Innovationsgeschwindigkeit die Sicherheitsarchitektur längst überholt haben soll.

Zwischen 2018 und 2025 wurden insgesamt 6.086 einzigartige KI-Schwachstellen (CVEs) dokumentiert. Besonders die Dynamik des Jahres 2025 mit einem Zuwachs von 34,6 Prozent gegenüber dem Vorjahr verdeutliche, dass die Sicherheitsarchitekturen nicht mit der technologischen Reife der KI-Systeme Schritt gehalten haben. Für das laufende Jahr 2026 prognostizieren die Experten einen weiteren Anstieg auf bis zu 3.600 neue KI-CVEs.

HP Wolf Security Threat Report

Schnell statt ausgefeilt: KI macht Cyberangriffe zur Massenware

Hardware als Achillesferse

Die physische Ebene des KI-Stacks hat sich zur Achillesferse der Branche entwickelt. Über 51 Prozent aller identifizierten Schwachstellen entfallen mittlerweile auf die Hardware-Ebene, insbesondere auf die Hochleistungs-GPUs und spezialisierten Beschleuniger, die das Herzstück moderner Rechenzentren bilden.

Kritische Lücken in Treibern und Frameworks, wie Nvidias CUDA-Umgebung, wirken wie offene Scheunentore für Angreifer mit hohen Privilegienstufen. In Multi-Tenant-Cloud-Szenarien ermöglichen Memory-Corruption-Bugs das Durchbrechen der logischen Isolation zwischen verschiedenen Workloads.

Risiken durch autonome Agenten und MCP

Ein neuer Brandherd im Jahr 2026 ist die „Agentic AI“. Autonome Agenten agieren zunehmend ohne menschliche Aufsicht und nutzen das Model Context Protocol (MCP), um tief in Unternehmensdaten einzutauchen.

Die Realität hinter der Automatisierung ist jedoch oft ernüchternd: Zu Beginn des Jahres identifizierte Trend Micro über 1.400 MCP-Server, die völlig ungeschützt im Netz standen. Angreifer könnten hier im Vorbeigehen System-Prompts, API-Keys und sensible Kontextdaten abgreifen, da grundlegende Authentifizierungsmechanismen schlicht ignoriert wurden.

Nachbericht Microsoft AI Tour München

Mehr (KI-)Agenten als in einem Thriller

Wettlauf gegen die Exfiltration

Die Angriffszyklen haben sich massiv beschleunigt. Bei gezielten Attacken auf die KI-Infrastruktur nutzen Hacker die Automatisierung, um die Zeitspanne zwischen dem ersten Eindringen und dem Datenabfluss auf ein Minimum zu reduzieren.

Als effektivster Hebel dient dabei fast immer die digitale Identität: In neun von zehn Fällen nutzen Hacker gestohlene Token oder missbrauchte OAuth-Berechtigungen, um die Identität von KI-Agenten zu kapern und in deren Namen autorisierte Prozesse im Firmennetzwerk zu triggern.

Regulatorischer Zeitdruck

Flankiert wird die technische Bedrohungslage von einem engen regulatorischen Korsett. Bis zum 2. August 2026 läuft die Frist für den EU AI Act ab, die Compliance bei Hochrisiko-Systemen zwingend vorschreibt. Gleichzeitig greifen die Meldepflichten der NIS2-Richtlinie und ab September 2026 die strengen Vorgaben des Cyber Resilience Act (CRA). Letzterer zwingt Hersteller dazu, aktiv ausgenutzte Schwachstellen innerhalb von nur 24 Stunden an die Behörden zu melden.

„KI ist keine neue Angriffsfläche mehr, sondern hat sich mittlerweile etabliert“, erklärt Richard Werner, Security Advisor bei TrendAI. „Unsere Untersuchung zeigt, dass die Schwachstellen in KI-Systemen schneller zunehmen als im gesamten Software-Ökosystem und dass die größten Risiken in gemeinsam genutzten Komponenten wie Modell-Frameworks und Lieferketten liegen. Wenn Unternehmen KI produktiv einsetzen, müssen sie Cybersicherheit als Grundlage jedes Projekts berücksichtigen. KI erfordert dieselbe Transparenz und dasselbe Risikomanagement wie jedes andere kritische Geschäftssystem.“

(ID:50789230)