Für viele Branchen verspricht Agentic AI somit enorme Effizienzgewinne – vorausgesetzt, man kann sich auf sie verlassen. Doch genau hier liegt die Herausforderung: Wie lässt sich in einer digitalisierten Welt, die zunehmend von autonomen Systemen bevölkert wird, Vertrauen aufbauen?

Das Identitätsproblem der KI-Agenten

Die Technologie wird sich nur dann durchsetzen können, wenn sie nicht nur funktional, sondern auch sicher ist. Wenn sie verbindlich und vertrauenswürdig agiert – im Sinne und im Namen einer legitimierten Partei. Doch aktuell fehlt es an einem technischen und rechtlichen Fundament, das genau das gewährleistet. Die Frage „Wer handelt da eigentlich?“ lässt sich im digitalen Raum heute schon nicht zufriedenstellend beantworten – mit KI-Agenten vervielfacht sich dieses Problem.

Futures Report 2025 von LevelBlue

Unternehmen unterschätzen Risiken durch KI-Angriffe

Wenn digitale Agenten im Namen realer Personen, Unternehmen oder Behörden agieren, müssen zwei Dinge garantiert sein. Erstens: Es muss klar sein, wer genau der Auftraggeber ist. Zweitens: Der Agent selbst muss eindeutig identifizierbar sein. Nur so lässt sich verhindern, dass Dritte mit gefälschten Identitäten auftreten, Zugriff auf sensible Daten erlangen oder Verträge abschließen, für die sie keine Autorisierung besitzen.

Fehlt dieses Vertrauen, droht nicht nur Missbrauch durch Fake-Agenten, sondern auch ein Systemrisiko für ganze Organisationen und Branchen.

Risiken ohne sicheres Identitätsmanagement

Zweifelsfreie Verifizierung und verbindliche digitale Identitäten sind deshalb die Grundvoraussetzungen, damit Agentic AI akzeptiert und bedenkenlos genutzt werden kann. Das sind die Gefahren:

• Identitätsdiebstahl und Fake-Agenten: Ohne Verifikation kann sich jeder als beliebige Person ausgeben. Das öffnet die Tür für Manipulation und Betrug – mit potenziell katastrophalen Folgen für die Wirtschaftlichkeit von Unternehmen, aber auch für unsere demokratischen Werte.

• Cyberangriffe über KI-Schnittstellen: Wenn Agenten auf Systeme zugreifen, ohne dass ihre Authentifizierung zuverlässig geprüft wird, entstehen neue Angriffspunkte für Cyberkriminelle.

• Unklare Haftung bei Fehlverhalten: Wenn nicht nachvollziehbar ist, wer hinter einer Entscheidung oder Handlung steht, wird es juristisch unmöglich, Verantwortung zuzuweisen – ein Albtraum für Compliance und Risikomanagement.

Kurzum: Ohne verlässliche Identitäten kein sicheres digitales Ökosystem mit KI-Agenten. Gefordert ist dafür der technologische Fortschritt, aber auch die Unterstützung durch die Politik. Sie muss einen verlässlichen Rahmen aus Governance und Regulierung schaffen, der dennoch genug Raum für Innovation lässt.

Das Fundament: Vertrauensvolle Sicherheitsinfrastrukturen

Was es braucht, ist ein robustes Framework für digitale Identitäten – für Menschen ebenso wie für KI-Agenten. Die Anforderungen an ein solches System sind hoch:

• Eindeutige digitale Identität: Jeder Akteur – menschlich oder maschinell – muss eindeutig und fälschungssicher identifiziert werden können.

• Kontinuierliche Autorisierungsprüfung: Berechtigungen dürfen nicht nur beim Login, sondern fortlaufend geprüft werden – insbesondere bei sensiblen Aktionen.

• Ende-zu-Ende-Verschlüsselung: Kommunikation und Datenübertragung müssen jederzeit geschützt sein, um Manipulation und Mitlesen zu verhindern.

• Transparenz und Nachvollziehbarkeit: Jede Transaktion und Handlung eines Agenten muss rückverfolgbar sein. Dies fördert Vertrauen in das System sowie Rechtssicherheit.

• Interoperabilität und Skalierbarkeit: Das Framework muss in verschiedenen Kontexten – von Smart Cities über E-Government bis zum Banking – einsatzfähig und zukunftssicher sein.

SuperApp-Plattformen als Enabler

Ein erfolgversprechender Ansatz, um solche Infrastrukturen bereitzustellen, sind sichere, multifunktionale SuperApp-Plattformen. Sie bündeln Identitätsmanagement, Kommunikation, Bezahlfunktionen und Autorisierungsprüfung in einem zentralen Ökosystem. Nutzer – ob Mensch oder Maschine – agieren innerhalb einer geschützten Umgebung, in der nur verifizierte Akteure zugelassen sind. Das schafft nicht nur Sicherheit und volle Transparenz, sondern macht die Digitalisierung komfortabel und nahtlos. Einmal eingeloggt, kann die verifizierte Person auf verschiedenste Services zugreifen – von digitalen Behördendiensten über Bankgeschäfte bis hin zu Online-Shopping – ohne die Plattform verlassen zu müssen. Diese Kombination aus Sicherheit und nutzerorientiertem Service ist die Grundlage, damit ein solches Ökosystem flächendeckend akzeptiert wird.

Der SuperApp-Gedanke ist längst nicht mehr nur theoretisch. In Asien bereits weit verbreitet, sind SuperApps auch in Europa im Einsatz – im Kontext universeller City-Apps. Sowohl Istanbul Senin, seit Jahren erfolgreich mit mehr als fünf Millionen Nutzern, als auch die myCity App in Worms basieren auf der SuperApp-Plattform von KOBIL. Sie kombinieren modulare Sicherheitsarchitektur mit integrierter digitaler Identität und verschlüsselter Kommunikation. So entsteht ein Umfeld, in dem auch KI-Agenten sicher eingebunden werden können – etwa für automatisierte Prozesse in der Verwaltung, bei der Terminvergabe, in der Transportlogistik oder in der personalisierten Kundeninteraktion.

Beispiel aus der Praxis

Das folgende Szenario zeigt, wie die Vorteile von Agentic AI innerhalb eines digitalen Ökosystems zum Tragen kommen: Ein heftiger Sturm trifft die Stadt, und ein Baum stürzt quer über eine viel befahrene Straße. Ein Bürger wird Zeuge des Vorfalls. Er macht mit seinem Handy ein Foto. Mit nur wenigen Klicks öffnet er die SuperApp der Stadt und meldet den Vorfall. Dies startet einen hochkomplexen, sicheren Workflow, der von KI-Agenten orchestriert wird. Eine verlässliche Sicherheitsplattform bildet dabei das unverzichtbare Rückgrat.

Zunächst wird die Identität des Bürgers sicher authentifiziert, sobald er den Bericht absendet. Die SuperApp nutzt die eigene Chat-Technologie, um alle Details des Berichts verschlüsselt an die zugrundeliegende KI-Plattform zu übertragen. Von hier an übernehmen eine Reihe spezialisierter KI-Agenten, unter anderem um:

• mit den Bürgern zu interagieren,

• die gemeldeten Anliegen zu analysieren und zu priorisieren,

• das nächstgelegene Feldteam zu identifizieren und

• mit dem Feldteam zu kommunizieren.

Jeder der KI-Agenten ist mit einer eindeutigen, kryptografisch gesicherten digitalen ID ausgestattet. Das menschliche Feldteam muss sich ebenfalls authentifizieren, bevor es Aufgaben annehmen kann. Während das Team ausrückt, den Baum entfernt und die Fahrbahn wiederherstellt, wird jedes Statusupdate und jede Kommunikation durch Verschlüsselung geschützt und automatisch protokolliert. Unterdessen erhält der Bürger Echtzeit-Updates, bis das Problem vollständig gelöst ist.

Fazit: Der sicherste Weg, Agentic AI beherrschbar zu machen

Das Beispiel verdeutlicht, wie es gehen kann, Agentic AI in einen kontrollierbaren, sicheren und vertrauenswürdigen Workflow einzubinden. Die Integration in die SuperApp-Plattform inklusive Identitätsmanagement minimiert nicht nur die Risiken – sondern lässt die Stärken der KI-Agenten zur Geltung kommen. So können sie Prozesse beschleunigen und Interaktion vereinfachen. Wer heute in sichere Identitätsstrukturen investiert, schafft die Voraussetzung für ein digitales Ökosystem, in dem Menschen und KI vertrauensvoll und effizient zusammenarbeiten.

(ID:50465362)