Kommentar von Peter Wüst, Salesforce Mit dem Einzug autonomer Agenten wird Datenqualität zur Sicherheitsfrage

Anbieter zum Thema

Board Deutschland GmbH

INFOMOTION GmbH

QUNIS GmbH

Künstliche Intelligenz (KI) entwickelt sich rasant weiter und eröffnet neue Wege, wie Unternehmen Prozesse automatisieren, Innovation beschleunigen und ihre Belegschaft durch autonome Agenten nahezu unendlich ausbauen können. Gleichzeitig entstehen durch agentische KI-Systeme neue Herausforderungen für IT- und Sicherheitsverantwortliche.

Der aktuelle „State of IT: Security“-Report von Salesforce * zeichnet ein differenziertes Bild der Sicherheitslage in deutschen Unternehmen und zeigt die Notwendigkeit eines Paradigmenwechsels in der sicherheitsbezogenen IT-Governance auf.

Drei Viertel der weltweit befragten IT-Verantwortlichen planen im kommenden Jahr erhöhte Investitionen in ihre Sicherheitsarchitektur. Diese Entwicklung ist eine direkte Reaktion auf das wachsende Bedrohungspotenzial durch KI-gestützte Angriffsvektoren. In Deutschland halten 80 Prozent der IT-Entscheider neue Sicherheitsvorkehrungen im Zuge zunehmender KI-Nutzung für notwendig. Als zentrale Risiken gelten insbesondere Datenpannen, KI-gestützte Angriffe sowie algorithmische Voreingenommenheit (Bias) und Diskriminierung. 80 Prozent der deutschen Befragten gehen davon aus, dass KI-basierte Cyberangriffe in der Lage sind, traditionelle Sicherheitsmechanismen zu überwinden. Zugleich glauben 72 Prozent, dass KI-Agenten neue Möglichkeiten für die IT-Sicherheit eröffnen.

Diese Entwicklung verstärkt die ohnehin dynamische Bedrohungslage: Die Angriffsflächen digitaler Infrastrukturen haben sich in den vergangenen Jahren durch Cloud-Technologien, IoT-Anwendungen und hybride Arbeitsumgebungen deutlich erweitert. Mit dem zunehmenden Einsatz von KI in offensiven wie defensiven Sicherheitsanwendungen verändert sich das Bedrohungsspektrum grundlegend. Automatisierte Phishing-Kampagnen, Deepfakes zur Identitätsmanipulation und KI-gestützte Exploits von Zero-Day-Schwachstellen verlangen nach neuen technologischen und organisatorischen Schutzstrategien.

Parallel dazu rücken auch Compliance-Fragen in den Fokus. Für 75 Prozent der deutschen Befragten erschwert die zunehmende Komplexität in der Regulierung die Einhaltung von Vorschriften. Die Anforderungen an Datenschutz, Nachvollziehbarkeit und Transparenz steigen, während gleichzeitig viele Unternehmen noch nicht über die notwendige organisatorische und technologische Reife verfügen, um diesen Vorgaben gerecht zu werden. So fühlen sich 44 Prozent nicht ausreichend auf neue KI-bezogene Regulierungen vorbereitet.

Doppelte Wirkung: Risiko und Ressource

Agentische KI-Systeme werden dabei zunehmend als zweischneidiges Schwert wahrgenommen. Einerseits identifizieren 100 Prozent der globalen sowie in Deutschland befragten Sicherheitsverantwortlichen mindestens eine konkrete Problemstellung, bei der KI-Agenten potenziell zur Lösung beitragen können: Hervorgehoben werden automatisierte Incident-Response-Maßnahmen, Schwachstellenanalysen, Anomalieerkennung und Verhaltensanalysen.

Andererseits erkennen 79 Prozent der globalen Sicherheitsexperten auch neue Risiken im Zusammenhang mit KI-Agenten – insbesondere in Form von unvorhersehbarem Verhalten, mangelnder Transparenz und angreifbaren Modellen. Dies führt zu einem Paradigmenwechsel in der Sicherheitsarchitektur: Weg von rein defensiven Ansätzen, hin zu einer aktiven, datenbasierten Abwehrstrategie, die sowohl präventiv als auch adaptiv auf sich wandelnde Bedrohungsszenarien reagiert.

Dabei zeigt sich ein Trend zur Integration von KI-gestützten Sicherheits-Tools in sogenannte Defense-in-Depth-Strategien. Durch Kombination von maschinellem Lernen, Threat Intelligence und automatisierter Reaktion auf Vorfälle sollen nicht nur Erkennungsraten verbessert, sondern auch Reaktionszeiten reduziert werden. In hochregulierten Branchen wie Finanzdienstleistungen oder der Pharmaindustrie ist die Automatisierung von Compliance-relevanten Sicherheitsprozessen zudem ein entscheidender Effizienzfaktor.

Von Datenqualität zu Datenresilienz

Doch der Erfolg dieser KI-gestützten Sicherheitsansätze steht und fällt mit einer oft unterschätzten Voraussetzung: der Qualität der zugrunde liegenden Daten. Denn die Basis für den effektiven Einsatz von KI-Agenten liegt in der Verfügbarkeit hochwertiger Daten. Doch genau hier mangelt es noch: So geben nur etwas mehr als die Hälfte der deutschen Compliance-Verantwortlichen (51 Prozent) an, dass ihre Datenqualität ausreicht, um agentische KI sicher und zielgerichtet zu integrieren. Abhilfe schaffen können Lösungen wie die Salesforce Data Cloud, die mit Zero-Copy-Integrationen in Plattformen wie Snowflake und Databricks die Aktivierung strukturierter und unstrukturierter Unternehmensdaten ermöglicht.

Weltweit liegt der Fokus daher zunehmend auf dem Ausbau von Datenresilienz. Dazu gehören technische Maßnahmen wie Zugriffskontrollen, Echtzeit-Monitoring und automatisierte Back-ups, aber auch organisatorische Strategien zur Einbindung von Data Stewards (Datenverantwortlichen), um Daten-Governance-Modelle zu etablieren und Fachabteilungen in Bezug auf den Umgang mit sensiblen Informationen zu schulen.

In der Praxis zeigt sich, dass Unternehmen, die Data Governance als Querschnittsaufgabe zwischen IT, Fachbereich und Compliance verankern, deutlich besser auf die Anforderungen im Kontext agentischer KI vorbereitet sind. Datenqualität ist nicht länger nur eine Frage der Operationalisierung von Analytics-Projekten, sondern ein integraler Bestandteil der Sicherheitsarchitektur.

DevSecOps macht den Unterschied bei Sicherheit und Skalierbarkeit

Um diese Datenanforderungen in die Praxis zu überführen, bedarf es einer strukturierten Vorgehensweise und moderner Entwicklungsansätze – etwa in Form von DevSecOps (Development, Security and Operations), um Sicherheitsaspekte entlang des ganzen Prozesses der Anwendungsentwicklung zu integrieren. Ein zentrales Ergebnis des Reports ist, dass viele Unternehmen bei der Governance agentischer KI noch Nachholbedarf sehen. Nur 47 Prozent der weltweit Befragten geben an, KI-Agenten derzeit regulatorisch und standardkonform einsetzen zu können. Auch Audit-Fähigkeiten, Erklärbarkeit und Berechtigungsmanagement sind oft unzureichend implementiert. Die mangelnde Standardisierung erschwert die durchgängige Integration von KI-Agenten in geschäftskritische Prozesse.

Für Organisationen, die bereits nach DevSecOps-Prinzipien arbeiten, zeigt sich hingegen ein klarer Vorteil: Sie verfügen über strukturierte Sicherheitsprotokolle, automatisierte Testverfahren, versionierte Richtlinien und durchgängige CI/CD-Pipelines mit Sicherheitsprüfungen. So erreichen sie höhere Release-Geschwindigkeiten, ohne die Sicherheit zu kompromittieren und können regulatorische Anforderungen lückenlos einhalten.

Vertrauen in Daten wird zur strategischen Schlüsselressource

Auch auf der Beziehungsebene zu Kunden gewinnt IT-Sicherheit neue Relevanz. Das Vertrauen der Kunden in den Umgang mit ihren Daten durch Unternehmen schwindet zunehmend – insbesondere im Kontext von KI. Viele empfinden Kontrollverlust und sehen keinen persönlichen Nutzen in der Datennutzung. Mit wachsendem KI-Einsatz verstärkt sich diese Vertrauensdynamik.

IT- und Sicherheitsteams können dem entgegenwirken, indem sie Schutzmechanismen für KI etablieren, Transparenz schaffen, die Ergebnisqualität verbessern und Kundenfeedback einbeziehen. Bei Salesforce ist für diese Anforderungen der Trust Layer direkt in die KI-Plattform integriert. Für die Entwicklung seiner Lösungen nutzt Salesforce dafür Verfahren, Tools und Rahmenwerke und stellt sie auch seinen Kunden für die Nutzung der Produkte bereit. Dadurch werden unter anderem Voreingenommenheit und diskriminierende Ergebnisse vermieden sowie die Erklärbarkeit von Ergebnissen und somit die Vertrauenswürdigkeit sowie Transparenz gewährleistet.

Denn die Voraussetzung für Vertrauen ist Transparenz: Nur 43 Prozent der weltweit befragten Sicherheitsverantwortlichen halten die Erklärbarkeit der KI-Ergebnisse ihrer Systeme für exzellent. Kunden wünschen sich verstärkt Nachvollziehbarkeit und Kontrolle. Unternehmen, die dies umsetzen, können sich langfristig differenzieren.

Im Hinblick auf die Erklärbarkeit liegt die Herausforderung nicht allein darin, technische Modelle offenzulegen. Auch eine kontinuierliche Dokumentation von Prozessen ist nötig, ebenso wie Entscheidungen für KI-Modelle zu validieren und zu kommunizieren. Sicherheitsverantwortliche müssen daher eng mit Datenschutz-, Fachbereichs- und Rechtsabteilungen zusammenarbeiten, um Erklärbarkeit nicht nur technisch, sondern auch ethisch und juristisch abzusichern.

Sicherheitsarchitektur als strategische Chance

Sicherheitsarchitekturen entwickeln sich von reaktiven Schutzmechanismen zu strategischen Enablern digitaler Innovation. Diese Transformation im Kontext agentischer KI erfordert eine ganzheitliche Perspektive: technologisch fundiert, regulatorisch anschlussfähig, organisatorisch eingebettet und kulturell verankert. Wer diese Dimensionen erfolgreich verzahnt, kann das Potenzial agentischer KI voll ausschöpfen – und zugleich Risiken begrenzen, regulatorische Vorgaben erfüllen und Vertrauen nachhaltig stärken.

* Der „State of IT: Security“-Report von Salesforce basiert auf einer weltweiten Doppelblind-Befragung von 4.275 IT-Entscheidern, darunter 2.138 Verantwortliche für Security, Privacy und Compliance. In Deutschland wurden 200 Entscheiderinnen und Entscheider einbezogen.

(ID:50568358)