Gartner empfiehlt strategische Maßnahmen Mehr Datenschutzverletzungen durch GenAI-Missbrauch

Anbieter zum Thema

Gartner Deutschland GmbH

Board Deutschland GmbH

INFOMOTION GmbH

QUNIS GmbH

Laut Gartner wird der unsachgemäße grenzüberschreitende Einsatz von GenAI bis 2027 mehr als 40 Prozent aller KI-Datenschutzverletzungen verursachen. Die rasante Verbreitung von generativer KI habe die Entwicklung von Datenschutz- und Sicherheitsmaßnahmen überholt.

„Unbeabsichtigte grenzüberschreitende Datenübertragungen entstehen oft durch mangelnde Kontrolle – insbesondere dann, wenn GenAI unbemerkt in bestehende Produkte integriert wird, ohne klare Hinweise oder Ankündigungen“, erklärt Jörg Fritsch, VP Analyst bei Gartner. „Unternehmen stellen Veränderungen in den Inhalten fest, die ihre Mitarbeitenden mit GenAI-Tools erstellen. Zwar können diese Tools für autorisierte Geschäftsanwendungen genutzt werden, doch sie bergen erhebliche Sicherheitsrisiken, wenn sensible Eingaben an KI-Tools oder APIs gesendet werden, die an unbekannten Standorten gehostet sind.“

Globale KI-Standardisierungslücken führen zu betrieblicher Ineffizienz

Fehlende einheitliche globale KI-Standards zwingen Unternehmen dazu, regionsspezifische Strategien zu entwickeln. Das sei ein Hindernis für die Skalierbarkeit und den wirtschaftlichen Nutzen von KI.

„Die Komplexität der Verwaltung von Datenströmen und der Aufrechterhaltung der Qualität aufgrund lokaler KI-Richtlinien kann zu betrieblichen Ineffizienzen führen“, so Fritsch. „Unternehmen müssen in fortschrittliche KI-Governance und -Sicherheit investieren, um sensible Daten schützen und Compliance gewährleisten zu können. Dieser Bedarf wird das Wachstum der Märkte für KI-Sicherheits-, Governance- und Compliance-Dienstleistungen sowie für Technologielösungen, die die Transparenz und Kontrolle über KI-Prozesse verbessern, antreiben.“

Unternehmen müssen handeln, bevor KI-Governance weltweit zur Pflicht wird

Gartner prognostiziert, dass KI-Governance bis zum Jahr 2027 in allen staatlichen KI-Gesetzen und -Vorschriften weltweit verankert sein wird.

„Unternehmen, die nicht in der Lage sind, die erforderlichen Governance-Modelle und -Kontrollen zu integrieren, könnten einen Wettbewerbsnachteil erleiden, insbesondere wenn sie nicht über die Ressourcen verfügen, bestehende Data-Governance-Frameworks schnell zu erweitern“, sagt Fritsch.

Um die Risiken von Datenschutzverletzungen durch KI, insbesondere durch grenzüberschreitenden GenAI-Missbrauch, zu senken und die Compliance zu gewährleisten, empfiehlt Gartner den Unternehmen folgende strategische Maßnahmen:

• Verbesserte Data Governance: Unternehmen sollten die Einhaltung internationaler Vorschriften sicherstellen und unbeabsichtigte grenzüberschreitende Datenübertragungen überwachen, indem sie die Data-Governance-Frameworks um Richtlinien für KI-verarbeitete Daten erweitern. Dies beinhaltet die Einbeziehung von Prüfungen der Datenherkunft und der Auswirkungen von Datentransfers in regelmäßige Datenschutzfolgenabschätzungen.

• Governance-Gremien: Um die KI-Aufsicht zu verbessern und eine transparente Kommunikation über KI-Einsätze und Datenverarbeitung zu gewährleisten, sollten spezielle Gremien eingerichtet werden. Diese müssen für die technische Aufsicht, das Risiko- und Compliance-Management sowie für Kommunikation und Entscheidungsberichterstattung zuständig sein.

• Mehr Datensicherheit: Zum Schutz sensibler Daten sind moderne Technologien, Verschlüsselung und Anonymisierung erforderlich. Beispielsweise sollten Trusted Execution Environments in bestimmten geografischen Regionen überprüft und fortschrittliche Anonymisierungstechnologien wie Differential Privacy eingesetzt werden, sollten die Daten diese Regionen verlassen müssen.

• Investitionen in TRiSM-Produkte: Budgets für TRiSM-Produkte und -Funktionen (Trust, Risk and Security Management), die auf KI-Technologien zugeschnitten sind, sollten eingeplant und bereitgestellt werden. Dazu gehören KI-Governance, Datensicherheits-Governance, Filterung und Schwärzung von Daten sowie die synthetische Generierung unstrukturierter Daten. Gartner prognostiziert, dass Unternehmen, die KI-TRiSM-Kontrollen anwenden, bis 2026 mindestens 50 Prozent weniger ungenaue oder unzulässige Informationen erhalten und damit fehlerhafte Entscheidungen reduzieren werden.

(ID:50332239)