Vom Fact-Checking zur Vertrauensarchitektur Gartner: Wie Behörden bis 2028 die Deepfake-Krise eindämmen wollen

Anbieter zum Thema

Gartner Inc

Vogel IT-Medien GmbH

Board Deutschland GmbH

Insider Research

Staatliche Organisationen müssen von reaktiver Faktenprüfung zu proaktiver Vertrauensarchitektur übergehen, um Deepfake-Bedrohungen wirksam zu begegnen.

Deepfakes sind längst kein Kuriosum mehr, das sich auf gefälschte Promi-Videos beschränkt. Wenn der vermeintliche Ministerpräsident eine Krisenbotschaft verliest, die nie stattgefunden hat, oder ein Steuerportal täuschend echt nachgebaut wird, steht mehr auf dem Spiel als ein PR-Problem. Gartner sieht deshalb eine neue operative Disziplin auf Behörden zukommen: TrustOps.

Die Prognose des Analystenhauses: Bis 2028 sollen 40 Prozent der staatlichen Organisationen weltweit eigene TrustOps-Funktionen etablieren, um Deepfake-basiertem Identitätsbetrug und dem wachsenden Phänomen „Disinformation-as-a-Service“ (DaaS) entgegenzutreten. DaaS beschreibt die Kommerzialisierung von Desinformation, also die Möglichkeit, synthetische Inhalte wie gefälschte Videos oder Audiodateien als Dienstleistung einzukaufen.

„Wenn Bürgerinnen und Bürger eine echte Ankündigung des Premierministers oder ein sicheres Portal der Steuerbehörde nicht mehr zuverlässig von einer Fälschung unterscheiden können, gerät die Wahrheit ins Wanken“, sagte Daniel Nieto, Senior Director Analyst bei Gartner.

Kampf gegen Deepfakes

Wie sicher ist die Wahrheit im Netz?

Zwei Fronten, ein Problem

Gartner unterscheidet zwei Angriffsvektoren: Nach außen zielen Deepfakes auf die öffentliche Kommunikation. Führungspersönlichkeiten werden imitiert, um irreführende Erklärungen zu verbreiten. Nach innen richten sich die Angriffe gegen biometrische Authentifizierungssysteme und Mitarbeiter. Stimm- oder Gesichtserkennung lässt sich per synthetischem Medium umgehen; Social Engineering mit geklonten Stimmen von Vorgesetzten erzeugt Dringlichkeit und Autorität, die zu Fehlhandlungen verleiten soll.

Dass biometrische Verfahren allein nicht mehr genügen, hatte Gartner bereits in einer früheren Prognose betont: Bis 2026 sollten 30 Prozent der Unternehmen Gesichtsbiometrie als alleinige Authentifizierung nicht mehr für zuverlässig halten. Die aktuelle TrustOps-Forderung knüpft direkt daran an.

Was Gartner konkret empfiehlt

Gartner betont: Deepfakes seien kein reines IT-Problem, sondern eine funktionsübergreifende Krise ohne klassischen „Single Owner“ in der Organisationsstruktur. Behörden sollten drei Maßnahmen kurzfristig umsetzen:

• Trust Council einrichten: Ein Steuerungsgremium aus IT, Recht, Kommunikation und HR soll die digitale Identität der Organisation schützen und Desinformationsaktivitäten nach innen wie außen koordinieren.

• Geschäftsprozesse härten: Risikoreiche Abläufe wie Finanzfreigaben sollen überprüft und mit Mehrfach-Genehmigungen sowie App-Level-Authentifizierung abgesichert werden. So lassen sich Single-Point-of-Failure-Schwachstellen eliminieren, die per stimmgeklontem Vorgesetzten ausnutzbar wären.

• Deepfake-Verifikationsverfahren entwickeln: Standardisierte Prüfabläufe (SOPs) mit Schritt-für-Schritt-Anleitungen sollen Mitarbeiter befähigen, verdächtige digitale Interaktionen technisch zu prüfen und synthetisch erzeugte Inhalte zu erkennen.

KI-Fälschungen sind visuell kaum noch erkennbar

Wie IT-Forensiker Deepfakes aufdecken

Wahrheit vorbesetzen statt Fälschungen hinterherlaufen

Eine zentrale Aussage von Gartner: Behörden könnten einem viralen Deepfake nicht mehr hinterherlaufen, sobald er einmal im Umlauf sei. Stattdessen müssten sie den Informationsraum vorab mit verifizierten Inhalten füllen. Die Beweislast für Echtheit solle dabei nicht beim Bürger liegen, sondern in der institutionellen Architektur verankert sein.

Auch die Forschung arbeitet an KI-basierten Werkzeugen, die manipulierte Medien automatisiert erkennen sollen, etwa an der FAU Erlangen-Nürnberg in Kooperation mit Secunet. Parallel entwickeln Projekte wie VeraXtract und news-polygraph an der TU Berlin KI-Systeme, die Desinformationsnarrative identifizieren und analysieren.

Kampf gegen pornographische Fakes

Fitzek verlangt harte Strafen für KI-Firmen bei Deepfakes

Nieto warnt zudem vor einer paradoxen Folge: Deepfakes könnten die Erträge der Digitalisierung umkehren, indem sie einen Rückfall zu papiergestützten Prozessen und persönlichen Vor-Ort-Interaktionen erzwingen. Was als digitale Transformation begann, würde dann zu einer digitalen Regression.

Langfristig empfiehlt Gartner die Einführung des C2PA-Protokolls. Der offene Standard der Coalition for Content Provenance and Authenticity, getragen unter anderem von Adobe, Microsoft und der BBC, versieht digitale Medien mit kryptografisch gesicherten Metadaten. Damit lässt sich die Herkunft und Bearbeitungshistorie von Bildern, Videos und Audiodateien manipulationssicher nachvollziehen. Behörden sollten laut Gartner dieses Protokoll für alle offiziellen digitalen Medien verpflichtend einsetzen.

(ID:50848997)