Mobile-Menu

Wenn KI Stimmen imitiert Fraunhofer entwickelt personenzentrierte Deepfake-Erkennung

Von Berk Kutsal 1 min Lesedauer

Anbieter zum Thema

Fraunhofer-Institut für Digitale Medientechnologie IDMT
Fujitsu Technology Solutions GmbH

Mit der zunehmenden Qualität KI-generierter Stimmen stoßen klassische Erkennungsverfahren an Grenzen. Das Forschungsprojekt PADSE entwickelt daher einen personenzentrierten Ansatz, der Audio-Deepfakes über individuelle Sprach- und Stimmprofile identifizieren soll.

Vertreterinnen und Vertreter der Projektpartner Deutsche Welle, Bauhaus-Universität Weimar und Fraunhofer IDMT sowie des Projektträgers trafen sich in Ilmenau zum Kick-off Meeting von PADSE.(Bild: Fraunhofer IDMT)
Vertreterinnen und Vertreter der Projektpartner Deutsche Welle, Bauhaus-Universität Weimar und Fraunhofer IDMT sowie des Projektträgers trafen sich in Ilmenau zum Kick-off Meeting von PADSE.
(Bild: Fraunhofer IDMT)

Audio-Deepfakes werden realistischer und damit zu einem wachsenden Risiko für Medienhäuser, Unternehmen und Behörden. Gefälschte Sprachnachrichten oder synthetisch erzeugte Interviews lassen sich inzwischen so überzeugend erstellen, dass klassische Erkennungsverfahren zunehmend an ihre Grenzen stoßen.

Genau hier setzt das Forschungsprojekt PADSE (Personenzentrierte, Audio- und sprachbasierte Deepfake-Erkennung) an. Dahinter stehen das Fraunhofer-Institut für Digitale Medientechnologie (IDMT), die Deutsche Welle und die Bauhaus-Universität Weimar.

Der Ansatz bricht mit bisherigen Methoden: Statt nur generische Merkmale künstlicher Stimmen zu analysieren, erstellt PADSE individuelle Sprach- und Stimmprofile realer Personen. Berücksichtigt werden dabei unter anderem Sprechtempo, Intonation, emotionale Muster und sprachliche Eigenheiten.

Eingehende Audioinhalte werden laut eigenen Angaben anschließend doppelt geprüft auf typische Deepfake-Indikatoren und darauf, ob sie zum jeweiligen Personenprofil passen. Damit verschiebe sich die Logik der Erkennung: nicht nur „echt oder fake“, sondern „passt diese Stimme überhaupt zu dieser Person?“.

Hintergrund sei eine zunehmende Missbrauchsgefahr. KI-generierte Sprachnachrichten werden bereits eingesetzt, um Führungskräfte oder Mitarbeiter zu imitieren und Entscheidungen zu manipulieren.

Die Deutsche Welle bringt journalistische Praxis und reale Anwendungsfälle ein, das Fraunhofer IDMT entwickelt die Audioforensik, die Bauhaus-Universität Weimar ergänzt sprach- und textanalytische Verfahren.

Ziel von PADSE ist es, Deepfake-Erkennung näher an reale Einsatzszenarien zu bringen, beispielsweise in Medien, Behörden und Unternehmen, wo Sprache zunehmend zur Angriffsfläche wird.

Damit verschiebt sich der Fokus weg von generischen KI-Spuren hin zu einem personenzentrierten Prüfmodell, das Stimme stärker als digitale Identität versteht.

(ID:50890741)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte