KI gegen Fake News Wie Künstliche Intelligenz Desinformation bekämpfen soll

Anbieter zum Thema

Technische Universität

Fsas Technologies GmbH

BigData-Insider

Insider Research

Desinformation und Fake News verbreiten sich in sozialen Medien schneller als je zuvor. Während traditionelle Faktenchecks oft erst im Nachhinein eingreifen, forscht die TU Berlin an einer neuen Lösung: Künstliche Intelligenz (KI), die Fake News frühzeitig erkennt und die gesellschaftliche Widerstandsfähigkeit stärkt.

Mit den Projekten VeraXtract und news-polygraph arbeitet die Forschungsgruppe XplaiNLP an einer der größten deutschsprachigen KI-Plattformen zur Erkennung von Desinformationen und Fake News. Laut Dr. Vera Schmitt, Leiterin der Forschungsgruppe XplaiNLP an der TU Berlin, liegt die größte Schwierigkeit im zeitlichen Faktor: „Das Hauptproblem ist, dass Faktenchecks immer im Nachhinein stattfinden. Wenn eine Desinformation erst einmal verbreitet und gelesen wurde, bleibt sie oft stärker im Bewusstsein der Menschen haften – selbst, wenn ein nachträglicher Faktencheck sie widerlegt.“

Mit KI-gestützten Tools wie VeraXtract und news-polygraph soll dieser Nachteil ausgeglichen werden. Während VeraXtract auf die Identifikation und Analyse von Desinformationsnarrativen spezialisiert ist, soll news-polygraph als multimodale Plattform Texte, Bilder, Videos und Audiodateien auf ihren Wahrheitsgehalt prüfen.

Wie funktioniert das Narrative Monitoring Tool?

Ein zentrales Element der Forschung sei das Narrative Monitoring Tool. Es soll nicht nur einzelne Falschmeldungen identifizieren, sondern auch größere Zusammenhänge und Erzählstrukturen aufdecken. Dabei nutzt die KI verschiedene Methoden:

• Erkennung von Mustern: Die KI analysiert sprachliche und inhaltliche Merkmale, die typischerweise in Desinformationskampagnen vorkommen.

• Verbreitungsanalyse: Durch das Tracking von Fake News in sozialen Medien wird sichtbar, wie sich bestimmte Narrative verbreiten.

• Evidenzbasierte Aufklärung: Die KI liefert kontextbezogene Faktenchecks und zeigt auf, welche Desinformationsstrategien genutzt werden.

Langfristig soll das Tool als Browser-Plug-in verfügbar sein, das automatisch Warnhinweise und Hintergrundinformationen liefert, wenn Nutzer auf potenziell irreführende Inhalte stoßen.

news-polygraph: Die nächste Generation des Fact-Checking

Speziell für Journalist entwickelt, soll news-polygraph eine multimodale KI-Plattform sein, die verschiedene Medienformate analysiert. Während viele Fact-Checking-Tools auf Texte fokussiert sind, setzt news-polygraph auf eine ganzheitliche Analyse, die auch Bilder, Audio- und Videoinhalte einbezieht. Erste Tests mit Medienpartnern wie der Deutschen Welle und dem RBB sind für April geplant.

Der große Vorteil: Die Plattform kann automatisch Suchanfragen generieren, bekannte Desinformationen mit aktuellen Behauptungen abgleichen und die Ergebnisse transparent darstellen. „Unsere Vision ist eine KI, die Journalistinnen und Journalisten eine objektive Entscheidungsgrundlage liefert und Fake News bereits in der Verbreitungsphase stoppt“, erklärt Schmitt.

Wie KI den gesellschaftlichen Zusammenhalt stärken kann

Neben der Bekämpfung von Fake News sieht Schmitt in der KI auch ein Werkzeug, um die gesellschaftliche Polarisierung zu verringern. „Hier könnten die Algorithmen so gestaltet werden, dass sie nicht nur unsere bisherigen Likes und Präferenzen verstärken, sondern auch gezielt Inhalte präsentieren, die eine größere Vielfalt an Meinungen, Kulturen oder Sichtweisen abbilden“, sagt sie. Das könnte Filterblasen aufbrechen und zu einem differenzierteren Weltbild beitragen.

Die Forschung der TU Berlin will aufzeigen, dass KI eine entscheidende Rolle im Kampf gegen Desinformation spielen kann. Durch Tools wie VeraXtract und news-polygraph könnten Fake News in Zukunft schneller erkannt und entkräftet werden. Die große Herausforderung bleibt jedoch, die Technologie effizient in bestehende Medienstrukturen zu integrieren und eine breite gesellschaftliche Akzeptanz für KI-gestützte Faktenchecks zu schaffen.

(ID:50323246)