APA und ORF beteiligen sich an einem KI-Forschungsprojekt Erkennung von Falschinformationen

Von Christoph Kurth

Im Medienbereich oder bei Internetrecherchen stößt man immer wieder auf fragwürdige Inhalte oder sogenannte Fake News. APA und ORF beteiligen sich an einem Forschungsprojekt, um Falschinformationen bei solchen Meldungen per KI zu erkennen.

Firmen zum Thema

APA und ORF unterstützen KI-Forschungsprojekt zur Erkennung von Fake News.
APA und ORF unterstützen KI-Forschungsprojekt zur Erkennung von Fake News.
(Bild: Science Photo Library / picturedesk)

Derzeit arbeitet ein Konsortium des AIT – Austrian Institute of Technology an einem Tool, das die Falschinformationen erkennt, aber auch leicht zu bedienen ist. Mithilfe von KI sollen Anhaltspunkte für Manipulation bei Text, Bild, Video oder Audio herausgefiltert werden. Unterstützt wird das Forschungsprojekt von den Medienunternehmen APA – Austria Presse Agentur und ORF. Diese wollen dadurch die Resilienz gegenüber Fake News stärken.

Das KI-Forschungsprojekt

Das österreichische Forschungsprojekt „defalsif-AI“ startete im Oktober 2020 im Rahmen des Sicherheitsforschungsprogramms KIRAS und läuft noch bis September 2022.

Der erste Prototyp wurde bereits jetzt, nach der Hälfte der Laufzeit entwickelt. Das fertige Werkzeug soll so einfach wie möglich zu bedienen sein. Beispielsweise sollen verdächtige Videos oder Bilder auf eine Webseite hochgeladen werden, wo diese anschließend analysiert werden. Laut Martin Boyer, Projektleiter und AIT-Senior Research Engineer, ist es auch denkbar, nur die Internetadresse anzugeben, woraufhin die gesamte Webseite überprüft wird.

Zukunftssicher bleiben

Partner des Projekts ist Enlite AI, dessen Spezialgebiet generative Ansätze und die dabei verwendeten maschinellen Lernverfahren sind. Enlite AI soll die repräsentativen Beispiele und Datensätze für gefälschte Inhalte erstellen, an denen das AIT anschließen arbeitet.

Allerdings ist dies ein fortlaufender Prozess. Denn wird ein Fälscher enttarnt, verbessert dieser in der Regel seine Methoden. Folglich müssen auch die Detektionsmethoden laufend weiterentwickelt werden, um zukunftssicher zu bleiben.

(ID:47894130)