Mobile-Menu

Projekt AIgenCY beleuchtet Chancen und Risiken Forschung rund um GenAI in der Cybersicherheit gestartet

Von Martin Hensel 1 min Lesedauer

Anbieter zum Thema

Fraunhofer AISEC - Fraunhofer- Einrichtung für Angewandte und Integrierte Sicherheit
Fsas Technologies GmbH
Board Deutschland GmbH
QUNIS GmbH

Im Zuge des Forschungsprojekts „AIgenCY – Chancen und Risiken generativer KI in der Cybersicherheit“ untersuchen Experten aus Wissenschaft und Industrie die Implikationen generativer KI (GenAI) für die Cybersicherheit.

Das Projekt Projekt AIgenCY forscht zu Chancen und Risiken von generativer KI im Bereich Cybersicherheit.(Bild: © Adobe Stock / Катерина Євтехова)
Das Projekt Projekt AIgenCY forscht zu Chancen und Risiken von generativer KI im Bereich Cybersicherheit.
(Bild: © Adobe Stock / Катерина Євтехова)

Das Projekt AIgenCY wird vom Bundesamt für Bildung und Forschung (BMBF) unterstützt. Unter Federführung des Fraunhofer-Instituts für Angewandte und Integrierte Sicherheit AISEC sind auch das CISPA – Helmholtz-Zentrum für Informationssicherheit, die Technische Universität Berlin, die Freie Universität Berlin sowie die KI-Spezialisten von Aleph Alpha an Bord. Ziel ist es, die komplexen Effekte von GenAI auf die Cybersicherheit zu analysieren, insbesondere hinsichtlich kritischer nationaler Infrastrukturen.

Resilienz gegen GenAI-basierte Bedrohungen stärken

Die Fähigkeiten generativer KI eröffnen zahlreiche Chancen, bergen aber auch signifikante Risiken. AIgenCY soll potenzielle Bedrohungen durch KI-generierte Inhalte erkennen und robuste Abwehrstrategien entwickeln. Das Festigen der digitalen Souveränität Deutschlands und der Schutz kritischer Umgebungen steht dabei im Fokus.

Zu diesem Zweck wird ein Experimentallabor eingerichtet, das die Anwendbarkeit von GenAI in praxisnahen Szenarien erforschen soll. Die Themen umfassen dabei Malware-Bekämpfung, Verhinderung von Social Engineering, Desinformation und betrügerischen Kampagnen, Informationssammlung und -aufbereitung, Erklärbarkeit und Inferenz sowie Watermarking und Anomalieerkennung.

„Mit dem Projekt AIgenCY haben wir die Chance, die Weichen für eine sichere digitale Zukunft zu stellen und KI-Innovationen im Sinne einer resilienten Gesellschaft voranzutreiben“, erklärt Prof. Dr. Claudia Eckert, Institutsleiterin des Fraunhofer AISEC. Dank einer Förderung von fünf Millionen Euro durch das BMBF über die nächsten drei Jahre sei AIgenCY auf einem guten Weg, dieses zukunftsrelevante Forschungs- und Innovationsfeld maßgeblich mitzugestalten.

(ID:49969548)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte