Forschung Chatbot kann bösartigen Code generieren

Quelle: Sandro Kipar

Anbieter zum Thema

Der für die Öffentlichkeit zugängliche Chatbot ChatGPT von Open AI kann Phishing-E-Mails mit Schadsoftware generieren. Forscher warnen, dass KI die Cybersicherheitslandschaft stark verändern wird.

Chat GPT basiert auf KI und wurde mit Text aus Online-Foren, sozialen Medien, Nachrichtenartikeln und Büchern trainiert. Der Chatbot wird dadurch in die Lage versetzt, eine menschenähnliche Unterhaltung zu führen.
Chat GPT basiert auf KI und wurde mit Text aus Online-Foren, sozialen Medien, Nachrichtenartikeln und Büchern trainiert. Der Chatbot wird dadurch in die Lage versetzt, eine menschenähnliche Unterhaltung zu führen.
(Bild: Wanan - stock.adobe.com)

Die Sicherheitsforschungsabteilung von Check Point Software Technologies hat den Chatbot ChatGPT nutzen können, um schädlichen Code und E-Mails zu generieren. Laut einer Mitteilung konnte mithilfe des Chatbots eine Phishing-E-Mail mit einem bösartigen Excel-Anhang erstellt werden. Bei ChatGPT handelt es sich um einen frei nutzbaren KI-Chat-Bot, der seinen Nutzern auf der Grundlage im Internet zu findender Daten kontextbezogene Antworten liefern kann.

Demnach haben die Forscher es nur mit drei einfachen Anweisungen geschafft, dass der Bot die bösartige E-Mail generiert. „Diese KI-Technologien stellen einen weiteren Schritt hin zu ausgefeilteren Cyberfähigkeiten dar. Die Welt der IT-Sicherheit verändert sich rasant. Umso wichtiger ist es, wachsam zu bleiben, da diese neue Technologie die Bedrohungslandschaft beeinflussen wird“, sagt Sergey Shykevich, Threat Intelligence Group Manager bei Check Point Software.

Anleitung zum Einbruch

Seit ChatGPT am 30. November 2022 der Öffentlichkeit zugänglich gemacht wurde, sorgt die KI regelmäßig für Schlagzeilen. Forscher warnen etwa, dass der Bot auch Fakenews verbreiten kann und es schwieriger macht, wissenschaftliche von unwissenschaftlichen Texten zu unterscheiden. Auch die Anleitungen zu Straftaten, wie der Einbruch in Häuser oder das Zusammenbauen von Molotow-Cocktails, sorgten bereits für Aufsehen. Das Unternehmen hinter dem Chatbot, Open AI, schreibt auf seiner Website: „ChatGPT ist nicht mit dem Internet verbunden und kann auch falsche Antworten liefern. Die KI hat nur wenige Informationen über Ereignisse und Entdeckungen nach 2021 und kann auch gelegentlich schädliche Anweisungen oder voreingenommene Inhalte produzieren.“ Open AI gibt außerdem an, dass es die Gespräche mit der KI überprüft, um die Systeme zu verbessern und um sicherzustellen, dass der Inhalt den Richtlinien und Sicherheitsanforderungen des Unternehmens entspricht.

Dieser Artikel stammt von unserem Partnerportal Industry of Things.

(ID:49018997)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung