„Breaking Data“ – der Podcast zu Datenanalyse und AI. In der 21. Folge sprechen wir über das Spannungsfeld von Künstlicher Intelligenz und Kreativität. Zu Gast ist Prof. Dr. Bastian Martschink, Professor für Data-driven Marketing, Analytics und Data Science in Unternehmen an der Hochschule Düsseldorf und Autor der beiden Krimi-Romane „Finn Dever: Letzter Blick“ und „Finn Dever: Täuschung“.

Der Übergang vom antwortenden Sprachmodell zum handelnden Agenten markiert einen technischen Bruch, dessen Bewältigung sich in rigider Engineering-Disziplin manifestiert, nicht in größeren Modellen. Während die Industrie auf Parameteranzahl fixiert bleibt, entscheidet sich der praktische Erfolg an Orchestrierung, Observability, Berechtigungsstrukturen und Evaluation – Domänen weit jenseits des Modelltrainings.

Der AI Act macht Cybersicherheit zur Pflicht für KI-Systeme, aber die meisten Unternehmen sind nicht darauf vorbereitet. Manipulierte Trainingsdaten können KI-Systeme unbemerkt zu falschen Entscheidungen zwingen. Wer jetzt nicht handelt, verliert die Kontrolle über geschäfts­kritische KI-Entscheidungen.

Auf seiner AI Tour 2026 präsentiert Microsoft Produkte und Pläne für agentische AI. Kundenbeispiele zeigen, was versucht wird und zukünftig möglich sein könnte.

Video- und KI-Systeme in Kliniken helfen, Abläufe zu überwachen, Sicherheit zu erhöhen und Personal zu entlasten. Gleichzeitig verarbeiten sie hochsensible Bild- und Videodaten. Wer Video-KI im Krankenhaus betreibt, muss Datenschutz, IT-Sicherheit und Betriebssicherheit neu denken.

Die Ära der passiven KI-Assistenten in der IT-Sicherheit soll sich dem Ende zuneigen. Während Unternehmen heute noch auf Chatbots und einfache Analyse-Tools setzen, stehe die nächste Evolutionsstufe bereits vor der Tür: Autonome Multi-Agenten-Systeme (MAS). Der Cybersecurity-Spezialist Ontinue prognostiziert einen radikalen Wandel, der bis zum Jahr 2030 in einem weitgehend vollautomatisierten Security Operations Center (SOC) münden wird. Doch während die technologische Vision besticht, werfen die praktischen Implikationen kritische Fragen auf.

Das Bug-Bounty-Programm des beliebten Kommandozeilenprogramms und der Bibliothek cURL wurde eingestellt. Grund dafür sei die zunehmende Flut an minder­wertigen, KI-generierten und teils gefälschten Berichten über Si­cherheitslücken gewesen.

Vom Chatbot zum handelnden Akteur: Das Digital Twin Consortium (DTC) hat ein Manifest veröffentlicht, das die Governance-Anforderungen für industrielle KI-Agenten definiert. Ziel ist der sichere Übergang von der generativen Unterstützung hin zu vertrauenswürdigen, autonomen Operationen in der Fertigung und Infrastruktur.

„Breaking Data“ – der Podcast zu Datenanalyse und AI. In der 20. Folge sprechen wir darüber, wie wichtig es ist, sogenannte Low-Resource-Sprachen – wie etwa Minderheitensprachen – in KI-Modelle zu integrieren. Zu Gast ist Prof. Dr. Alexander Fraser, Inhaber des Lehrstuhls für Data Analytics & Statistics an der TU München, Campus Heilbronn.

KI-Systeme geraten zunehmend ins Visier von Angreifern und klassische IT-Sicherheit reicht nicht mehr aus. Um sich vor Jailbreaking, Model Stealing und Data Poisoning zu schützen, müssen Unternehmen ihre Architektur absichern und Schutzmechanismen außerhalb des Modells verankern.