Mobile-Menu

Compliance für autonome KI-Systeme Open-Source-Tool gibt KI-Agenten regulatorische Leitplanken

Von Berk Kutsal 1 min Lesedauer

Anbieter zum Thema

Eye Security
Board Deutschland GmbH
Insider Research
Fivetran Germany GmbH

KI-Agenten verarbeiten Daten, schreiben Code und treffen operative Entscheidungen. Ob sie dabei DSGVO, NIS2 oder interne Richtlinien einhalten, bleibt oft unkontrolliert. Der Managed-Detection-&-Response-Anbieter Eye Security veröffentlicht mit complisec ein Open-Source-Tool, das KI-Systemen Compliance-Kontext direkt im Workflow mitgibt. Die Lösung lässt sich in ChatGPT, Claude und Copilot integrieren.

KI-Agenten wissen, was sie können, aber selten, was sie dürfen. Eye Securitys Open-Source-Tool complisec soll ihnen Compliance-Kontext im Workflow mitgeben.(Bild: Eye Security)
KI-Agenten wissen, was sie können, aber selten, was sie dürfen. Eye Securitys Open-Source-Tool complisec soll ihnen Compliance-Kontext im Workflow mitgeben.
(Bild: Eye Security)

KI-Agenten übernehmen in Unternehmen zunehmend operative Aufgaben, von der Codegenerierung über die Datenverarbeitung bis hin zu eigenständigen Entscheidungen. Welche regulatorischen Vorgaben dabei gelten, wissen die Systeme in der Regel nicht. Eye Security stellt mit complisec ein Open-Source-Tool bereit, das diese Lücke schließen soll.

Skills statt statischer Regeln

Die Software arbeitet mit sogenannten Skills. Erkennt der Agent etwa personenbezogene Daten, kann ein Skill die Verarbeitung unterbinden oder eine Eskalation an einen menschlichen Entscheider auslösen. Weitere Einsatzfelder umfassen Incident Management, Change Control an kritischen Systemen, Vendor-Risikobewertung und die Dokumentation über Audit-Logs.

Ein Organisationsprofil bildet den unternehmensspezifischen Kontext ab: kritische Systeme, Datenanforderungen, zugelassene Partner und Datenstandorte. Daraus leitet complisec ab, welche Regeln in welchem Arbeitskontext greifen.

„KI-Agenten wissen in der Regel, was sie tun können, aber nicht, was sie tun dürfen“, sagt Piet Kerkhofs, CTO und Gründer von Eye Security. „Genau diese Lücke führt in der Praxis zu Risiken, die oft erst sehr spät sichtbar werden.“

Plattformunabhängig, aber ohne Enforcement

complisec ist plattformunabhängig konzipiert und lässt sich laut Eye Security in KI-Umgebungen wie ChatGPT, Claude oder Copilot einbinden. Nach dem Download soll die Lösung in die jeweilige Umgebung integriert und mit Unternehmensdaten konfiguriert werden können. Der KI-Agent beziehe den Compliance-Kontext anschließend in seine Aktionen ein.

(ID:50825663)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte