Rechtsvorgaben zu Künstlicher Intelligenz Wie es um die Verordnungen zu KI steht

Anbieter zum Thema

Insider Research

Fujitsu Technology Solutions GmbH

Fivetran Germany GmbH

Xpand Solutions GmbH

Vertrauenswürdige Künstlicher Intelligenz (KI) kann viele Vorteile mit sich bringen, so die EU-Kommission. Dafür muss aber ein KI-Rechtsrahmen diese Vertrauensbildung ermöglichen. Wichtig sind dabei insbesondere neue Vorschriften für Anbieter von KI-Systemen mit hohem Risiko. Wo stehen die Entwicklungen hin zu einem EU AI Act derzeit? Was sagen Verbände zum aktuellen Strand? Wir geben einen Überblick.

Wir erinnern uns: Im April 2021 hatte die EU-Kommission einen Verordnungsentwurf zur Förderung der Entwicklung und Einführung sicherer und rechtskonformer KI im gesamten Binnenmarkt vorgelegt.

Im Dezember 2022 folgte dann der Rat der EU mit seinem gemeinsamen Standpunkt zum Gesetz über Künstliche Intelligenz. Das Gesetz soll gewährleisten, dass die auf dem EU-Markt in Verkehr gebrachten und in der Union verwendeten Systeme Künstlicher Intelligenz sicher sind und die bestehenden Grundrechte und die Werte der Union wahren, so das Ziel.

gesponserteBook

Regulierung von Künstlicher Intelligenz

Ivan Bartoš, stellvertretender tschechischer Ministerpräsident für Digitalisierung und Minister für Regionalentwicklung, erklärte dazu: „Heute ist es uns gelungen, ein empfindliches Gleichgewicht zu erreichen, das Innovationen und die Einführung von Technologien der Künstlichen Intelligenz in ganz Europa fördern wird. Dabei werden wir alle Vorteile genießen, und die Grundrechte unserer Bürgerinnen und Bürger werden uneingeschränkt geachtet.“

Änderungen durch den Rat der EU

Der Rat der EU hatte einige Änderungen am ersten Entwurf vorgenommen. Einige Beispiele: Um sicherzustellen, dass die Definition eines KI-Systems ausreichend klare Kriterien für die Abgrenzung der KI von einfacheren Software-Systemen bietet, wurde die Begriffsbestimmung im Ratstext auf Systeme eingegrenzt, die anhand von Konzepten des maschinellen Lernens sowie logik- und wissensgestützten Konzepten entwickelt wurden.

Im Hinblick auf die Klassifizierung von KI-Systemen als Hochrisiko-Systeme enthält der Text nun eine horizontale Ebene über der Hochrisiko-Klassifizierung, um sicherzustellen, dass KI-Systeme, die wahrscheinlich keine schwerwiegenden Grundrechtsverletzungen oder andere bedeutende Risiken verursachen, nicht erfasst werden.

Neue Bestimmungen wurden hinzugefügt, um den Situationen Rechnung zu tragen, in denen KI-Systeme für zahlreiche verschiedene Zwecke verwendet werden können (KI mit allgemeinem Verwendungszweck) und in denen KI-Technologie mit allgemeinem Verwendungszweck in ein anderes Hochrisiko-System integriert wird. Im Text wurde festgelegt, dass in solchen Fällen bestimmte Anforderungen für Hochrisiko-KI-Systeme auch für KI-Systeme mit allgemeinem Verwendungszweck gelten würden.

Die Bestimmungen über die Marktüberwachung wurden ebenfalls präzisiert und vereinfacht, damit sie wirksamer und leichter umgesetzt werden können. In dem Text wurden außerdem die Bestimmungen über den KI-Ausschuss geändert, um eine größere Autonomie des Ausschusses zu gewährleisten und seine Rolle in der Governance-Architektur des KI-Gesetzes zu stärken.

Um zu einer Einigung über die vorgeschlagene Verordnung zu gelangen, kann der Rat Verhandlungen mit dem Europäischen Parlament („Trilog“) aufnehmen, sobald das Parlament seinen eigenen Standpunkt festlegt.

Hohe Erwartungen an den Trilog

Wirtschaftsverbände hatten den Vorschlag der EU-Kommission teils kritisiert, und auch die Änderungen durch den Rat der EU erfüllten nicht alle Wünsche und Hoffnungen an eine EU-Regulierung der KI.

„Das Verständnis von KI klarer zu definieren, war ein wichtiger Schritt“, so der stellvertretende HDE-Hauptgeschäftsführer Stephan Tromp (Handelsverband Deutschland). „Autonomie und maschinelles Lernverhalten als zentrale Elemente der Begriffsdefinition anzuführen, ermöglicht eine deutlichere Abgrenzung von einfacher Software.“ Diese Änderung begrüße der HDE sowie auch die neu geschaffene Möglichkeit, dass sich Interessenträger im KI-Ausschuss einbringen können.

Kritisch zu bewerten sei in der Ausrichtung des Rates allerdings die Kategorisierung von Hochrisiko-KI-Systemen. „Hier besteht die Gefahr einer Überregulierung. Zwar wurde im Bereich der Hochrisiko-KI-Systeme an einer differenzierteren Klassifizierung angesetzt. Doch die Vorgaben bleiben zu weit gefasst. Eine klare Systematik fehlt“, so Tromp weiter. Dass zudem KI-Systeme mit allgemeinem Verwendungszweck in den Text aufgenommen wurden, die so nicht im Vorschlag der EU-Kommission vorgesehen waren, steht nach Auffassung des HDE im Widerspruch zum ursprünglich verfolgten risikobasierten Ansatz und wird vom Verband abgelehnt.

Aus Sicht des HDE ist im Europäischen Parlament die Festlegung einer klaren Definition für KI und Hochrisiko-KI-Systeme eine der wichtigsten Aufgaben. Die Begriffe dürften nicht verwässert werden. „Das Hauptaugenmerk des Europäischen Parlaments sollte darauf liegen, den risikobasierten Ansatz der EU-Kommission weiterzutragen. Über eine verhältnismäßige Regulierung kann das Parlament dazu beitragen, die Innovationskraft im Bereich KI in der EU zu stärken“, so Tromp.

Verbände sehen weiterhin Änderungsbedarf

Das Europäische Parlament will im Juni auf eine Position einigen. Dann beginnen die Trilogverhandlungen zwischen Rat, Parlament und Kommission für den AI Act. Die Verhandlungen auf dem Weg zum EU AI Act sind also bereits weit fortgeschritten. Doch es gibt weiterhin Kritikpunkte seitens Verbände und Verbraucherschützer.

In den Verhandlungen zum AI Act in Brüssel zeichnet sich eine Einigung ab, die auch generative KI-Systeme wie ChatGPT berücksichtigt, so zum Beispiel der Verbraucherzentrale Bundesverband (vzbv). Der vzbv fordert: Der AI Act muss Verbraucherinnen und Verbraucher mit starken Rechten gegenüber Betreibern ausstatten. „Wir brauchen Transparenz sowie ein Recht auf Korrektur und Löschung, damit sich Betroffene etwa gegen KI-generierte Falschmeldungen oder Manipulation zur Wehr setzen können“, so Ramona Pop, Vorständin des vzbv.

Das sehen Datenschützer ohne Zweifel auch so, denn Transparenz, Recht auf Korrektur und Löschung sind grundlegende Rechte von Betroffenen, wenn eine KI-Lösung personenbezogene Daten verarbeitet. Man darf also auf die weitere Entwicklung hin zum EU AI Act und die Trilogverhandlungen mehr als gespannt sein.

Compliance bei Künstlicher Intelligenz

Wie sich der Datenschutz bei KI entwickelt

(ID:49493139)