Regulierung von Künstlicher Intelligenz KI-Vorschriften: Was Fertiger wissen sollten

Ein Gastbeitrag von Lori Witzel*

Anbieter zum Thema

Künstliche Intelligenz verheißt in allen Prozessen einen Automatisierungsschub – Musik in den Ohren der Fertigungsindustrie. Doch mit der KI gewinnen auch entsprechende Regulierungen an Bedeutung. Herstellern bleibt nur wenig Zeit, um sich darauf einzustellen.

Regierungen und politische Entscheidungsträger beabsichtigen, die Nutzung von KI zu regulieren, um ihr Schadenspotenzial zu reduzieren.
Regierungen und politische Entscheidungsträger beabsichtigen, die Nutzung von KI zu regulieren, um ihr Schadenspotenzial zu reduzieren.
(Bild: gemeinfrei / Pixabay)

KI und maschinelles Lernen bieten neue und umfangreiche Wertschöpfungspotenziale. Damit lassen sich auf automatisierte Art und Weise vorausschauende Erkenntnisse gewinnen und daraus Handlungsempfehlungen ableiten, die sich an Erfahrungen aus der Vergangenheit orientieren. Fertigende Unternehmen können dadurch von Anwendungsszenarien wie vorausschauende Wartung, Anomalieerkennung und optimierte Verwaltung von Maschinen und Anlagen profitieren. Im Ergebnis treffen sie bessere Entscheidungen, werden agiler und können schneller handeln.

Handfeste Ergebnisse statt leerer Versprechungen

Der italienische High-End-Bremsenhersteller Brembo kann dafür als Paradebeispiel dienen. Der Fertigungsbereich des Unternehmens verwendet KI-gestützte Analysen, um Aussagen über die Lebensdauer von Schneidwerkzeugen zu treffen und seine Werkzeugmaschinen vorausschauend zu warten. Die Ergebnisse der Datenanalysen ermöglichen sogar Erkenntnisse mit hohem Detailgrad, etwa zur Analyse von Temperaturverläufen bei der Abkühlung von Gussteilen in der unternehmenseigenen Aluminiumgießerei.

Künstliche Intelligenz für die Fertigungsbranche funktioniert: McKinsey hat in Studien ermittelt, dass Unternehmen, die KI einsetzen, eine Performancesteigerung von zehn Prozent oder mehr erzielen. KI ist also in der Tat ein klarer Wettbewerbsvorteil.

Mit dem Erfolg kommt die Regulierung

Trotz des Nutzens von KI steht ihr die Öffentlichkeit verständlicherweise immer noch skeptisch gegenüber – aus Angst, sie könnte die Jobsicherheit gefährden oder soziale Verwerfungen hervorrufen. Auch Forschungsergebnisse, u. a. von Harris Poll und Google Cloud, dass bereits 79 Prozent der Fertigungsunternehmen in Deutschland KI täglich nutzen – der weltweite Durchschnitt liegt bei 64 Prozent–, tragen wenig dazu bei, diese Ängste abzubauen.

In der Folge ist eine Bewegung entstanden, das Thema KI nicht allein den Tech-Firmen zu überlassen. Auch Regierungen und politische Entscheidungsträger unterstützen dieses Vorhaben: Sie beabsichtigen, die Nutzung von KI zu regulieren, um das Schadenspotenzial zu reduzieren. Was zu der Frage führt: Wie sieht eine verantwortungsbewusste KI-Nutzung aus? Antwort: KI muss auditierbar, transparent und interpretierbar werden, um vertrauenswürdig zu sein.

Beispielsweise sollte ein Betriebsleiter in der Fertigung verstehen, auf welcher Grundlage die KI die potenziellen Defekte, die sie visuell darstellt, ermittelt hat. Denn er kann nicht davon ausgehen, dass die KI richtig liegt. KI muss zudem vereinfacht und allgemein nutzbar gemacht werden, sodass sie jedermann – vom Datenwissenschaftler bis zum Arbeiter – verstehen kann. Schließlich kann eine fehlerhafte KI Unfälle und Verletzungen verursachen – was umso schlimmer ist, wenn die Zuständigen sie nur deshalb nicht ausschalten, weil sie nichts von der akuten Gefahr wissen, die von ihr ausgeht.

Die EU geht nicht allein voran

Die Europäische Union treibt ihren Entwurf zum Artificial Intelligence Act (EU AIA) weiter voran und die Mitgliedsstaaten werden die Verordnung in den nächsten zwei Jahren annehmen müssen. Allerdings sind zwei Jahre nicht so lange, wie es klingt. Fertigungsunternehmen sind deshalb gut beraten, sich mit den Forderungen des Entwurfs ab sofort auseinanderzusetzen, auch wenn die Reaktion und der weitere Input der Mitgliedstaaten noch ausstehen. Erinnert sich noch jemand an die Einführung der Datenschutz-Grundverordnung (kurz: DSGVO)? Diese schlich sich gleichsam auf leisen Sohlen an und überraschte fast alle, als sie schließlich nicht mehr zu übersehen war. Wer jetzt nicht handelt, dem droht bei der EU-AIA-Verordnung das gleiche Schicksal – nicht zuletzt, weil auch sie alle EU-Bürger unabhängig vom Wohnort schützen wird.

Die vorliegenden Vorschläge wollen die Nutzung von Hochrisiko-KI regeln, beispielsweise in Umgebungen mit besonderen Ansprüchen an den Arbeitsschutz, in kritischen Infrastrukturen, am Arbeitsplatz, im Bildungssektor oder in den Bereichen Grenzschutz, Strafverfolgung und Finanzdienstleistungen. Die Nichteinhaltung der Vorschriften könnte mit Bußgeldern von bis zu 30 Millionen US-Dollar oder sechs Prozent des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist – geahndet werden. Zehn Millionen Euro oder zwei Prozent des Umsatzes werden fällig, wenn ein Unternehmen unter Verdacht steht, irreführende oder inkorrekte Angaben zu seiner KI-Landschaft gemacht zu haben.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung

Außerdem müssen produzierende Unternehmen berücksichtigen, dass die Nutzung personenbezogener Daten von Angestellten, Geschäftspartnern, Lieferanten oder Kunden im Rahmen einer automatisierten Entscheidungsfindung unter Artikel 22 der DSGVO fällt. Und die USA erwägen, KI-Richtlinien auf der Ebene der verschiedenen Regierungsstellen zu entwickeln. In diesem Zusammenhang erklärte die Federal Trade Commission vor Kurzem öffentlich, dass sie dabei die Ziele „Wahrheit, Fairness und Gleichberechtigung in der KI-Nutzung eines jeden Unternehmens“ verfolge.

Mit seiner National AI Strategy möchte Großbritannien zur weltweiten KI-Supermacht werden. Dabei arbeitet die Regierung mit dem Alan Turing Institute – dem nationalen Institut für Datenwissenschaft und Künstliche Intelligenz – zusammen, um Input zu technischen Standards sowie zur Governance von KI zu erhalten. Ethik, Fairness, Nicht-Diskriminierung und Vertrauenswürdigkeit lauten dabei die grundsätzlichen Leitlinien des britischen Ansatzes.

Für Fertigungsbetriebe ist es also an der Zeit, in ihren KI-Systemen und -Prozessen für Transparenz und Auditierbarkeit zu sorgen, und das nicht morgen, sondern heute. Denn die Regularien gelten nicht nur für Personen, die sich im jeweiligen Rechtsraum aufhalten oder arbeiten, wo sie erlassen wurden. Vielmehr folgen die Regularien den Unternehmen, Personen und Kunden überallhin, wo Dienstleistungen erbracht oder Produkte genutzt werden.

Vorbereitung ist Pflicht

Vorbereitung wird hier – wie bei allem anderen auch – der Schlüssel sein. In der Praxis ist KI bei vielen Herstellern mittlerweile so eng mit den Prozessen verwoben, dass ein Herauslösen sich ungefähr so aussichtslos gestalten dürfte wie der Versuch, Currysauce von Reis zu trennen.

Zuallererst sollten die Unternehmen Verantwortliche bestimmen, die Teil des Compliance-Prozesses für die KI-Regulierung werden müssen. Wenn es bereits ein DSGVO-Team gibt, können die Unternehmen damit beginnen. Allerdings müssen sie bei der Zusammensetzung des Teams die Prinzipien Diversität, Inklusion und Gleichberechtigung (kurz: DEI) beachten. Denn die nach diesen Prinzipien repräsentierten Gruppen können überproportional stark von fehlerhafter KI betroffen sein.

Im nächsten Schritt sollten Fertigungsunternehmen ihre Partner, Technologie- und sonstigen Lieferanten kontaktieren, um in Erfahrung zu bringen, in welchen Bereichen diese KI einsetzen und dies anschließend dokumentieren. Im Übrigen sollte auch das Führungsteam Teil dieser Bemühungen sein. Denn viele Manager haben eine Vorstellung von KI im Kopf, die aus Hollywood-Filmen stammt. Deshalb sollten sie erfahren, was KI in Wirklichkeit ist, das heißt, wie ihre Produktion von KI profitiert und wie deren ethischer, rechtskonformer und verantwortungsbewusster Gebrauch aussieht.

Außerdem empfiehlt es sich, ein Analytik-Kompetenzzentrum zu schaffen, falls es nicht ohnehin schon besteht. Auftrag dieses Zentrums sollte sein, für ein besseres Verständnis von KI-Projekten zu sorgen. Zu guter Letzt sollten Unternehmen stets über potenzielle Vorschriften informiert bleiben und deren Entwicklung im Blick behalten – Wissen ist hier die halbe Miete.

Kein Grund zur Panik

Die geplanten Regularien bedeuten nicht das Ende von KI in der Fertigungsindustrie. Niemand verlangt, auf Automatisierung durch KI zu verzichten. Allerdings muss künstliche Intelligenz in Produktionsbetrieben in Zukunft rechenschaftspflichtig, nachvollziehbar und transparent sein. Fertigungsunternehmen sollten die kommenden Regulierungen als Chance begreifen und sie dafür nutzen, das Beste aus einer Technologie herauszuholen, die bereits heute transformativ und im positiven Sinne disruptiv ist.

Dieser Artikel stammt von unserem Partnerportal Industry of Things.

* Lori Witzel ist Director of Research for Analytics and Data Management bei Tibco Software.

(ID:48551518)