Kommentar von John Armstrong, Worldly KI – ein Balance-Akt zwischen Innovation und Ethik

Anbieter zum Thema

Fsas Technologies GmbH

Board Deutschland GmbH

Disy Informationssysteme GmbH

Alle reden über Künstliche Intelligenz (KI) – manche positiv, andere haben starke Bedenken. KI hat das Potenzial, die Art und Weise zu revolutionieren, wie wir Menschen Erkenntnisse aus großen und komplexen Datensätzen gewinnen. Durch die Automatisierung von Datenüberprüfungsprozessen werden datengeschützte Entscheidungen gefördert, die wiederum eine Effizienzsteigerung sowie Innovationen in verschiedenen Bereichen unseres Lebens ermöglichen. Neben den positiven Aspekten birgt KI jedoch auch Risiken wie Bias in Entscheidungsprozessen oder Deepfakes, die Fehlinformationen weit und schnell verbreiten.

Es ist wichtig, darüber zu sprechen, wo KI aktuell und in naher Zukunft nicht ausreichend ist oder sogar problematisch werden kann, zum Beispiel bei Entscheidungen rund um Ethik, Menschenrechte, Nachhaltigkeit und Arbeit. KI kann und sollte keine alleinigen Entscheidungen treffen, geschweige denn Menschen ersetzen.

Dementsprechend gibt es in einigen Bereichen strikte Richtlinien im Umgang mit KI – zum Beispiel bei maschinellen Berechnungen an der Börse, beim autonomen Fahren oder in der Medizin. Doch viele Bereiche sind bisher kaum oder gar nicht reguliert – und besonders aus globaler Sicht ist es schwer, einheitliche Regeln zum Umgang mit KI zu finden.

Unterschiedliche rechtliche Rahmenbedingungen

Viele Zweige der KI, wie beispielsweise die generative KI, sind tief mit Kulturen verwoben, da die generierten Inhalte auf Informationen von verschiedenen Menschen aus unterschiedlichen Kulturen beruhen. Daher müssen moderne KI-Regelungen sehr integrativ und anpassungsfähig für regionale, nationale und kulturelle Belange sein. Gleichzeitig bieten viele Unternehmen ihre Produkte und Dienste weltweit an und müssen sich an unterschiedliche rechtliche Rahmenbedingungen halten, wenn sie KI einsetzen. Daher ist die Interoperabilität zwischen verschiedenen regionalen Regelwerken für die Globalisierung unerlässlich.

Es gibt mehrere zwischenstaatliche Organisationen, die darauf abzielen, die Entwicklung und Regulierung von KI zu koordinieren, zum Beispiel die OECD und die Global Partnership on Artificial Intelligence (GPAI). Jedoch sind diese aufgrund ihrer derzeitigen Mitgliedschafts- und Beteiligungspolitik nicht offen und inklusiv genug, um als globale Koordinationsplattform zu dienen. Im November 2021 haben die 193 UNESCO-Mitgliedstaaten den ersten global gültigen Völkerrechtstext zur ethischen Entwicklung und Nutzung Künstlicher Intelligenz (KI) verabschiedet, die Empfehlung zur Ethik der Künstlichen Intelligenz . Das ist angesichts der weltweiten Beteiligung am Prozess und der zwischenstaatlichen Verhandlungen die bisher umfassendste globale Richtlinie zum Umgang mit KI.

Zudem gibt es zahlreiche regionale Ansätze. In Europa plant die EU aktuell einen AI Act, um einen verantwortungsvollen Umgang mit KI sicherzustellen. Dabei sollen basierend auf einer Risikobewertung der KI-Systeme bestimmte Regeln greifen. Wenn KI-Systeme in die risikoreichste Kategorie „unannehmbar“ fallen, sollen sie verboten werden. Dazu gehören unter anderem Techniken, die Personen manipulieren und damit physischen oder psychischen Schaden verursachen können.

Unterschiedliche Risikoklassen

Bei „Hochrisiko-KI-Systemen“ wie beispielsweise Prozessen mit biometrischer Identifizierung oder Systemen im Bereich der kritischen Infrastruktur wie Straßenverkehr, Wasser-, Gas-, Wärme- und Stromversorgung, sind unter anderem eine permanente Risikoanalyse, Qualitätskriterien wie Trainingsdaten, die Aufzeichnung von KI-Prozessen sowie eine Beaufsichtigung durch Menschen erforderlich. Bei KI-Systemen mit „geringem“ oder „minimalem Risiko“ soll eine Transparenzpflichten verankert werden, wenn Anwendungen mit Menschen interagieren, Emotionen erkennen, Inhalte erzeugen oder manipulieren (Deepfakes) können. In diesen Fällen muss gewährleistet werden, dass Nutzer über den KI-Einsatz informiert werden – davon ausgenommen sind jedoch KI-Systeme, die „gesetzlich zur Aufdeckung, Verhütung, Ermittlung und Verfolgung von Straftaten zugelassen“ sind.

Unabhängig von globalen oder regionalen Regeln und Richtlinien sollten Unternehmen verantwortungsvolle KI-Praktiken sicherstellen, indem sie sich intern intensiv mit Themen wie Befangenheit, Datenschutz und Transparenz auseinandersetzen. Eine verantwortungsvolle KI-Implementierung und -Entwicklung erfordert eine kontinuierliche Überwachung, Bewertung und Anpassung, um potenzielle Risiken zu minimieren. Während KI immense Möglichkeiten bietet, ist es wichtig, ihre Grenzen und ihre Abhängigkeit von potenziell voreingenommenen Datenquellen oder Algorithmen zu erkennen. KI-Systeme sind von der Qualität und Verfügbarkeit von Daten abhängig, die in der Vergangenheit ohne Beiträge von marginalisierten Gruppen erstellt wurden.

In der Bekleidungsindustrie wird beispielsweise ein großer Prozentsatz der vorgelagerten Arbeit von Frauen und marginalisierten Gruppen geleistet. Mit der Zunahme von Daten aus Quellen in der gesamten Lieferkette einer Marke müssen Wege gefunden werden, die Perspektiven und das Wohlergehen der Menschen im globalen Süden in die Modelle einzubeziehen anstatt Systeme, die die Branche in der Vergangenheit aufgebaut hat, subtil zu verstärken.

Fazit

Daher ist es wichtig, einen menschenzentrierten Ansatz mit Fokus auf Ethik und festgelegten Werten zu verfolgen. Faktoren wie Transparenz, Partizipation, Maßnahmen zur Bias-Minderung sowie permanentes Monitoring inklusive Evaluation spielen eine wichtige Rolle und sollten in allen unternehmensinternen, gesetzlichen sowie allgemeinen KI-Richtlinien verankert werden. Die konkrete Umsetzung ist eine Gemeinschaftsaufgabe aller Beteiligten – sowohl Regierungen als auch Organisationen, Unternehmen und Privatpersonen müssen dabei unterstützen, KI und Ethik zu vereinbaren.

Fakt ist, dass Menschen sich bei der Entscheidungsfindung nicht ausschließlich auf KI verlassen können. Stattdessen sollte KI als Werkzeug eingesetzt werden, um Daten auszuwerten und Erkenntnisse über ggf. verbesserungswürdige Bereiche zu gewinnen. Ein verantwortungsvoller Umgang mit KI erfordert die Balance zwischen Innovation und Ethik, um das volle Potenzial auszuschöpfen und gleichzeitig mögliche negative Auswirkungen zu minimieren.

(ID:49721115)