Kommentar von Balakrishna DR, Infosys KI sicher und verantwortungsvoll gestalten und einsetzen

Anbieter zum Thema

Infosys Technologies Ltd

Fujitsu Technology Solutions GmbH

QUNIS GmbH

Der Aufstieg leistungsfähiger generativer KI-Systeme hat eine Reihe von Diskussionen über die Risiken und ethischen Dimensionen von KI ausgelöst. Unternehmen erkennen allmählich, dass sie den Einsatz technologischer Innovation mit ethischen Erwägungen wie Befangenheit, Datenschutz, Verletzung des geistigen Eigentums, Sicherheit und Schadensverhütung in Einklang bringen müssen.

Unternehmen müssen robuste technische Lösungen für die verschiedenen Bedrohungsszenarien entweder selbst entwickeln oder Applikationen von Drittanbietern implementieren. Die Wirksamkeit dieser Anwendungen hängt stark von der Art des Anwendungsszenarios, der Daten und des Modells ab – daher ist eine angemessene Bewertung erforderlich. Es gibt zahlreiche Beispiele für Open-Source-Frameworks und kommerzielle Tools, die die Erkennung und Anonymisierung von personenbezogenen Daten in Texten, die Erkennung und Abschwächung von Verzerrungen und Toxizität, die Erklärbarkeit, die Sicherheit usw. ermöglichen. All diese technischen Lösungen dürfen jedoch keine Kompromisse in Bezug auf die Genauigkeit und Leistung der Lösungen eingehen.

Für generative KI müssen Unternehmen in eine Moderationsschicht investieren, die als Leitplanke auf dem Basismodell aufsetzt. Dieser Layer gewährleistet, dass große Sprachmodelle beim Training oder in der Eingabeaufforderung keine sensiblen oder vertraulichen Informationen verwenden. Weitere Prüfungen sollten durchgeführt werden, um toxische oder voreingenommene Inhalte zu erkennen. Darüber hinaus dient dies auch dazu, bestimmte Inhalte auf ausgewählte Personen im Unternehmen gemäß den internen Richtlinien zu beschränken. Auch die Kontrolle von Eingabe und Ausgabe im Hinblick auf Bedrohungen wie Jailbreaks, Prompt-Injection oder Inferenzangriffe wird überwacht. Alle Prompts oder Ausgaben, die nicht den Richtlinien entsprechen, lassen sich blockieren oder zur weiteren Überwachung markieren. Diese Systeme müssen erklärbar und transparent sein, damit die Benutzer die Gründe für Entscheidungen verstehen. Um Halluzinationen zu vermeiden, könnte die Ausgabe beispielsweise mit verschiedenen Wissensdatenbanken abgeglichen werden, um die sachliche Richtigkeit zu überprüfen. Es ist wichtig, einen Plattform-Ansatz zu verfolgen und eine umfangreiche Lösung zu entwickeln, die alle Risikofaktoren einbezieht.

Verantwortungsbewusstsein bei der Planung verankern

Verantwortungsbewusste KI-Maßnahmen funktionieren nicht in einem Silo oder als nachträglicher Einfall. Es ist zwingend erforderlich, dass Unternehmen verantwortungsbewusste KI-Leitplanken und Best Practices in alle Phasen des KI-Lebenszyklus einbetten. Dies ist von der Datenaufbereitung über die Modellentwicklung, Optimierung und Validierung bis hin zum Einsatz notwendig. Es bedarf außerdem einer angemessenen Rechenschaftspflicht für Audits, Dokumentation, Modellrisikomanagement sowie gegnerischer Tests. Auch die Installation von Kontrollen für den Datenschutz und die Einbindung von Menschen in den Kreislauf, die Überwachung für die Aufsicht und die Verwendung der oben genannten technischen Leitplanken in allen Phasen müssen berücksichtigt werden. Andernfalls könnten Versäumnisse unentdeckt bleiben.

Unternehmen müssen auch eine verantwortungsvolle KI-Referenzarchitektur entwickeln, die als umfassendes Handbuch für alle KI-Implementierungen dient. Darin werden alle geeigneten Tools für ein bestimmtes Szenario sowie die richtigen Prozesse und SOPs in jeder Lebenszyklusphase beschrieben.

• Schaffen einer soliden Basis durch die klare Definition von Grundsätzen, Werten und Rahmenbedingungen sowie die Aufstellung von Leitlinien und operativen Plänen, um eine verantwortungsvolle KI-Entwicklung über den gesamten KI-Lebenszyklus zu gewährleisten.

• Entwickeln von Methoden zur Risikobewertung. Dazu gehören Instrumente zur Bewertung des Reifegrads verantwortungsbewusster KI, von Leistungskennzahlen, Durchführung regelmäßiger Bewertungen zur Kontrolle und Reduzierung von Risiken, Recherchen zu anstehenden Verordnungsentwürfen und Zukunftssicherung des politischen Rahmens.

• Aufbau von Systemen, um bewährte Praktiken und Leitlinien, zu dokumentieren, die leicht zugänglich sind.

• Regelmäßige Überprüfungen, um bewährte MLOps-Verfahren für die Verfolgung von Experimenten, Versionskontrolle, Rückverfolgbarkeit, Data Governance, Reproduzierbarkeit durchzusetzen und Abweichungen zu erkennen.

• Einen Ethikrat für KI einzusetzen, der jeden Anwendungsfall auf mögliche Verstöße prüft, sowie eines Prüfungs- und Inspektionsgremiums, in dem Rechts-, Risikomanagement-, Technik- und Fachexperten vertreten sind, um regelmäßige Prüfungen von Modellen, Entwicklung und Einsatz durchzuführen.

• Eine klare Rechenschaftspflicht einführen. Dazu gehören Mechanismen zur Aufnahme von Feedback und von geeigneten Kanälen für die Beteiligten, um Bedenken zu äußern und für Abhilfe zu sorgen.

• Regelmäßige Schulungen der Mitarbeiter, um sie für Verfahren zu sensibilisieren, die auf ihre spezifischen Aufgaben zugeschnitten sind.

Das öffentliche Bewusstsein ist ein wesentlicher Bestandteil ethischer KI. Ein offener und umfassender Austausch, der verschiedene Perspektiven einbezieht, kann dazu beitragen, potenzielle ethische Herausforderungen zu identifizieren und anzugehen. So lässt sich außerdem sicherstellen, dass die Vorteile und Risiken von der breiteren Gesellschaft verstanden werden. Die Zusammenarbeit von Wissenschaft, Industrie und politischen Entscheidungsträgern kann die Entwicklung von Schutzmaßnahmen beschleunigen. Diese sollten wirksam sein, sich aber auch flexibel an die sich schnell verändernde Technologie-Landschaft anpassen und Innovationen nicht behindern.

(ID:49720895)