Mobile-Menu

Vertrauenswürdiger KI-Einsatz im Fokus SAS baut Trustworthy-AI-Angebot weiter aus

Von Martin Hensel 2 min Lesedauer

Anbieter zum Thema

SAS Institute GmbH
Fsas Technologies GmbH
INFOMOTION GmbH
QUNIS GmbH

Der Daten- und KI-Spezialist SAS erweitert sein Angebot um Funktionen für den verantwortungsvollen Einsatz von KI („Trustworthy AI“). Unternehmen sollen sich künftig dank Model Cards und AI Governance Advisory Services einfacher im komplexen KI-Umfeld zurechtfinden.

Die SAS Model Card gibt Einblick in den Status, die Zuverlässigkeit und die Performance eines KI-Modells im Hinblick auf ausgewählte Metriken und Variablen.(Bild: SAS)
Die SAS Model Card gibt Einblick in den Status, die Zuverlässigkeit und die Performance eines KI-Modells im Hinblick auf ausgewählte Metriken und Variablen.
(Bild: SAS)

„Unsere Kunden sind von den Möglichkeiten, die KI bietet, begeistert – gleichzeitig sind sie aber unsicher, wie sie diese am besten nutzen“, erklärt Reggie Townsend, Vice President Data Ethics Practice von SAS. Zudem würden sie die richtigen Fragen in Bezug auf verantwortungsvolle und ethische KI stellen. „Unsere Aufgabe ist es, ihnen anhand jahrzehntelanger Erfahrung die Tools und die Beratung zu geben, damit sie KI so integrieren können, dass sie ihre Profitabilität steigern und gleichzeitig Schaden vermeiden“, so Townsend.

Model Cards als „Nutri-Score“ für Trustworthy AI

SAS hat dazu automatisch generierte Model Cards in SAS Viya integriert. Sie sollen dafür sorgen, dass alle Beteiligten auf dem gleichen Kenntnisstand bezüglich Performance und Zuverlässigkeit von KI-Modellen sind. Die Model Cards funktionieren dabei so ähnlich wie „Nutri-Scores“ bei Lebensmitteln: KI-Modelle werden hinsichtlich Genauigkeit, Fairness und im Laufe der Zeit auftretende Abweichungen bewertet. Bei letzterem kann es sich zum Beispiel um nachlassende Performance handeln.

Zudem werden Details zu Governance und Nutzung erfasst, etwa Zeitpunkt und Verantwortlichkeiten bei der Erstellung sowie Use Cases außerhalb des vorgegebenen Rahmens. Nutzungseinschränkungen werden ebenfalls abgebildet, um Transparenz und Modellprüfung zur Einhaltung regulatorischer Vorgaben zu wahren. Das neue Tool unterstützt auch mit Open-Source-Programmiersprachen erstellte Modelle, zunächst für Python.

Orientierung im KI-Dschungel

Ebenfalls neu ist der AI Governance Advisory Service, der die Möglichkeiten einer produktiven und sicheren Datennutzung aufzeigen soll. Dazu erfolgt zunächst ein kurzes Meeting, bei dem SAS zusammen mit dem Unternehmen definiert, was AI Governance speziell für die jeweilige Organisation heißt.

In Pilotversuchen konnte der Dienst bereits überzeugen: Die Unternehmen verzeichneten höhere Produktivität, besseres Vertrauen in die Datennutzung, größere Chancen für Gewinnung und Bindung von Top-Talenten und einen Boost für ihr Markenimage. Zudem schafft die frühzeitige Einhaltung regulatorischer Vorgaben Wettbewerbsvorteile und ermöglicht die agilere Erschließung neuer Märkte.

Risikomanagement für KI-Modelle

SAS hat außerdem anhand von Empfehlungen des US National Institute of Standards and Technology (NIST) einen Trustworthy AI Life Cycle Workflow entwickelt. Er soll Unternehmen das KI-Risikomanagement erleichtern. Sie bekommen dabei ein Produktionsmodell an die Hand, das die Dokumentation ihrer Sorgfaltspflicht umfasst. Auf diese Weise können die Unternehmen nachweisen, dass sie faire Modelle verwenden und dass ihre Prozesse keinen Schaden verursachen. Ein Beispiel dafür ist der ausschließliche Einsatz repräsentativer Trainingsdaten, die keine Personengruppen benachteiligen. Der SAS Trustworthy AI Life Cycle Workflow ist ab sofort über den SAS Model Manager Resources auf Github verfügbar.

(ID:50035091)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte