Kommentar von Lori Witzel, Tibco Risikominderung bei KI

Von Lori Witzel

Anbieter zum Thema

Künstliche Intelligenz (KI) ist im Begriff, ihre ganz eigene Erfolgsgeschichte zu schreiben. Doch je erfolgreicher sie wird, desto größer werden die Risiken für die Unternehmen. Die eigentliche Arbeit beginnt nicht mit der KI, sondern bei der Minimierung ihrer Risiken.

Die Autorin: Lori Witzel ist Director of Research for Analytics and Data Management bei Tibco Software
Die Autorin: Lori Witzel ist Director of Research for Analytics and Data Management bei Tibco Software
(Bild: Tibco Software)

Je mehr KI heranreift, desto mehr quantifizierbare Anwendungsfälle entstehen. Der Bericht von NewVantage Partners bildet diesen steten Anstieg ab: 77,8 Prozent der Teilnehmer geben an, dass ihre Unternehmen KI intensiv oder zumindest in begrenztem Umfang einsetzen – im Vergleich zu 65,8 Prozent im Vorjahr.

Die Zahlen zeigen klar und deutlich, dass KI sich etabliert hat, sich weiter verbreitet und dass ihr erwiesener Mehrwert weitere Investitionen in die Technologie hervorruft. Die Unternehmen nutzen KI für Innovation und Geschäftstransformation und ernten den Erfolg.

KI-Risiken: Wo viel Licht, da viel Schatten

Allerdings haben ebendiese erfolgreichen KI-Implementierungen den Weg für zukünftige Herausforderungen bereitet und die Unternehmen sehen sich mit neuen Risiken konfrontiert. Daher müssen sie jetzt handeln und Maßnahmen gegen diese Risiken ergreifen – egal an welchem Punkt ihrer KI-Reise sie sich gerade befinden.

Es gibt beim Einsatz von KI zwei Primärrisiken für den Geschäftswert: Das erste Risiko ist das des Fachkräftemangels. Das zweite ist die Abhängigkeit von „Blackbox“-Lösungen, die nicht der Compliance entsprechen oder schlecht umgesetzt sind – von also KI-Systemen, deren Eingaben und Operationen für den Anwender nicht transparent sind.

ModelOps: Die KI zähmen

Was ist eigentlich ModelOps? Die meisten Manager sind noch nicht mit KI in Berührung gekommen – und das ist in Ordnung. Dennoch ist es wichtig zu verstehen, wie ModelOps KI möglich macht, denn die Unternehmen benötigen die Innovations- und Optimierungsfähigkeit, die KI und maschinelles Lernen bieten. Stark vereinfacht gesagt, ermöglicht ModelOps das Management der Kernelemente des Lebenszyklus von KI- und Entscheidungsmodellen.

KI-Modelle sind Algorithmen des maschinellen Lernens; sie sind auf echte oder synthetische Daten trainiert und emulieren logische Entscheidungsfindung basierend auf den Daten, die ihnen Teams „füttern“ oder zugänglich machen. Diese Modelle werden gewissenhaft von Data Scientists entwickelt, um Einblicke in die Lösung bestimmter Probleme im Unternehmen oder in seinen Prozessen zu gewinnen, die sich in Zusammenarbeit mit Analytics- und Data-Management-Teams identifizieren lassen. Wie also trägt ModelOps nun zur Risikominderung bei KI bei?

Engpässe beseitigen

Die KI-Talent-Akquise ist laut LinkedIn Research mit einem geschätzten Stellenzuwachs von 74 Prozent in den USA und Platz 1 bei einem „hottest job“-Ranking in Großbritannien extrem herausfordernd. Und wann immer man doch einen Data Scientist oder ein Data-Science-Team gewinnt, werden diese üblicherweise im Handumdrehen mit Anfragen überflutet, die zu einem gravierenden Backlog bei den Projektanfragen führen. Daher kann die Skalierung KI-gestützter Einblicke und Entscheidungen für ein Unternehmen mit begrenzten Data-Science-Ressourcen schnell unmöglich werden.

Ein Ansatz, mit dem sich der Druck auf begrenzte Data-Science-Ressourcen verringern lässt, ist ModelOps. Mit der Automatisierung der Modellverwaltung und der Demokratisierung von Modellerstellung und -bereitstellung kann ModelOps dabei helfen, das Risiko von Expertenengpässen – und damit von Produktivitätsherausforderungen –zu adressieren. Dieser Ansatz kann dabei helfen, Data-Science-Teams zu entlasten, sodass sie sich darauf fokussieren können, was den höchsten Wert für das Unternehmen hat, anstatt konstant gegen eine Flut wachsender Anforderungen anschwimmen zu müssen.

Mit einem ModelOps-Ansatz können sich die Data-Science-Helden eines Unternehmens auf das Erforschen, Testen und Innovieren durch KI konzentrieren. Gleichzeitig sorgt der Ansatz dafür, dass Data Engineers und Data Analysts mehr Modelle in Produktion geben können.

Eine weitere damit verbundene Herausforderung, die ModelOps direkt angeht, ist die Skalierbarkeit. Die Entwicklung von Modellen in großem Maßstab bezieht sich nicht nur auf die Zahl der Modelle, sondern auch auf die Einsatzbreite von KI in den Systemen und Prozessen eines Unternehmens. Hier schließt sich der Kreis zu den durch den Fachkräftemangel verursachten Herausforderungen: Mehr Integration bedeutet stets, dass mehr Modelle erforderlich sind, um die Vorteile von KI zu erschließen – wodurch wiederum der Bedarf an Data Scientists zur Unterstützung der Modellentwicklung und -bereitstellung wächst.

Ohne ModelOps laufen die Unternehmen Gefahr, auf Herausforderungen bei der Bereitstellung zu stoßen, welche die KI-Projekte zu einem Fehlschlag werden lassen. Umgekehrt funktioniert ModelOps wie ein Katalysator, mit dessen Hilfe die Unternehmen die Bereitstellung von Modellen demokratisieren und deren Umfang massiv steigern können. Statt kleiner Verbesserungen erfahren die Unternehmen dadurch große Veränderungen und Fortschritte, wenn sie KI einsetzen.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung

Transparenz schaffen

Das zweite Risiko liegt in der Abhängigkeit von „Blackbox“-KI-Lösungen. Es werden Verordnungen kommen, die allgemein zur Pflicht machen werden, dass sämtliche KI-Systeme interpretierbar und transparent sind. Selbst wenn die KI-Technologie von einem Partner oder Anbieter stammt, könnten die Unternehmen selbst für verzerrte oder fehlerhafte Ergebnisse haftbar gemacht werden. Zukünftige und aktuelle Vorschriften stellen also ein echtes Risiko dar – von Non-Compliance über Imageschäden bis hin zu rechtlichen Konsequenzen und sogar Bußgeldern.

„Die KI-Regulierung weitet sich global aus. Seit 2015 traten 18-mal mehr KI-bezogene Gesetzesentwürfe in 25 Ländern weltweit in Kraft. Auch die Erwähnung von KI in Legislativverfahren ist in den vergangenen sechs Jahren um das 7,7-Fache gestiegen“, so das Stanford Institute for Human-Centered Artificial Intelligencein seinem Bericht „2022 AI Index“. Daher ist es für Unternehmen unerlässlich, den aktuellen und zukünftig geplanten KI-Einsatz zu verstehen, und Pläne für die Transparenz und Interpretierbarkeit von KI auszuarbeiten. Dabei dient eine transparente KI nicht nur dem Risikomanagement: Sie unterstützt zudem ESG-Initiativen (in den Bereichen Umwelt, Soziales und Unternehmensführung), insbesondere dann, wenn sie gesellschaftliche Bedenken zum fairen und ethischen Einsatz von KI auszuräumen hilft.

Natürlich gibt es einen Grund dafür, dass Transparenz eine Herausforderung darstellt: Algorithmen und Modelle für maschinelles Lernen und KI sind nicht gerade leicht zu verstehen. Die Zahl an verwendeten Parametern – Einstellungen für ihre Betriebsbedingungen – nachzuvollziehen und zu verstehen, wie genau diese miteinander interagieren, kann eine ausgesprochen komplexe Aufgabe darstellen. Diese Komplexität wird durch die Art und Weise verschärft, wie diese Modelle miteinander interagieren und wie sie mit den Daten integriert werden. Komplexität bringt Undurchsichtigkeit mit sich. Das macht es so schwierig, zu interpretieren, wie das Modell Entscheidungen trifft, und herauszufinden, ob diese Entscheidungen verzerrt sind.

Ist ModelOps Teil des Prozesses, kann ein Unternehmen Technologien, Menschen, Prozesse und Daten miteinander verheiraten und gleichzeitig die Transparenz in der Modellentwicklung besser managen. Dort, wo Firmen Modelle oftmals mittels einer Sammlung schlecht integrierter Tools managen, kann ModelOps für die transparente Überwachung von Modelltests, Versionierungen, Modellspeichern und Modell-Rollbacks sorgen. Ein nahtloser und interoperabler Ansatz für ModelOps unterstützt die Governance und Transparenz, die bei der Reduzierung von regulatorischen Risiken und Verzerrungen helfen.

Die Unternehmen sollten also einen ModelOps-Ansatz immer dann verfolgen, wenn sie KI-Projekte skalieren, die Komplexität beim Management eines Netzes schlecht integrierter Entwicklungstools reduzieren und sich auf die Einhaltung gesetzlicher Vorschriften vorbereiten wollen. Die damit verbundenen Vorteile liegen auf der Hand: Die Risikominderung bei KI-gestützten Prozessen schafft ein steuerbares KI-Rahmenwerk und sorgt für Transparenz. Sie ist das Ergebnis eines optimierten Managements von KI- und Entscheidungsmodellen – von deren Anfängen über deren Entwicklung bis hin zu ihrem produktiven und ethischen Einsatz.

Transparente KI in der Praxis

ModelOps-Ansätze funktionieren: Eine Erfolgsgeschichte ist die des National University Health System (NUHS) in Singapur. Mit dem Ziel, den vollen Überblick über die gesamte Patientenhistorie zu erlangen und mehr Erkenntnisse über eine zunehmend alternde Bevölkerung zu gewinnen, entwickelte NUHS seine KI-Plattform ENDEAVOUR unter Einsatz von ModelOps. Dank der Plattform hat das Unternehmen nun einen kompletten Überblick über die Patientenakten, kann Echtzeit-Diagnosedaten erheben und diagnostische Vorhersagen treffen.

„Unsere hochmoderne KI-Plattform ENDEAVOUR fördert ein intelligenteres, besseres und effektiveres Gesundheitswesen in Singapur. Wir rechnen damit, dass ModelOps die Bereitstellung sicherer und effektiver KI-gestützter Prozesse auf skalierbarere, containerisierte Art und Weise beschleunigen wird“, so Dr. Ngiam Kee Yuan, Group Chief Technology Officer bei NUHS.

Diejenigen Unternehmen, die ModelOps verwenden, profitieren also rasch von einem überschaubareren Weg der Bereitstellung von Modellen für maschinelles Lernen (ML) und KI. Sie demokratisieren zudem die KI-Entwicklung, indem sie dafür sorgen, dass Data Engineers und Data Analysts ohne Ausfallrisiko in den Prozess eingreifen können, weil sie ein geeignetes und effektives Rahmenwerk besitzen, mit dem sie arbeiten können.

Risikofreie KI dank ModelOps

Lassen Sie sich bei der KI-Wertschöpfung nicht von Fachkräftemangel oder rechtliche und imagebezogene Risiken als Folge von „Blackbox“-Lösungen einschränken. Skalierbare, robuste ModelOps ebnen den Weg zu einer KI, auf dem die Unternehmen weniger Risiken mit mehr Vorteilen verbinden können. Sie sorgen zudem dafür, dass sich die entwickelten und eingesetzten KI-Modelle an die sich ändernden Anforderungen eines Unternehmens anpassen. ModelOps machen die erforderliche Governance so flexibel, dass die Unternehmen dem sich ständig ändernden regulatorischen Umfeld immer einen Schritt voraus sein können.

(ID:48562970)