Watsonx.governance IBM integriert Governance in KI-Plattform Watsonx

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Tableau von Salesforce

Fivetran Germany GmbH

IBM Deutschland GmbH

IBM hat im Sommer die KI- und Datenplattform watsonx verfügbar gemacht. Das KI-Entwicklungsstudio watsonx.ai ist ebenso erhältlich wie die Datenplattform watsonx.data. Das dritte Modul watsonx.governance ist für Anfang Dezember angekündigt und soll als SaaS in der IBM Cloud bereitgestellt werden.

Watsonx.governance, die dritte Komponente der Watsonx-Plattform, soll „Unternehmen dabei helfen, KI-Modelle transparenter zu machen und das Mysterium um die Daten, die eingehen, und die Antworten, die herauskommen, zu beseitigen“, sagte die IBM-Mitarbeiterin Ana Paula de Jesus Assis. In der Tat ist die Erstellung von LLMs und Foundation Models (FMs) ein Minenfeld voller Risiken, mit denen sich Unternehmen viel Ärger einhandeln können.

So hat der AI Act der Europäischen Kommission zwar Klarheit geschaffen, was verboten ist, aber unbegrenzt gelassen, was alles erlaubt und möglich ist. Das spiegelt möglicherweise das Streben nach „Technologieoffenheit“ der Liberalen und eine Förderung von technologischer Innovation und Souveränität – die nur quelloffene Software verschaffen kann – wider. Die genannten IBM-Mitarbeiterinnen erkannten in der Fragerunde der Pressekonferenz an, dass vieles geregelt worden ist und dass noch viel mehr Regeln kommen werden.

Risiken beginnen mit Trainingsdaten

Die genannten Risiken beginnen mit Trainingsdaten, die aus dem Internet stammen und nicht unmittelbar als fair und korrekt validiert werden können, und geht bis hin zu einem Mangel an erklärbaren Ergebnissen. So etwa dann, wenn KI-Modelle wie ChatGPT zu „halluzinieren“ beginnen und sich als Poeten betätigen. Wenn ein Modell zu wenig Trainingsdaten erhält, tendiert es zwangsläufig dazu, eine Tendenz zu entwickeln, die als „bias“ bezeichnet wird. Sie ist meist unfair gegen bestimmte Menschengruppen gerichtet und lässt sich als rassistisch, misogyn, homophob und so weiter bezeichnen. Auch ist mitunter durch fehlende Transparenz und Erklärbarkeit unklar, wie eine bestimmte Entscheidung wie die Verweigerung einer Kreditvergabe (mangelnde Bonität bei der Schufa und dergleichen) zustande gekommen ist.

„Generative KI ist inzwischen in den Vorstandsetagen angekommen“, berichtet Hardy Gröger von IBM Deutschland. „Doch es gibt Bedenken hinsichtlich der möglichen Preisgabe von vertraulichem internem Wissen.“ Das beruhe nicht nur auf Vorgaben der DSGVO, sondern auch in der Bewahrung geistigen Eigentums, das derzeit meist im eigenen Rechenzentrum geschützt sei.

„Was passiert mit meinen Daten, wenn eine generative KI zum Einsatz kommt?“, berichtet Gröger von den Bedenken. Je nach Vorgehensweise der verschiedenen Anbieter können Benutzereingaben und auch Daten zur Verfeinerung der Modelle („Prompt Engineering“ oder Fine Tuning) von den Anbietern genutzt werden, um zukünftige Modelle zu trainieren. Damit könnten schutzbedürftige Daten preisgegeben werden. Die Folgen könnten gerade in personeller, rechtlicher und juristischer Hinsicht drastisch sein. „Deshalb geben wir unseren Kunden die Sicherheit, dass IBM keine Kundendaten nutzt, um Modelle zu trainieren oder anderwärtig zu verwenden. Ihre Daten bleiben ihre Daten.“

Laut Montgomery und Assis biete Watsonx.governance bietet Unternehmen den „Werkzeugkasten, den sie benötigen, um Risiken zu managen, Transparenz zu schaffen und die Einhaltung künftiger (!) KI-bezogener Vorschriften von vornherein zu berücksichtigen“, so Montgomery. Damit fasst die Toolbox mehr oder weniger die bekannten IBM-Angebote zusammen.

Ethik, Transparenz und Erklärbarkeit von KI-Workflows

Mit Watsonx.governance lassen sich somit wichtige Aspekte wie Ethik, Transparenz und Erklärbarkeit von KI-Workflows und Machine Learning Modellen realisieren. Zudem sei dies laut Gröger eine Konsole, um alle KI-Aktivitäten einer Organisation zu steuern, zu verwalten und zu überwachen. „Andere Modelle, die nicht von IBM kommen, lassen sich ebenfalls damit verwalten“, sagte Assis.

Um bereits heute mithilfe von KI Innovation voranzutreiben, setzen Unternehmen laut Assis eine Mischung aus LLMs von verschiedenen Technologieanbietern und Open-Source-Communities ein. „Watsonx ermöglicht es ihnen, Modelle aus verschiedenen Quellen und auf verschiedenen Plattformen zu verwalten, zu überwachen und zu steuern“, so Assis weiter.

Die „primären Nutzer“ des Governance seien Unternehmen, die hinsichtlich der Nutzung von GenAI „unter Druck“ stünden, sagte die IBM-Vertreterin Assis. Denn durch die oben genannten gesetzlichen Vorgaben – sei es in der EU, sei es in den USA oder Großbritannien – seien die Unternehmen laufend dazu angehalten, die Regeln, die beispielsweise durch DSGVO oder HIPAA und viele weitere Standards gibt, auch auf die KI-Nutzung auszuweiten. „Das gilt natürlich in besonderem Maße für regulierte Branchen wie etwa die Finanzindustrie“, sagte Assis.

„Die Fähigkeit von watsonx.governance, Vorschriften in durchsetzbare Richtlinien zu übersetzen, wird für Unternehmen noch wichtiger werden, wenn sich neue KI-Vorschriften weltweit durchsetzen“, ergänzte Kareem Yusuf, Senior Vice President, Product Management and Growth, IBM Software. „Und der Vorteil von Watsonx ist es, alle diese Funktionen auf einer Plattform zu vereinigen und so für Beobachtbarkeit und Sichtbarkeit von Modellen einerseits, aber auch von Vereinfachung aller Aufgaben zu sorgen“, fasste Assis zusammen.

Fachkenntnisse fehlen häufig

Einer IBM-Umfrage zufolge fehlen vielen Unternehmen die Fachkenntnisse, um diese Leistung selbst zu erbringen. Deshalb sieht Big Blue für sein Ökosystem von Beratern große Chance, ihren Kunden hilfreich bei der Implementierung und Anpassung der nötigen Workflows auf Watsonx zur Seite zu stehen.

„IBM Consulting hat ebenso die strategische Expertise erweitert, um Kunden bei der Skalierung verantwortungsvoller KI zu unterstützen, und zwar sowohl mit automatisierter Modell-Governance als auch mit organisatorischer Governance, die Menschen, Prozesse und Technologien von IBM und strategischen Partnern umfasst. IBM-Beratende verfügen über fundierte Kenntnisse bei der Etablierung von KI-Ethikgremien, Organisationskultur und Verantwortlichkeiten, Weiterbildung usw.“, sagte Cristina Montgomery. „Bei all diesen Ansätzen wird immer der Mensch in den Mittelpunkt des Designs gestellt.“

watsonx

IBM macht Generative KI für Unternehmen verfügbar

Watsonx Code Assistant for Z

IBM modernisiert Mainframe-Anwendungen mit generativer KI

(ID:49802077)