Suchen

Cloud-basierte Software IBM sorgt für mehr KI-Transparenz

| Autor / Redakteur: Martin Hensel / Nico Litzel

Mit einer neuen Technologie will IBM mehr Transparenz in den Bereich der Künstlichen Intelligenz (KI) bringen. Die entsprechende IBM-Cloud-basierte Software deckt systematische Fehler in Daten und KI-Modellen auf und bietet passende Lösungsvorschläge.

Firmen zum Thema

IBM will die Transparenz von KI-Entscheidungen verbessern.
IBM will die Transparenz von KI-Entscheidungen verbessern.
(Bild: IBM)

Die Software zeigt in Echtzeit, auf welcher Grundlage Entscheidungsvorschläge zustande kommen. Sie erkennt selbstständig quantitative und qualitative Mängel in Daten und KI-Modellen. Als Grundlage dient die IBM Cloud. Unternehmen sollen mittels der Software KI-Systeme für eine große Bandbreite an Branchen und Kunden nutzbar machen können, indem sie Vertrauen in die Qualität der Entscheidungsvorschläge schaffen. Zusätzlich übergibt IBM Research das KI-Toolkit „AI Fairness 360“ zur Erkennung systematischer Fehler und deren Vermeidung an die Open-Source-Community. Es enthält dazu neuartige Algorithmen, Codes und Tutorials. Auf diese Weise soll der weltweite Austausch und die Zusammenarbeit bezüglich der Entwicklung von vorurteilsfreien KIs unterstützt werden.

KI-Entscheidungen sichtbar machen

Die neue IBM-Software arbeitet mit Modellen, die auf verbreiteten KI- und ML-Frameworks basieren. Dazu zählen etwa Watson, Tensorflow, SparkML, AWS SageMaker und AzureML. Unternehmen können die Software an ihre individuellen Bedürfnisse anpassen. Der vollautomatisierte Service erklärt die Entscheidungsfindung der KI bereits während der Verarbeitung und empfiehlt bei Bedarf die Ergänzung des Modells um zusätzliche Daten. Somit werden potenzielle Mängel oder unbalancierte Ergebnisse von vornherein vermieden. Die Erklärungen sind dank visueller Dashboards einfach verständlich und zeigen alle relevanten Faktoren der Entscheidungsfindung sowie die Vertrauenswürdigkeit des Vorschlags auf. Datengrundlagen und die Herkunft des KI-Modells werden aufgezeichnet, um spätere Einsicht durch Kundenservice oder Compliance-Verantwortliche zu gewährleisten.

Zuverlässigkeitsprobleme befürchtet

Hintergrund der Entwicklung sind Untersuchungen von IBMs Institute for Business Value. Demnach wollen zwar 82 Prozent der Unternehmen eine KI einführen, 60 Prozent befürchten aber Probleme mit deren Verlässlichkeit. Zudem gaben 63 Prozent der Firmen an, nicht über interne Mitarbeiter zur Verwaltung der Technik zu verfügen. CEOs erwarten, dass eine KI-Adaption vor allem in den Bereichen IT, Informationssicherheit, Innovationen, Kundenservice und im Risikomanagement gewinnbringend ist. Derartige Projekte werden in zunehmend digitalisierten Branchen wie beispielsweise Finanzdienstleistungen eher forciert.

(ID:45509433)