Studie beleuchtet aktuellen Stand zur Erklärbaren KI

KI-Innovationswettbewerb Studie beleuchtet aktuellen Stand zur Erklärbaren KI

15.06.2021 Von Christoph Kurth

Anbieter zum Thema

Disy Informationssysteme GmbH

Sinequa

Insider Research

LoeschHundLiepold Kommunikation GmbH

KI-basierte Anwendungen halten immer mehr Einzug in unseren Alltag. Doch den Anwendern fällt es immer schwerer nachzuvollziehen, wie die KI ihre Entscheidung fällt. Eine aktuelle Studie im Auftrag des Bundesministeriums für Wirtschaft und Energie (BMWi) ergab, dass trotz des hohen Bedarfs an erklärbarer KI es an entsprechenden Best Practices mangelt.

Neue Studie zur erklärbaren KI gibt Orientierungshilfe für KI-Anwender.
(Bild: KI-Innovationswettbewerb)

Im Rahmen der Studie befragte die Begleitforschung zum Technologieprogramm „Künstliche Intelligenz als Treiber für volkswirtschaftlich relevante Ökosysteme“ (KI-Innovationswettbewerb) über 200 KI-Experten aus Unternehmen und Forschungseinrichtungen zum Thema „Erklärbare KI“.

Tom Kraus, einer der Autoren, sagt: „Mit der Studie möchten wir eine möglichst praxisnahe Orientierungshilfe geben in einem Anwendungsfeld von KI, das bisher hauptsächlich von der Wissenschaft oder von einigen wenigen Hightech-Konzernen adressiert wird.“

Bei den Umfrageteilnehmern kommen schon heute sowohl „White-Box“-Modelle, wie etwa statistische bzw. probabilistische Modelle oder Entscheidungsbäume, als auch „Black-Box“-Modelle wie neuronale Netze zum Einsatz.

Entscheidungsbaum für erklärbare KI

Der Studie zufolge ist die Erklärbarkeit von Entscheidungen besonders im Gesundheitsbereich sehr wichtig, da Fehlentscheidungen verheerende Folgen haben können. Ebenfalls wichtig ist die Erklärbarkeit in den Bereichen der Finanzwirtschaft, Produktion, Bauwirtschaft und Prozessindustrie.

Entwicklung von Best Practices

Es gibt jedoch noch einige regulatorische und technische Herausforderungen, wie eine der Autorinnen, Lene Ganschow, sagt: „Aus regulatorischer Sicht müssen die Anforderungen an die Erklärbarkeit von KI überhaupt erst einmal geklärt werden. Nur wenn Unternehmen die Anforderungen überhaupt kennen, können sie entscheiden, wie sie ihre Produkte gestalten, und sie auf den Markt bringen.“

Technisch gesehen soll es zunächst darum gehen, Best Practices zu erstellen, von denen Unternehmen für sich ableiten können, welche Erklärungsstrategien sich für das eigene Produkt am besten eignen.

Artikelfiles und Artikellinks

Link: Die Ergebnisse der KI-Studie

(ID:47461161)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Stand vom 30.10.2020

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.