Kommentar von Christoph Bräunlich, BSI Digitale Ethik – welche Verantwortung tragen Unternehmen?

Von Christoph Bräunlich

Anbieter zum Thema

Individualisierte Angebote, eine schnelle sowie bedarfsorientierte Kommunikation auf der einen Seite und Datenschutz und Kontrolle über die eigenen Daten sowie Rechenschaft darüber, wie Anwendungen für Künstliche Intelligenz (KI) und bestimmte Entscheidungen entstehen, auf der anderen Seite. Das sind die heutigen Anforderungen von Unternehmen und auf der Verbraucherseite. Doch wie sollen Unternehmen diesen Spagat schaffen?

Der Autor: Christoph Bräunlich ist Head of BSI AI beim Software-Hersteller BSI, Vizepräsident des Verbands Swiss Insights und Mitentwickler des Data Fairness Label von Swiss Insights.
Der Autor: Christoph Bräunlich ist Head of BSI AI beim Software-Hersteller BSI, Vizepräsident des Verbands Swiss Insights und Mitentwickler des Data Fairness Label von Swiss Insights.
(Bild: BSI )

Immer mehr Unternehmen setzen Anwendungen für Künstliche Intelligenz und Big Data bei sich ein: Ob zur Automatisierung von Prozessen, zur Analyse von „Bewegungen“ bei Transaktionen und im Leben der Kunden oder für Vorentscheidungen bei der Personalauswahl – die Einsatzbereiche sind vielfältig und der Fantasie keine Grenzen gesetzt. Wenn allerdings Maschinen wichtige Entscheidungen treffen, wirft das eine Vielzahl an ethischen Fragen auf, allen voran: Wer trägt eigentlich die Verantwortung bei diesen Entscheidungen?

Laut dem Global Insights Report von Experian wünschen sich Verbraucherinnen und Verbraucher mehr Datenschutz und Einsicht in ihre Daten sowie Informationen darüber, welche Entscheidungen maschinell getroffen werden und vor allem wie. Gleichzeitig haben laut einer PWC-Studie bislang nur 24 Prozent der deutschen Unternehmen Standards zu Fragen der digitalen Ethik und ebenso wenig eine ausformulierte Digitalstrategie mit Bezügen zur digitalen Ethik. Aber an welchen Regeln sollen sich Unternehmen orientieren?

Die DSGVO allein reicht nicht

Eines steht fest: Die DSGVO adressiert nicht alle Fragen zum Thema Digitale Ethik, denn das Regelwerk zum Datenschutz reguliert lediglich den Umgang mit Daten und keine ethischen Fragen wie beispielsweise die Konsequenzen datenbasierter Entscheidungen oder Verzerrungen in der Datengrundlage. Das kann sie auch gar nicht. Hier sind Gesellschaft und Wirtschaft gleichermaßen gefordert, auf Regeln für einen ethischen Umgang mit Daten hinzuwirken. Das sollte im Sinne jedes Unternehmens sein, denn Organisationen können die digitale Transformation nur dann bewältigen, wenn sie das Vertrauen der Menschen gewinnen.

Hierfür sind wiederum ausformulierte ethische Leitlinien, der verantwortungsvolle Umgang mit persönlichen Daten und die Sicherung der Privatsphäre der Kundinnen und Kunden unbedingt notwendig. Unternehmen, die hierüber verfügen, erfüllen damit nicht nur die Anforderungen der Verbraucher, sondern können sich damit auch vom internationalen Wettbewerb absetzen, die vor dem Hintergrund einer ganz anderen Datenkultur in unsere Märkte eintreten.

Grenzen der Künstlichen Intelligenz

Dass sich Unternehmen mit ethischen Leitlinien schwertun, ist kein Wunder, denn das Thema Datenethik ist sehr komplex und umfasst eine Vielzahl an Aspekten, die je nach Branche und Unternehmensbereich variieren. In der Versicherungsbranche werden beispielsweise Prämien anhand von Datenanalysen festgelegt. Texte, die hierfür von einer KI analysiert werden, sind oft voller Vorurteile. Algorithmen werden also mit Daten trainiert, die einen Bias haben, auf Basis derer wiederum Entscheidungen getroffen werden.

Ein Beispiel hierfür ist ein KFZ-Schaden, der mit Fotos dokumentiert und von einer KI ausgelesen wird. Hier kann es passieren, dass neuere Autos bevorzugt werden, weil ältere Autos beispielsweise bereits Rostschäden haben und eine Maschine nicht beurteilen kann, ob ein Schaden bereits vor dem Unfall existiert hat. Bei einem neueren Auto sieht man das deutlicher. Auf der anderen Seite gehen viele Kunden ohnehin davon aus, dass ihre Daten mithilfe von KI automatisiert analysiert werden und sie dadurch in den Genuss einer schnellen Abwicklung kommen. In jedem Fall sollten Organisationen transparent zu dem Einsatz kommunizieren. Die Voraussetzung hierfür ist wiederum, dass sie sich grundsätzlich mit ethischen Fragen beschäftigen.

In sechs Schritten zur digitalen Ethik

Wir wissen nun also: Jedes einzelne Unternehmen trägt die Verantwortung, sich mit dem Thema digitale Ethik auseinander zu setzen. Die nachfolgenden sechs Handlungsfelder dienen als Leitfaden, an dem sich Organisationen orientieren können.

  • 1. Transparenz ist das A und O: Nur wenn Unternehmen gegenüber ihren Mitarbeitern, Partnern, Kunden aber auch der Gesellschaft transparent hinsichtlich der Nutzung von Daten, Modellen und Algorithmen sind, können sie das Vertrauen dieser erlangen. Hierzu zählt auch darüber zu informieren, an welchen Stellen keine KI eingesetzt wird – denn auch das kann Vertrauen bei den Kunden schaffen. Natürlich sind unternehmensinterne und vertrauliche Informationen davon ausgenommen.
  • 2. Verzerrungen vermeiden: Die Qualität von Algorithmen ist nur so gut wie die Informationen und Daten, auf welchen sie beruhen. Organisationen sollten daher regelmäßig die Datenbasis der Analysen kritisch auf mögliche Verzerrungen hin überprüfen. Beispielsweise sollte im Falle von E-Mail-Klassifikationen genau darauf geachtet werden, wie eingehende E-Mails priorisiert und bearbeitet werden. Es darf zum Beispiel nicht passieren, dass eine E-Mail, nur weil sie viele Rechtschreibfehler enthält, weniger priorisiert wird. Eine solche Überprüfung ist natürlich mit Aufwand verbunden, allerdings werden die Modelle dadurch auch bezüglich anderer Aspekte fehlertoleranter und funktionieren anschließend besser.
  • 3. Gesetzeskonform handeln: Gerade Versicherungen und Banken, die oft mit sensiblen Daten arbeiten, und dadurch strengen regulatorischen Richtlinien unterworfen sind, müssen sich intensiv damit beschäftigen, wofür sie Transaktionsdaten verwenden. Darüber hinaus sollten sie unbedingt klären, welche Kundendaten für welche Kommunikation wirklich notwendig sind. In jedem Fall ist es für Unternehmen aller Branchen empfehlenswert, sich schon einmal auf die kommende EU-Verordnung zu KI – den EU AI Act – vorzubereiten.
  • 4. Digitale Werte festlegen: Organisationen, die sich vom Wettbewerb abheben und den digitalen Wandel aktiv vorantreiben wollen, müssen sich mit dem Thema digitale Ethik auseinandersetzen – und zwar jetzt. Dabei reicht es nicht, Werte für die digitale Welt zu definieren, sondern es muss auch sichergestellt werden, dass diese Werte in der Organisation gelebt werden. Das stärkt einerseits das Vertrauen der Belegschaft in das Unternehmen selbst und andererseits steigert es die Reputation.
  • 5. Kunden profitieren lassen: Warum nicht auch die Kunden von den Vorteilen datenbasierter Geschäftsmodelle profitieren lassen und so deren Bereitschaft steigern, ihre Daten zu teilen? Ein Beispiel hierfür wäre die Beteiligung am Umsatz im Gegenzug zur Bereitstellung von Daten zur Person. Je nach Branche gibt es hier unterschiedliche Möglichkeiten.
  • 6. Digitale Ethik priorisieren: Bei der digitalen Ethik verhält es sich wie mit dem Thema Umweltschutz: Wichtig ist, dass sich Unternehmen mit dem Thema wirklich beschäftigen und ihrer Belegschaft auch Zeit dafür einräumen. Data Scientists können Modelle nur überprüfen, wenn ihnen auch die Zeit dafür eingeräumt wird. Hilfreich ist auch ein Label, wie beispielsweise das Data Fairness Label von der Swiss Data Insights Association, welches einen interaktiven Fragebogen bereitstellt, mithilfe dessen sich Unternehmen strukturiert mit Fragen zum Thema Digitale Ethik befassen können.

Warum digitale Ethik für Unternehmen so wichtig ist

Wer das Thema Datenethik ernsthaft angehen will, muss erst einmal viel Zeit und Aufwand investieren. Gleichzeitig bietet sich für Unternehmen die Chance, sich klar zu diesem Thema zu positionieren und so das Vertrauen von Kunden, Partnern und auch potenziellen Mitarbeitern zu festigen – und damit auch die Akzeptanz der Gesellschaft für neue Technologien und Geschäftsmodelle zu erlangen sowie die Bereitschaft der Kunden, ihre Daten mit den Unternehmen zu teilen.

Artikelfiles und Artikellinks

Link: BSI im Web

(ID:48446784)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung