Schaden- und Haftungsfragen bei KI

KI im Unternehmen: das Für und Wider

| Autor: Sarah Böttcher

Künstliche Intelligenz ist bereits in zahlreichen Unternehmen im Einsatz. Nun müssen schnellstmöglich ethische sowie rechtliche Fragestellungen geklärt werden.
Künstliche Intelligenz ist bereits in zahlreichen Unternehmen im Einsatz. Nun müssen schnellstmöglich ethische sowie rechtliche Fragestellungen geklärt werden. (Bild: phonlamaiphoto - stock.adobe.com)

Auf der einen Seite erleichtert der Einsatz von Künstlicher Intelligenz (KI) den Arbeitsalltag, steigert die Effizienz und führt zu einer besseren Kundenbindung. Für Unternehmen ergeben sich jedoch auch neue Schaden- und Haftungsszenarien.

Der Einsatz von neuen Technologien in Unternehmen hat immer zwei Seiten. Neben zahlreichen Vorteilen können sich auch neue Szenarien ergeben, für die es noch keinen Notfallplan gibt. Im Falle des KI-Einsatzes werden sich Unternehmen deshalb in der Zukunft mit neuartigen Haftungsfragen konfrontiert sehen, da sich die Verantwortung für Handlungen vom Menschen auf die Maschine verlagern wird. Die steigende Vernetzung erhöht gleichzeitig die Anfälligkeit gegenüber Cyberangriffen oder technischem Versagen, die zu großflächigen Ausfällen und finanziellen Verlusten führen können.

In der Studie „The Rise of Artificial Intelligence: Future Outlook and Emerging Risks“ der Allianz Global Corporate & Specialty (AGCS) wurden einerseits die Vorteile der zunehmenden Implementierung von KI in Wirtschaft und Gesellschaft, einschließlich der Versicherungsbranche, aber auch mögliche Risiken durch die neue Technologie untersucht. „Egal ob für Wirtschaft, Politik, Mobilität, Gesundheit, Verteidigung oder Umwelt: KI bringt Vorteile, aber auch potenzielle Risiken mit sich. Wir brauchen dringend vorbeugende Maßnahmen zur Risikominderung, um den Nettonutzen beim Masseneinsatz zu maximieren und unbeabsichtigte Nebenwirkungen zu reduzieren“, erklärt Michael Bruch, Head of Emerging Trends bei AGCS.

Ethische Überlegungen

KI-gestützte Software könnte einerseits das Cyberrisiko für Unternehmen durch eine bessere Erkennung von Angriffen reduzieren, andererseits aber ebensolche Angriffe erleichtern, weil Planung und Durchführung einfacher werden. Ein- und derselbe Hackerangriff – oder auch ein Programmierfehler – könnten der AGCS zufolge auf zahlreichen Rechnern repliziert werden. Dadurch würden globale Cybervorfälle wahrscheinlicher.

Im Bereich Mobilität werden hohe Erwartungen in KI-Anwendungen gesetzt. Selbstfahrende Autos sollen menschliche Fehler als Hauptursache für Unfälle beseitigen, und KI in Verkehrsleitsystemen den Verkehrsfluss besser steuern. Allerdings ist noch weithin ungeklärt, wer bei Unfällen haftbar ist und welche ethischen Grundsätze autonome Fahrzeuge befolgen sollen, wenn Gesundheit und Leben anderer Verkehrsteilnehmer auf dem Spiel stehen.

Risikofaktoren

Der AGCS zufolge können KI-Risiken vor allem in fünf Bereichen entstehen: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung und Ethik. In Bezug auf die Sicherheit könnte dem Unternehmen zufolge beispielsweise das Rennen um die schnelle Markteinführung von KI-Systemen dazu führen, dass Überprüfungen nur unzureichend durchgeführt werden und so keine sicheren und funktionalen KI-Anwendungen gewährleistet sind. Dies könnte wiederum mehr Produktmängel und -rückrufe auslösen.

Was die Frage der Haftung betrifft, könnten KI-Agenten zwar künftig dem Menschen viele Entscheidungen abnehmen, dafür aber rechtlich nicht zur Verantwortung gezogen werden. In der Regel haftet der Hersteller oder Softwareprogrammierer von KI-Agenten für Fehler, die bei Nutzern Schäden verursachen. Für auf KI-basierende Entscheidungen, die sich nicht direkt auf das Design oder die Herstellung zurückführen lassen, die aber von einem KI-Agenten getroffen werden, könnte nach aktuell geltendem Recht allerdings niemand explizit haftbar gemacht werden. „Wenn die Anzahl der durch KI hervorgerufenen Schäden zunimmt, kann es schnell teuer werden und langwierig sein, die Entscheidungsfindung den Gerichten zu überlassen“, meint Bruch. „Wir brauchen Expertengremien, die die rechtliche Eintrittspflicht klären und einen Haftungsrahmen ausarbeiten, der Designer, Hersteller oder Verkäufer von KI-Produkten einer beschränkten Delikthaftung aussetzt.“

Rechtliche Grundlage erforderlich

Hierfür müssen traditionelle Deckungen angepasst werden, um sowohl Privatpersonen als auch Unternehmen entsprechend zu schützen. Versicherer müssen Unternehmen für solche Gefahren wie Cyberangriffe, Geschäftsunterbrechungen, Produktrückrufe und Reputationsschäden passende Lösungen bieten können. Zudem werden sich wahrscheinlich neue Haftpflichtversicherungsmodelle durchsetzen, die Hersteller und Softwareanbieter stärker in die Pflicht nehmen und die Gefährdungshaftung von Verbrauchern einschränken, so AGCS.

Auch ist es die Versicherungsbranche, die bereits verstärkt KI-Lösungen, wie beispielsweise Bots, die die eingehende Briefpost, E-Mails oder auch Anrufe automatisch klassifizieren und weiterbearbeiten, im Einsatz hat. „KI hat enormes Potenzial für Versicherer. Anfangs wird sie die Automatisierung von Prozessen unterstützen, um die Policen-Ausstellung oder Schadenabwicklung für die Kunden zu beschleunigen und zu verbessern“, erklärt Bruch.

Durch KI-unterstützte Datenanalysen werden Versicherer und ihre Kunden AGCS zufolge zudem ein besseres Verständnis der Risiken erlangen, so dass diese verringert oder über neue Versicherungslösungen abgesichert werden können. Nicht zuletzt wird KI auch die Kundenbeziehung verändern, da beispielsweise Self-Service-Angebote oder Beratung rund um die Uhr ermöglicht werden kann.

Kommentare werden geladen....

Kommentar zu diesem Artikel abgeben

Anonym mitdiskutieren oder einloggen Anmelden

Avatar
  1. Avatar
    Avatar
    Bearbeitet von am
    Bearbeitet von am
    1. Avatar
      Avatar
      Bearbeitet von am
      Bearbeitet von am

Kommentare werden geladen....

Kommentar melden

Melden Sie diesen Kommentar, wenn dieser nicht den Richtlinien entspricht.

Kommentar Freigeben

Der untenstehende Text wird an den Kommentator gesendet, falls dieser eine Email-hinterlegt hat.

Freigabe entfernen

Der untenstehende Text wird an den Kommentator gesendet, falls dieser eine Email-hinterlegt hat.

copyright

Dieser Beitrag ist urheberrechtlich geschützt. Sie wollen ihn für Ihre Zwecke verwenden? Infos finden Sie unter www.mycontentfactory.de (ID: 45212571 / Recht & Sicherheit)