Mobile-Menu

Explainable AI Warum der Puls des Nutzers über das Vertrauen in die KI entscheidet

Von Berk Kutsal 2 min Lesedauer

Anbieter zum Thema

Universität Paderborn
Board Deutschland GmbH
Fivetran Germany GmbH

Forscher der Universitäten Paderborn und Bielefeld haben untersucht, wie der emotionale Zustand von Nutzern beeinflusst, ob sie die Empfehlungen einer KI übernehmen. Laut der Studie folgt die Akzeptanz einer U-förmigen Kurve. Wer stark oder kaum erregt ist, übernimmt KI-Ratschläge häufiger. Bei mittlerer Erregung fällt die Prüfung kritischer aus.

Nicht der ruhigste Nutzer ist der kritischste: Bei mittlerer emotionaler Erregung werden KI-Empfehlungen am ehesten hinterfragt, zeigt die Studie des TRR 318.(Bild: Midjourney / KI-generiert)
Nicht der ruhigste Nutzer ist der kritischste: Bei mittlerer emotionaler Erregung werden KI-Empfehlungen am ehesten hinterfragt, zeigt die Studie des TRR 318.
(Bild: Midjourney / KI-generiert)

Forscher des Sonderforschungsbereichs/Transregio 318 „Constructing Explainability“ der Universitäten Paderborn und Bielefeld haben untersucht, wie der emotionale Erregungszustand von Nutzern den Umgang mit Empfehlungen Künstlicher Intelligenz (KI) beeinflusst. Ergebnis: Personen in einem mittleren Erregungszustand prüfen KI-Empfehlungen offenbar kritischer als Personen mit besonders hoher oder niedriger Erregung.

Ein nicht-linearer Zusammenhang

Die Studie beschreibt einen nicht-monotonen, U-förmigen Zusammenhang zwischen emotionaler Erregtheit und der Annahme von KI-Empfehlungen. Teilnehmer mit hoher wie mit niedriger Erregung folgten den Empfehlungen des Systems häufiger. Teilnehmer mit mittlerer Erregung übernahmen sie seltener. Die Akzeptanz fällt damit nicht gleichmäßig mit steigender Erregung, sondern erreicht im mittleren Bereich ein Minimum.

Experiment mit Pulsmessung

Für das Experiment versetzten die Forscher 73 Teilnehmer in unterschiedliche emotionale Zustände, indem diese sich bestimmte Situationen vorstellten und anschließend Aufgaben bearbeiteten. Eine Gruppe erhielt eine lösbare, die andere eine unlösbare Aufgabe. Die emotionale Erregung wurde nicht nur über die subjektive Selbsteinschätzung erfasst, sondern zusätzlich über die Pulsmessung objektiviert.

„Unsere Ergebnisse deuten darauf hin, dass Menschen in einem mittleren Erregungszustand Empfehlungen von KI-Systemen kritischer hinterfragen“, erklärt Maurice Pape, Doktorand im Projekt A03 und Mitautor der Studie. Ob sich Personen mit hoher oder niedriger Erregung weniger für die Erklärungen der KI interessierten, sei Gegenstand laufender Folgestudien.

Vorläufige Befunde mit Anwendungsperspektive

Die Aussagekraft ist durch die kleine Stichprobe begrenzt. Die Autoren ordnen die Befunde selbst als vorläufig ein. Künftig wollen sie etwa den Einfluss von Zeitdruck auf die Erregtheit und dessen Auswirkung auf die Akzeptanz von KI-Erklärungen untersuchen.

Längerfristig sehen die Forscher Anwendungspotenzial bei sogenannten „arousal-sensitiven“ XAI-Systemen, die den emotionalen Zustand der Nutzer berücksichtigen, etwa in medizinischen Szenarien, in denen Menschen unter Stress oder emotionaler Belastung entscheiden.

(ID:50881371)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte