Mobile-Menu

Vertrauen in KI Studie: KI setzt sich als „Fachkollege“ durch, nicht als Ersatz

Von Berk Kutsal 2 min Lesedauer

Anbieter zum Thema

Board Deutschland GmbH
Disy Informationssysteme GmbH
QUNIS GmbH

Wie entsteht Vertrauen in die Maschine, wenn es um sensible Themen wie Geld oder Gesundheit geht? Eine neue Langzeitstudie der Universität Kassel zeigt: Nicht der schlauste Algorithmus entscheidet über den Erfolg, sondern wie gut die Künstliche Intelligenz (KI) in die menschliche Beziehung zwischen Fachleuten und Kunden passt.

Prof. Dr. André Hanelt, Leiter des Fachgebiets Management der Digitalen Transformation der Universität Kassel.(Bild: Universität Kassel)
Prof. Dr. André Hanelt, Leiter des Fachgebiets Management der Digitalen Transformation der Universität Kassel.
(Bild: Universität Kassel)

Vertrauen in KI-Systeme wächst vor allem dort, wo sie als Ergänzung menschlicher Expertise auftreten. Zu diesem Ergebnis kommt eine gemeinsame Studie der Universität Kassel sowie der TU Darmstadt, TU Dortmund und der Goethe-Universität Frankfurt. Untersucht wurde über mehr als fünf Jahre hinweg, wie Finanzberater Robo-Advisors bewerten und in ihre Arbeit integrieren.

Das „magische Dreieck“: Mensch, Maschine, Kunde

Die zentrale Erkenntnis der Studie: Vertrauen in KI ist kein rein technisches Phänomen. Es entsteht in einer Dreieckskonstellation.

„Wir wissen bereits einiges über die Faktoren, die das Vertrauen direkter KI-Nutzerinnen und -Nutzer beeinflussen. Wir wissen aber sehr wenig darüber, wie menschliche Expertinnen und Experten, wie z. B. Ärztinnen und Ärzte oder Anwältinnen und Anwälte, Vertrauen gegenüber KI in ihrem Tätigkeitsbereich entwickeln, wenn sie solche Technologien nicht selbst nutzen, sondern ihren Klienten empfehlen“, erklärt Prof. Dr. André Hanelt, Leiter des Fachgebiets Management der Digitalen Transformation der Universität Kassel.

Die Untersuchung macht deutlich, dass Fachleute eine KI nicht primär nach ihrer Rechenleistung bewerten. Entscheidend sei stattdessen, wie sehr das System die wertvolle Beziehung zum Kunden beeinflusst. In sensiblen Bereichen wie Finanzen oder Gesundheit sei die soziale Einbettung entscheidend. Dort, wo KI als Teil eines kooperativen Arbeitsmodells erscheint, entwickelt sich eine stabile Arbeitsteilung statt eines Verdrängungsgefühls.

Relevanz des Menschen bleibt hoch

Die Angst, durch die Maschine ersetzt zu werden, erweist sich laut der Studie als unbegründet, sofern die Integration gelingt. Vielmehr fungieren die menschlichen Experten als „Torwächter“: Sie entscheiden durch ihr Vertrauen maßgeblich darüber, ob und wie KI-Systeme in der Gesellschaft akzeptiert werden.

„In Kontexten, in denen es für Menschen um viel geht, wie etwa im Bereich Geld oder Gesundheit, kommt es weniger auf die technische Ausgestaltung oder die Fähigkeiten von KI-Systemen an, sondern darauf, inwieweit sie in soziale Interaktionen eingebettet sind und sich in solche einbetten lassen“, so Hanelt.

Die Autoren sehen darin ein übertragbares Muster für weitere Branchen. Künftig dürften Ärzte, Juristen oder Finanzberater als Gatekeeper fungieren, die darüber entscheiden, wie stark KI in professionelle Interaktionen eingebunden wird. Damit prägen menschliche Experten maßgeblich die Geschwindigkeit und Form der KI-Verbreitung.

Die Studie wurde im Journal Management Information Systems Quarterly (MISQ) veröffentlicht.

(ID:50719382)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte