These vom Vertrauensvorschuss widerlegt KI-Systeme – Menschen vertrauen eher Menschen

Immer häufiger tragen automatisierte Unterstützungssysteme zur Entscheidungsfindung in unterschiedlichsten Kontexten bei. Dem Vertrauen in menschliche Kollegen tut das aber keinen Abbruch, wie Wissenschaftler der TU Berlin nun festgestellt haben.

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Disy Informationssysteme GmbH

QUNIS GmbH

TU Berlin

Die Forscher Tobias Rieger, Eileen Roesler und Prof. Dr. Dietrich Manzey vom Fachgebiet Arbeits-, Ingenieur- und Organisationspsychologie der Technischen Universität Berlin haben im Rahmen einer Serie von Online-Experimenten untersucht, inwiefern sich das Vertrauen in menschliche Kollegen vom Vertrauen in technische Systeme unterscheidet.

Die Ergebnisse dieser Forschung wurden nun in der Fachzeitschrift „Scientific Reports“ veröffentlicht. Sie zeigen laut den Wissenschaftlern überraschend klar auf, dass der Expertise menschlicher Kollegen mehr als der von KI-getriebenen oder klassischen Entscheidungsunterstützungssystemen entgegengebracht wird. Dies sei über unterschiedlichste Kontexte hinweg der Fall.

Frühere Annahmen widerlegt

Erkenntnisse früherer Studien legten nahe, dass Technologien mehr als Menschen vertraut wird. Dies geht auf die Annahme zurück, dass technische Systeme unfehlbar sind. Um herauszufinden, ob diese Annahme auch für moderne KI-Systeme gilt, haben die Wissenschaftler Experimente in unterschiedlichen Bereichen mit über 900 Personen durchgeführt. Entgegen der ursprünglich vermuteten Überlegenheit technischer Systeme, zeigten alle Studie ein höheres Vertrauen gegenüber menschlichen Interaktionspartnern im Kontext von Kreditvergabe, medizinischer Diagnostik und Bildverarbeitung in der Prozessindustrie. Letzteres überraschte die Forscher, da die technische Bildverarbeitung den menschlichen Fähigkeiten gleichwertig, wenn nicht sogar als überlegen gilt.

Neben dem Umgang von Menschen mit Technologien werden sie auch zunehmend von technischen Systemen bewertet. Hierbei ergeben sich neue Herausforderungen: Laut den Wissenschaftlern macht es einen Unterschied, ob man selbst bei einer Bank arbeitet und dabei Unterstützung erhält oder ob man bei einer Bank einen Kredit beantragt und selbst von einer Entscheidung betroffen ist. Dies führt zu unterschiedlichen Perspektiven – und unerwarteten Ergebnissen: Wurden die Teilnehmer gefragt, ob sie selbst betreffende Entscheidungen lieber von einem Menschen oder einem technischen System gefällt werden sollen, zogen sie durchgehend technische Systeme vor.

Die Forscher der TU Berlin kommen zum Schluss, dass die Mensch-Technik-Interaktion nicht nur aus der Perspektive der beruflichen Kooperation gedacht werden sollte. Vielmehr sei auch zu berücksichtigen, dass Menschen zunehmend von Technologien beurteilt werden. Vor dem Hintergrund technologischen Fortschritts und sich stetig verbessernder Systeme bleibe eine der größten offenen Fragen, wie viel Vertrauen angemessen ist.

(ID:48095630)