Mensch-Maschine-Interaktion Menschen gehen rücksichtslos mit KI-Systemen um

Autor / Redakteur: Katharina Juschkat / Nico Litzel

Wissenschaftler stellten fest, dass Menschen keineswegs rücksichtsvoll mit Systemen der Künstliche Intelligenz umgehen, sondern sie häufig ausnutzen. Für eine künftige Zusammenarbeit könnte das problematisch werden.

Firmen zum Thema

Bei der Zusammenarbeit von Mensch und KI nutzen Menschen die KI oft aus.
Bei der Zusammenarbeit von Mensch und KI nutzen Menschen die KI oft aus.
(Bild: ©peshkova - stock.adobe.com)

Wenn Menschen mit Systemen der Künstlichen Intelligenz (KI) umgehen, so nutzen sie diese häufig aus. Das haben Wissenschaftler der Ludwig-Maximilians-Universität München und der Universität London herausgefunden.

Menschen beuten die ‚Gutmütigkeit‘ der Maschine zum eigenen Vorteil aus.

Jurgis Karpus, Ph.D. der LMU

Sind Menschen KI gegenüber kooperativ?

Die Forscher haben untersucht, ob sich Menschen im Umgang mit KI-Systemen genauso kooperativ verhalten wie gegenüber ihren Mitmenschen. Da Menschen in Zukunft immer mehr mit KI-Systemen wie dem autonomen Fahren konfrontiert werden, ist die Thematik sehr relevant.

Jurgis Karpus, Ph.D., Mitarbeiter am Lehrstuhl für Philosophy of Mind der LMU, erklärt: „Kooperation hält unsere Gemeinschaft zusammen. Sie erfordert Kompromiss- und Risikobereitschaft, da das Vertrauen, das wir anderen entgegenbringen, immer auch ausgenutzt werden kann.“

Der Autoverkehr ist dafür ein gutes Beispiel: Man verlieren etwas Zeit, gewährt man jemandem Vorfahrt. Gleichzeitig ist man verärgert, wenn andere es uns nicht gleichtun.

Menschen nutzen KI-Systeme aus

Im Rahmen der Studie wurden in Online-Experimenten verschiedene Situationen mit Methoden der verhaltensorientierten Spieltheorie modelliert, in denen Mensch und Maschine zusammentreffen. Die Studie zeigt, dass Menschen Maschinen zunächst dasselbe Vertrauen entgegenbringen wie ihren Mitmenschen: Die meisten gehen davon aus, auf Kooperationsbereitschaft zu treffen.

Doch dann beginnen die Unterschiede: Die Menschen waren sehr viel weniger bereit, sich einer KI gegenüber ebenso zu verhalten wie gegenüber einem Menschen. „Sie beuten sogar die ‚Gutmütigkeit‘ der Maschine zum eigenen Vorteil aus“, erklärt der Wissenschaftler Karpus. „Im Autoverkehr würde ein Mensch einem menschlichen Fahrer die Vorfahrt gewähren, nicht jedoch einem selbstfahrenden Auto.“

Im Laufe der Experimente erwies sich dieses Muster als so konsistent, dass in der Studie die Rede von einer „Ausbeutung von Algorithmen“ ist. „Dieser Widerwillen zur Kooperation mit Maschinen ist eine Herausforderung für die zukünftige Interaktion zwischen Mensch und KI“, erklärt Jurgis Karpus.

Dieser Artikel stammt von unserem Partnerportal Elektrotechnik.

(ID:47470658)