Wissenschaftler stellten fest, dass Menschen keineswegs rücksichtsvoll mit Systemen der Künstliche Intelligenz umgehen, sondern sie häufig ausnutzen. Für eine künftige Zusammenarbeit könnte das problematisch werden.
Bei der Zusammenarbeit von Mensch und KI nutzen Menschen die KI oft aus.
Wenn Menschen mit Systemen der Künstlichen Intelligenz (KI) umgehen, so nutzen sie diese häufig aus. Das haben Wissenschaftler der Ludwig-Maximilians-Universität München und der Universität London herausgefunden.
Menschen beuten die ‚Gutmütigkeit‘ der Maschine zum eigenen Vorteil aus.
Jurgis Karpus, Ph.D. der LMU
Sind Menschen KI gegenüber kooperativ?
Die Forscher haben untersucht, ob sich Menschen im Umgang mit KI-Systemen genauso kooperativ verhalten wie gegenüber ihren Mitmenschen. Da Menschen in Zukunft immer mehr mit KI-Systemen wie dem autonomen Fahren konfrontiert werden, ist die Thematik sehr relevant.
Jurgis Karpus, Ph.D., Mitarbeiter am Lehrstuhl für Philosophy of Mind der LMU, erklärt: „Kooperation hält unsere Gemeinschaft zusammen. Sie erfordert Kompromiss- und Risikobereitschaft, da das Vertrauen, das wir anderen entgegenbringen, immer auch ausgenutzt werden kann.“
Der Autoverkehr ist dafür ein gutes Beispiel: Man verlieren etwas Zeit, gewährt man jemandem Vorfahrt. Gleichzeitig ist man verärgert, wenn andere es uns nicht gleichtun.
Menschen nutzen KI-Systeme aus
Im Rahmen der Studie wurden in Online-Experimenten verschiedene Situationen mit Methoden der verhaltensorientierten Spieltheorie modelliert, in denen Mensch und Maschine zusammentreffen. Die Studie zeigt, dass Menschen Maschinen zunächst dasselbe Vertrauen entgegenbringen wie ihren Mitmenschen: Die meisten gehen davon aus, auf Kooperationsbereitschaft zu treffen.
Doch dann beginnen die Unterschiede: Die Menschen waren sehr viel weniger bereit, sich einer KI gegenüber ebenso zu verhalten wie gegenüber einem Menschen. „Sie beuten sogar die ‚Gutmütigkeit‘ der Maschine zum eigenen Vorteil aus“, erklärt der Wissenschaftler Karpus. „Im Autoverkehr würde ein Mensch einem menschlichen Fahrer die Vorfahrt gewähren, nicht jedoch einem selbstfahrenden Auto.“
Im Laufe der Experimente erwies sich dieses Muster als so konsistent, dass in der Studie die Rede von einer „Ausbeutung von Algorithmen“ ist. „Dieser Widerwillen zur Kooperation mit Maschinen ist eine Herausforderung für die zukünftige Interaktion zwischen Mensch und KI“, erklärt Jurgis Karpus.
Dieser Artikel stammt von unserem Partnerportal Elektrotechnik.
(ID:47470658)
Stand vom 30.10.2020
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.