Mobile-Menu

Verlässlichkeit von Sprachmodellen Warum uns Künstliche Intelligenz so eloquent täuscht

Von Rolf Schulz 5 min Lesedauer

Sie wirken allwissend, antworten in Millisekunden und entschuldigen sich höflich, wenn sie Fehler machen – etwa, wenn ein Agent versehentlich Daten gelöscht hat. Doch hinter der perfekten Rhetorik von ChatGPT, Gemini und Co. verbirgt sich eine fundamentale Schwachstelle: fundiert wirkende, aber schlicht erfundene Inhalte. Warum das passiert und warum die KI-Welt deshalb vor einem radikalen Umbruch steht, erklärt diese Analyse.

Die Illusion des Wissens: Warum Sprachmodelle eloquent täuschen, wo die Grenzen der Transformer-Technologie liegen und wie die KI-Zukunft aussieht.(Bild: KI-generiert)
Die Illusion des Wissens: Warum Sprachmodelle eloquent täuschen, wo die Grenzen der Transformer-Technologie liegen und wie die KI-Zukunft aussieht.
(Bild: KI-generiert)

In der Technologiebranche hat sich der Begriff „Halluzination“ eingebürgert, wenn ein Sprachmodell plausible, aber sachlich falsche Angaben macht. Wissenschaftlich ist dieser Begriff jedoch ungenau und verleitet dazu, die Technik zu vermenschlichen. Eine Halluzination setzt biologische Sinneswahrnehmung voraus – die hat ein Algorithmus nicht. Auch das Wort „Lügen“ trifft nicht zu, weil es eine bewusste Täuschungsabsicht unterstellt. Ein Sprachmodell kennt weder Absichten noch Wahrheit – es berechnet lediglich, welches Wort am wahrscheinlichsten als nächstes folgt.

Deshalb empfehlen viele Forscher den Begriff Konfabulation, der aus der Neuropsychologie stammt. Er beschreibt Patienten, die aufgrund von Gedächtnislücken eine zusammenhängende, aber frei erfundene Geschichte erzählen, um den Gesprächsfluss aufrechtzuerhalten. Genau das macht ein Sprachmodell: Fehlen im Trainingsmaterial bestimmte Informationen oder liefert die Eingabe zu wenig Kontext, füllt das Modell die Lücke mit statistisch naheliegenden, aber sachlich nicht belegten Wortfolgen. Während „Halluzination“ im Sprachgebrauch der Branche weiter dominiert, beschreibt „Konfabulation“ die algorithmische Wirklichkeit – fehlerlose Sprachflüssigkeit bei vollständiger Abwesenheit von Faktentreue – deutlich treffender.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte