Kommentar von Prof. Dr. Diego Calvanese, Freie Universität Bozen Warum überzeugende KI-Antworten noch kein Verständnis belegen

Große Sprachmodelle klingen souverän, auch wenn ihre Antworten falsch sind. Denn sie erzeugen Sprache auf der Grundlage von Wahrscheinlichkeiten, nicht aus einem menschlichen Verständnis heraus. Ein Ansatz für verlässlichere KI besteht deshalb darin, sprachliche Leistungsfähigkeit mit hochwertigen Daten, explizitem Wissen und nachvollziehbaren Schlussfolgerungen zu verbinden.

Die sprachliche Sicherheit eines Modells wird leicht mit inhaltlicher Verlässlichkeit verwechselt. Doch eine überzeugende Formulierung belegt nicht, dass die zugrunde liegenden Informationen stimmen und die beschriebenen Zusammenhänge bestehen. Das zentrale Problem ist, dass ein System über einen Sachverhalt sprechen kann, ohne dessen Bedeutung wie ein Mensch zu verstehen. Um dieser Herausforderung zu begegnen, erforscht die Wissenschaft, wie Daten aufbereitet und zusammengeführt, Wissen dargestellt und unterschiedliche KI-Ansätze miteinander verbunden werden können.

Wahrscheinlichkeit ist kein Wahrheitsnachweis

Sprachmodelle lernen aus großen Datenbeständen, welche Wörter und Formulierungen in einem bestimmten Kontext wahrscheinlich aufeinander folgen. Auf dieser Grundlage erzeugen sie Antworten. Der Unterschied zu Excel wird schnell deutlich: Eine korrekt eingegebene Formel berechnet nach festgelegten Regeln ein Ergebnis. Ein Sprachmodell arbeitet dagegen mit erlernten Mustern und ermittelt, welche Fortsetzung wahrscheinlich ist. Doch was sprachlich zusammenpasst, muss sachlich nicht stimmen. Auch falsche Aussagen können überzeugend klingen und sind ohne fachliche Expertise schwer zu erkennen. Deshalb müssen die Inhalte immer geprüft werden.

Fachleute können eine Antwort einordnen, Ungenauigkeiten erkennen und bei Bedarf korrigieren. Anfängern fehlt dafür oft die nötige Grundlage. Je überzeugender eine Formulierung klingt, desto wichtiger ist die Fähigkeit, zwischen einer gelungenen Darstellung und einer belastbaren Aussage zu unterscheiden. Sprachmodelle können in der Arbeit eine wichtige Stütze sein, ersetzen die fachliche Expertise aber nicht.

Verständnis braucht Begriffe und Beziehungen

Menschen ordnen Wissen mithilfe von Begriffen, Regeln und Zusammenhängen. Symbolische KI-Systeme bilden solche Strukturen ausdrücklich ab. Neuronale Verfahren, darunter große Sprachmodelle, lernen dagegen Muster aus Daten, ohne diese automatisch als einzeln überprüfbare Regeln und Beziehungen festzuhalten. Neurosymbolische KI verbindet beide Ansätze mit dem Ziel, Zusammenhänge nachvollziehbarer und Aussagen verlässlicher zu machen.

Semantische Technologien beschreiben, was Informationen bedeuten und wie sie miteinander zusammenhängen. Das ist wichtig, weil dieselben Sachverhalte in verschiedenen Systemen unterschiedlich dargestellt sein können: Bezeichnungen wie Kunde, Nutzer oder Patient können sich inhaltlich überschneiden, sind aber nicht grundsätzlich austauschbar. Fehlt diese Einordnung, können bei der Datenintegration Fehler, Verzerrungen und unzuverlässige Ergebnisse entstehen.

Im Gesundheitswesen stammen Patientendaten, Laborwerte und medizinische Untersuchungen beispielsweise aus unterschiedlichen Quellen. Damit sie gemeinsam analysiert oder in KI-Anwendungen genutzt werden können, muss geklärt werden, welche Angaben zusammengehören, wie die verwendeten Begriffe zusammenhängen und wo Widersprüche oder doppelte Informationen auftreten.

Verlässlichkeit von Sprachmodellen

Warum uns Künstliche Intelligenz so eloquent täuscht

Die Forschung zu semantischen Methoden an der Freien Universität Bozen untersucht, wie sich Informationen und ihre Bedeutung formal beschreiben und mit mathematischer Logik darstellen und verknüpfen lassen. In Kombination mit neuronalen Verfahren und Sprachmodellen sollen so leistungsfähigere Systeme entstehen.

Ein Knowledge Graph macht ein Sprachmodell jedoch nicht automatisch zu einem System, das tatsächlich versteht. Explizit beschriebenes Wissen kann aber dazu beitragen, Informationen verlässlicher zu verarbeiten und zu prüfen. Welche Kombinationen sich langfristig bewähren und was darüber hinaus für eine allgemeine Künstliche Intelligenz erforderlich ist, bleibt eine offene Forschungsfrage.

Knowledge Graphs zeigen, wie Informationen zusammenhängen

Ein Knowledge Graph stellt Informationen als Netzwerk dar. Seine Knoten stehen beispielsweise für Gebäude, Unternehmen oder Stromzähler; die Verbindungen bilden die Beziehungen zwischen ihnen ab. So kann etwa festgehalten werden, dass ein Unternehmen ein Gebäude nutzt und ein Stromzähler dessen Verbrauch misst. Auf diese Weise wird deutlich, welche Informationen zusammengehören.

Die Angaben können aus verschiedenen Datenbanken stammen. So enthält eine Datenbank beispielsweise Informationen zu Gebäuden, eine andere die Messwerte der Stromzähler. Sind beide Quellen mit dem Knowledge Graph verknüpft, lassen sich die Daten gemeinsam auswerten. Eine Frage wie „Welche Gebäude haben einen hohen Stromverbrauch?“ kann dann automatisch in passende Datenbankabfragen übersetzt werden, ohne dass Fachleute wissen müssen, wo jede einzelne Angabe gespeichert ist und wie darauf zugegriffen werden muss.

KI macht dich nicht zum Superhelden

Ein kritischer Blick auf den LLM-Hype

Eine Ontologie legt die Begriffe und möglichen Beziehungen für ein solches Netzwerk fest. Sie beschreibt, was unter einem Gebäude oder einem Stromzähler zu verstehen ist und wie beide miteinander verbunden sein können. Auf dieser Grundlage bildet der Knowledge Graph konkrete Gebäude, Stromzähler und ihre Beziehungen ab. Damit das zuverlässig funktioniert, müssen die Begriffe eindeutig definiert und die zugeordneten Daten korrekt sein.

An der Freien Universität Bozen untersuchen wir, wie sich Daten aus unterschiedlichen Quellen mithilfe semantischer Methoden für die weitere Nutzung aufbereiten lassen. Dabei betrachten wir auch die einzelnen Schritte der Verarbeitung: Wie werden Daten vorbereitet, bereinigt und verändert? Angaben zu ihrer Bedeutung und Herkunft helfen dabei, diese Prozesse nachzuvollziehen.

Der Weg zur allgemeinen Intelligenz bleibt offen

Wie weit KI ihre heutigen Fähigkeiten noch ausbauen kann, lässt sich nicht verlässlich vorhersagen. Ebenso wenig lässt sich aus der Qualität heutiger Sprachmodelle ein belastbarer Zeitpunkt für Artificial General Intelligence ableiten – eine künstliche Intelligenz, die ähnlich flexibel und vielseitig einsetzbar ist wie die menschliche Intelligenz.

KI-Benchmark

Wenn KI Bullshit nicht erkennt

Große Sprachmodelle können den Eindruck erwecken, dieses Ziel sei bereits in greifbarer Nähe. Ihre Fähigkeiten sind beeindruckend, doch sie verfügen nicht über dieselbe Art von Verständnis wie wir Menschen. Welche Methoden für den nächsten grundlegenden Entwicklungsschritt nötig sind, ist noch ungeklärt. Auch die Einschätzungen zum zeitlichen Horizont gehen weit auseinander.

Für die Praxis kommt es daher darauf an, die vorhandenen Fähigkeiten sinnvoll zu nutzen und zugleich ihre Grenzen zu beachten. Dazu gehören eine sorgfältige Datenaufbereitung, die semantische Einordnung von Informationen und die fachliche Kontrolle der Ergebnisse. Fortschritt zeigt sich auch daran, dass Systeme in konkreten Anwendungen zuverlässiger arbeiten und dass nachvollziehbar bleibt, wie ihre Ergebnisse zustande kommen.

Der Weg zu einem tieferen Verständnis führt über mehrere miteinander verbundene Forschungsfragen. Sprachliche Fähigkeiten, explizite Wissensrepräsentation und formale Methoden müssen dabei sinnvoll zusammenspielen. Semantische Technologien können hierzu einen wichtigen Beitrag leisten. Schon heute können wir jedoch daran arbeiten, überzeugende Formulierungen mit belastbaren Ergebnissen zu verbinden.

Kommentar von David Maria Schmidt, Universität Bielefeld

Warum LLMs beim Kombinieren bekannter Fakten scheitern

(ID:50997419)