Kommentar von Jonas Paul Klatt, OnRep Consulting Wenn KI von KI lernt – wie „Slop“ das Internet verändert

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Fivetran Germany GmbH

Das Internet galt lange als verlässlicher Wissensraum. Informationen konnten überprüft, verglichen und eingeordnet werden. Mit dem rasanten Fortschritt generativer KI verändert sich diese Grundlage jedoch zunehmend. Inhalte lassen sich heute in Sekunden produzieren – Texte, Bilder, Videos und sogar ganze Bücher entstehen automatisiert und nahezu kostenfrei.

Das Ergebnis ist eine Entwicklung, die inzwischen deutlich sichtbar wird: Ein wachsender Teil des Internets besteht aus synthetisch erzeugten Inhalten. In Fachkreisen hat sich dafür ein Begriff etabliert – „KI-Slop“. Gemeint ist massenhaft produzierter Content ohne echten Mehrwert, oft oberflächlich, fehlerhaft oder inhaltlich verzerrt.

Ein struktureller Wandel, kein Randphänomen

Die zunehmende Verbreitung KI-generierter Inhalte ist kein temporärer Trend, sondern eine strukturelle Veränderung. Generative Systeme ermöglichen eine Skalierung von Content, die bisher nicht möglich war. Gleichzeitig sinken die Produktionskosten gegen null.

Plattformen belohnen Inhalte, die Aufmerksamkeit erzeugen – nicht zwingend solche, die korrekt oder fundiert sind. Klicks, Verweildauer und emotionale Reaktionen sind zentrale Erfolgsfaktoren. Genau diese Mechaniken lassen sich mit KI besonders effizient bedienen. Das führt zu einer massiven Zunahme an Inhalten, deren Qualität schwer einzuschätzen ist. Viele dieser Inhalte wirken überzeugend, sind jedoch nicht belastbar.

Der entscheidende Bruch: KI lernt von KI

Die eigentliche Problematik liegt nicht allein in der Menge minderwertiger Inhalte. Sie entsteht durch einen sich selbst verstärkenden Kreislauf:

• 1. KI-Systeme erzeugen Inhalte

• 2. Diese Inhalte werden veröffentlicht

• 3. Suchmaschinen indexieren sie

• 4. KI-Systeme greifen auf diese Inhalte zurück

• 5. Neue Antworten basieren auf diesen Quellen

Dieser Mechanismus führt dazu, dass KI zunehmend auf Inhalte zugreift, die selbst von KI erstellt wurden. Fehler, Ungenauigkeiten und Verzerrungen werden so nicht nur reproduziert, sondern verstärkt. Wenn die Qualität der Quellen sinkt, sinkt zwangsläufig auch die Qualität der darauf basierenden Antworten.

Warum schlechter Content oft gewinnt

Ein zentraler Faktor dieser Entwicklung liegt in der Logik digitaler Plattformen. Sichtbarkeit wird nicht primär durch Qualität bestimmt, sondern durch Performance. Inhalte, die Aufmerksamkeit erzeugen, werden bevorzugt ausgespielt. KI-generierter Content kann genau diese Anforderungen erfüllen. Er lässt sich schnell anpassen, emotional zuspitzen und in großen Mengen verbreiten. Ob Inhalte korrekt sind, spielt in vielen Fällen eine untergeordnete Rolle. Das Ergebnis ist eine Verschiebung der Sichtbarkeit: Nicht der fundierteste Inhalt setzt sich durch, sondern der effektivste.

Konkrete Auswirkungen auf die Informationsqualität

Die Folgen dieser Entwicklung sind bereits in verschiedenen Bereichen sichtbar. Fake-News über prominente Persönlichkeiten erreichen hohe Reichweiten. KI-generierte Videos verbreiten politische Desinformation. Automatisch erstellte Bücher enthalten fehlerhafte oder sogar gefährliche Inhalte, etwa im Bereich Gesundheit oder Naturheilkunde.

Auch Suchmaschinen sind betroffen. Ergebnisse basieren zunehmend auf Seiten, die selbst aus KI-generierten Inhalten bestehen. KI-Antwortsysteme greifen wiederum auf diese Ergebnisse zurück. Die Grenze zwischen verlässlicher Information und synthetischem Inhalt wird dadurch zunehmend unscharf.

Vertrauensverlust als systemisches Risiko

Die langfristige Folge ist ein schleichender Vertrauensverlust. Wenn Inhalte zwar plausibel wirken, aber nicht überprüfbar sind, wird Orientierung schwieriger. Nutzer können Qualität immer schwerer einschätzen. Das Internet verliert damit eine seiner zentralen Funktionen: die Bereitstellung verlässlicher Informationen. Die Frage verschiebt sich von „Was ist richtig?“ zu „Kann dieser Information überhaupt vertraut werden?“ Diese Entwicklung betrifft nicht nur Konsumenten, sondern auch Unternehmen, Medien und Institutionen, die auf belastbare Informationen angewiesen sind.

KI als Werkzeug, nicht als Wissensinstanz

Dabei liegt das Problem nicht in der Technologie selbst. Generative KI ist ein leistungsfähiges Werkzeug, das enorme Effizienzgewinne ermöglicht. Sie ist jedoch kein Wissenssystem im klassischen Sinne. KI versteht keine Wahrheit, sondern berechnet Wahrscheinlichkeiten auf Basis vorhandener Daten. Wenn diese Daten an Qualität verlieren, wirken sich diese Defizite direkt auf die Ergebnisse aus. Die Herausforderung besteht daher nicht darin, KI zu vermeiden, sondern ihren Einsatz kritisch zu begleiten und mit verlässlichen Quellen zu kombinieren.

Mögliche Entwicklungen und Gegenmaßnahmen

Angesichts dieser Entwicklung rücken Fragen nach Qualitätssicherung und Verlässlichkeit stärker in den Fokus. Denkbar sind verschiedene Ansätze: eine stärkere Kennzeichnung von KI-generierten Inhalten, ein höherer Stellenwert verifizierter Quellen oder die Rückkehr zu kuratierten Inhalten und geschlossenen Communities. Auch für Unternehmen gewinnt Vertrauen als strategischer Faktor an Bedeutung. Inhalte müssen nicht nur sichtbar, sondern auch nachvollziehbar und überprüfbar sein.

Fazit

Die zunehmende Verbreitung KI-generierter Inhalte verändert das Internet grundlegend. Das Problem liegt nicht darin, dass KI Inhalte erstellt, sondern darin, dass das Internet zunehmend aus diesen Inhalten besteht – während KI gleichzeitig darauf trainiert wird.

Wenn die Qualität der Quellen sinkt, werden auch die Antworten unzuverlässiger. Die zentrale Herausforderung besteht daher nicht mehr nur in der Informationsbeschaffung, sondern in der Bewertung von Vertrauen. Die Frage ist nicht mehr, ob Inhalte überzeugend klingen, sondern ob sie belastbar sind.

(ID:50842142)