Rechenlast und Kostendruck Künstliche Intelligenz wird günstiger – das Rechnen teurer

Von Berk Kutsal 1 min Lesedauer

Die Nutzung großer Sprachmodelle wird billiger, ihr Training jedoch teurer und energieintensiver. Der „AI Index Report“ der Stanford University zeigt unter anderem: Während Inferenzkosten drastisch fallen, explodieren Aufwand und Emissionen beim Modelltraining.

Der AI Index 2025 zeigt: Inferenzkosten sinken massiv, doch Training von KI-Modellen bleibt teuer und energieintensiv.(Bild:  Stanford HAI)
Der AI Index 2025 zeigt: Inferenzkosten sinken massiv, doch Training von KI-Modellen bleibt teuer und energieintensiv.
(Bild: Stanford HAI)

Laut dem AI Index 2025 der Stanford University sind die Kosten für die Nutzung leistungsfähiger Sprachmodelle massiv gesunken. Wer ein KI-Modell auf dem Niveau von GPT-3.5 nutzt, zahlte im November 2022 noch rund 20 US-Dollar pro Million Tokens – im Oktober 2024 waren es nur noch sieben Cent. Das entspricht einem Preisverfall um mehr als das 280-Fache in weniger als zwei Jahren.

Gleichzeitig steigen die Anforderungen an das Training rapide. Neue Modelle verschlingen enorme Rechenleistung: Das Training von GPT-4 verursachte 2023 Emissionen von 5.184 Tonnen CO2. Ein Jahr später benötigte Llama 3.1 405B sogar 8.930 Tonnen – das entspricht dem jährlichen CO2-Ausstoß von knapp 500 US-Amerikanern.

Zwar steigt die Energieeffizienz von KI-Hardware jährlich um 40 Prozent, und die Kosten sinken im Schnitt um 30 Prozent pro Jahr. Dennoch kann der Effizienzgewinn den steigenden Verbrauch durch größere Modelle bislang nicht kompensieren.

Das Training neuer Modelle erfolgt mit immer größeren Datenmengen – deren Beschaffung wird zugleich schwieriger. Der Anteil öffentlich verfügbarer Webdaten, die sich zur Modellnutzung eignen, sinkt rapide. Das könnte mittelfristig die Skalierbarkeit ausbremsen.

Die Entwicklung zeige ein klares Muster: Während Nutzer von sinkenden Inferenzkosten profitieren, verlagere sich der Kostendruck auf die Entwicklerseite. Immer größere Modelle treiben die Infrastruktur- und Energiekosten – besonders in der Trainingsphase – nach oben.

(ID:50498932)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung