Mobile-Menu

KI nicht mehr als Stromfresser Reduzierter Stromverbrauch von KI dank neuer Methode?

Von Berk Kutsal 2 min Lesedauer

Anbieter zum Thema

TUM
Fsas Technologies GmbH

Das Training neuronaler Netze ist energieintensiv und kostspielig. Forscher der Technischen Universität München (TUM) haben eine Methode entwickelt, die diesen Prozess hundertmal schneller machen will – und damit erheblich effizienter. Anstatt die Parameter iterativ zu optimieren, setze die neue Technik auf Wahrscheinlichkeitsberechnungen. Damit könne der Energieverbrauch für KI-Modelle in Rechenzentren erheblich gesenkt werden.

Felix Dietrich, Professor für Physics-enhanced Machine Learning.(Bild: Andreas Heddergott, TUM)
Felix Dietrich, Professor für Physics-enhanced Machine Learning.
(Bild: Andreas Heddergott, TUM)

Künstliche Intelligenz (KI) ist aus dem Alltag nicht mehr wegzudenken. Ob Sprachassistenten, Bilderkennung oder Vorhersagemodelle – hinter all diesen Anwendungen stehen neuronale Netze, deren Training enorme Rechenkapazitäten und damit enorme Energiemengen erfordert. Das Fraunhofer-Institut schätzte den Stromverbrauch deutscher Rechenzentren 2020 auf 16 Milliarden Kilowattstunden. Bis 2025 soll dieser auf 22 Milliarden steigen. Ein Treiber dieser Entwicklung: Das energiehungrige Training von KI-Modellen.

Doch nun könnte sich ein Paradigmenwechsel anbahnen. Ein Forscherteam um Felix Dietrich, Professor für Physics-enhanced Machine Learning an der TUM, hat ein Verfahren entwickelt, das neuronale Netze erheblich effizienter trainieren soll. „Unsere Methode ermöglicht es, die benötigten Parameter mit minimalem Rechenaufwand zu bestimmen. Dadurch können neuronale Netze erheblich schneller und dadurch energieeffizienter trainiert werden“, erklärt Dietrich.

Wahrscheinlichkeitsbasierte Parameterbestimmung

Klassische Trainingsmethoden setzen auf iterative Optimierung: Die Parameter der Neuronenverbindungen werden zufällig initialisiert und durch viele kleine Anpassungsschritte optimiert. Dieses Verfahren, bekannt als Backpropagation, ist bewährt, aber extrem rechenaufwendig. Die Methode der TUM geht einen anderen Weg: Statt schrittweiser Korrekturen werden die Parameter direkt auf Basis ihrer Wahrscheinlichkeit berechnet. Besonders relevante Werte – also solche, die sich an kritischen Stellen der Trainingsdaten befinden – werden gezielt ausgewählt.

Diese probabilistische Vorgehensweise reduziere den Rechenaufwand erheblich, ohne die Qualität der Ergebnisse zu beeinträchtigen. „Darüber hinaus hat sich gezeigt, dass die neue Methode in ihrer Genauigkeit mit iterativ trainierten Netzwerken vergleichbar ist“, so Dietrich weiter. Die Forscher erproben die Technik aktuell an energieerhaltenden dynamischen Systemen, die unter anderem in der Klimaforschung oder Finanzanalyse eingesetzt werden.

Potenzial für nachhaltige KI

Sollte sich der Ansatz durchsetzen, könnte er die Weichen für eine energieeffizientere KI-Forschung stellen. Besonders in Zeiten wachsender Rechenanforderungen durch Large Language Models (LLMs) und andere komplexe Anwendungen ist der Bedarf an Optimierung hoch. Denn während sich die Hardware-Leistung zwar stetig verbessert, bleibt der Energieverbrauch ein zentrales Problem.

Zudem könnte das Verfahren dazu beitragen, KI-Technologien auch in ressourcenbeschränkten Umgebungen nutzbar zu machen. Ob Edge Computing, mobile Endgeräte oder nachhaltige Cloud-Lösungen – eine signifikante Reduktion des Rechenaufwands würde die Einsatzmöglichkeiten erheblich erweitern.

(ID:50346850)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte