Sepp Hochreiter fordert USA und Asien heraus Deutscher KI-Pionier entwickelt schlanke LLM-Alternative

Anbieter zum Thema

Fsas Technologies GmbH

INFOMOTION GmbH

BigData-Insider

KI-Forscher Sepp Hochreiter und sein xLSTM-Algorithmus erhalten unternehmerische Verstärkung für die Entwicklung eines europäischen Large Language Models. Mit der neu gegründeten NXAI GmbH entsteht ein Zentrum für KI-Forschung und -Produktentwicklung im Herzen Europas.

KI-Pionier Sepp Hochreiter, Company Builder Netural X und Pierer Digital Holding haben das Unternehmen NXAI GmbH gegründet, um europäische KI-Spitzenforschung umfangreich zu fördern und innovative KI-Lösungen für den internationalen Markt zu entwickeln. Erster Fokus ist die Weiterentwicklung der europäischen Large-Language-Model-Technologie xLSTM. Dabei ist sowohl die gesamte Technologie als auch der xLSTM-Algorithmus eine vollständig europäische Entwicklung. Eine Kooperation mit der Johannes Kepler Universität (JKU) in Linz und deren führendem Forschungszentrum LIT AI Lab am Linz Institute of Technology soll den bisherigen Erkenntnissen rund um xLSTM zur Marktreife verhelfen.

Im ersten Schritt soll NXAI die technologische Spitzenforschung um Large Language Models (LLM) und insbesondere den von Hochreiter entwickelten xLSTM-Algorithmus forcieren. Ersten Ergebnissen zufolge arbeite xLSTM effizienter (mit weniger Rechenkapazität), schneller und vor allem besser (höhere Genauigkeit) als alle bisherigen LLMs. Insbesondere verstehe xLSTM die Semantik von Texten besser als die bisherigen LLMs und könne dadurch komplizierte Texte verstehen und generieren. Darüber hinaus wird NXAI zukünftig weltweit führende algorithmische Methoden im Bereich Deep Learning erforschen, z. B. zur Beschleunigung von Simulationen komplexer dynamischer Systeme.

xLSTM: Der Unterschied liegt im Algorithmus

KI-Vordenker Sepp Hochreiter legte den Grundstein bereits 1991 und erfand die LSTM-Technologie (Long Short Term Memory). Damit ebnete er den Weg zur heutigen Form der Künstlichen Intelligenz. Die Technologie war bis 2017 die führende Methode in der Sprachverarbeitung und der Textanalyse und wurde bis heute milliardenfach in Smartphones eingesetzt. 2023 gelang dem KI-Experten mit xLSTM ein weiterer Durchbruch.

Aktuelle LLM basieren auf den sogenannten Transformermodellen. Diese sind im laufenden Betrieb sehr rechenintensiv, wenn der Text lang ist. Transformerberechnungen haben den Nachteil, dass sie quadratisch mit der Textlänge ansteigen. Im Gegensatz dazu würden die xLSTM-Berechnungen nur linear mit der Textlänge ansteigen und im laufenden Betrieb weniger Rechenleistung benötigen. Dies sei ein großer Vorteil, da komplexe Aufgaben viel mehr Text sowohl zur Aufgabenbeschreibung als auch zur Lösung bräuchten. Erfreulicherweise würden so z. B. mit xLSTM industrielle Anwendungen möglich, für die Transformermodelle zu langsam seien. Wie Transformermodelle besitzt auch xLSTM einen phonetischen Speicher. Allerdings sei der Algorithmus mit einer weiteren Komponente ausgestattet, die zu einer größeren Ähnlichkeit mit dem menschlichen verbalen Arbeitsgedächtnis führe. Dadurch sei der xLSTM-Algorithmus um ein vielfaches leistungsstärker.

Mit ihrer gesteigerten Effizienz und Leistung in der Verarbeitung von Texten werde die xLSTM-Technologie einen neuen Standard in der KI-Sprachverarbeitung setzen.

NXAI als Wachstumstreiber der LLM-Revolution

Zwischen der JKU und NXAI wurde eine Forschungskooperation vereinbart, um bisherigen Erkenntnissen rund um xLSTM zur Marktreife zu verhelfen. Das Ziel von NXAI sei die engere Verzahnung von Wissenschaft und Wirtschaft, um einen erfolgreichen Technologietransfer von KI-Lösungen sicherzustellen. Daher sollen neben den Forschungsaktivitäten künftig im Rahmen der NXAI Spitzenforscher, Entrepreneure und Industrieexperten zusammenkommen. Obwohl die Forschung unabhängig und selbstbestimmt sei, würden ausgewählte Industriepartner eng mit NXAI und Forschern arbeiten, um das Potenzial zukünftiger KI-Entwicklung effizient in die Praxis zu überführen. Im ersten Schritt wird die Finanzierung durch Pierer Digital Holding als Mitgesellschafter von NXAI sichergestellt.

Albert Ortig, CEO von NXAI und Netural X, erklärt: „Die derzeitigen Entwicklungen werden massiv von den USA und Asien vorangetrieben. Europa beherbergt allerdings genau die Spitzentechnologie und Forscher:innen, welche den Grundstein dieser Entwicklung gelegt haben und die entsprechenden Wachstumstreiber für diese Märkte waren. Die Herausforderung besteht nun darin, den Innovationsgeist wieder in die Wirtschaft Europas zu bringen und gemeinsam reale Herausforderungen mit KI anzugehen. Genau das soll durch NXAI geschehen.“

Sepp Hochreiter, der letztes Jahr mit dem deutschen KI-Innovationspreis ausgezeichnet wurde, erklärt: „Mit xLSTM haben wir die Möglichkeit, die KI-Technologie vom Herzen Europas aus zu revolutionieren und die Vorherrschaft von Transformermodellen zu brechen. Diese Chance möchten wir unbedingt nutzen. Daher bin ich sehr froh über die Zusammenarbeit der JKU mit NXAI. Durch NXAI erhalten wir eine erste Startfinanzierung für dringend notwendige Rechnerkapazitäten, mit denen wir xLSTM weiterentwickeln, testen und vor allem hochskalieren können.“

JKU-Rektor Stefan Koch zeigt sich erfreut über diese wichtige Kooperation: „Künstliche Intelligenz ist nicht nur eine neue Technologie, sondern eine Revolution, die bereits begonnen hat. Die JKU hat mit Sepp Hochreiter einen der weltweit führenden Köpfe in diesem Bereich. Mit xLSTM haben wir an der JKU die Möglichkeit, die KI-Technologie von morgen zu gestalten. Wir können sicherstellen, dass europäische Werte einfließen. Die Zusammenarbeit mit NXAI ist eine Bestätigung für die hohe Relevanz der JKU-Forschung im Bereich der Künstlichen Intelligenz.“

(ID:49904420)