Die sogenannte „Sparsification“ stelle ein wichtiges Gegengewicht zum exponentiellen Wachstum der KI-Modelle und der damit verbundenen Steigerung der Anforderungen an Rechenleistung dar.
Die beiden Unternehmen haben auf der Super Computing Conference 2022 in Texas eine verschlankte Variante des Conversational Module Lumi von Aleph Alpha vorgestellt.
(Bild: Graphcore)
Der europäische KI-Chiphersteller Graphcore und das Heidelberger KI-Unternehmen Aleph Alpha haben Fortschritte im Bereich KI-Rechenleistungseffizienz erzielt. Laut einer Mitteilung konnten sie ein KI-Modell mit 13 Milliarden Parametern auf 2,6 Milliarden Parameter verschlanken. Demonstriert haben sie das mit einer verschlankten Variante des Conversational Module Lumi von Aleph Alpha.
Die Luminous Modellreihe kann kontextbezogene Fragen mit einer beliebigen Kombination aus sprachlichen und visuellen Informationen verstehen und beantworten, heißt es weiter. Das verschlankte Luminous Base Sparse benötige allerdings nur 20 Prozent der Verarbeitungs-FLOPs und 44 Prozent des Speichers seines herkömmlichen Äquivalents.
Großes Potenzial für KI-Unternehmen
Bei der neuen Methode werde die Verarbeitungsleistung auf diejenigen Elemente konzentriert, die für die Lösung einer komplexen Aufgabe am wichtigsten sind. Bei bisherigen KI-Modellen werden alle Parameter gleichermaßen dargestellt und berechnet, was vor allem bei großen Modellen zu langer Verarbeitungszeit und hoher Speicherkapazität führt.
Aleph Alpha und Graphcore gehen davon aus, dass der neue Ansatz sich auf das kommerzielle Potenzial von KI-Unternehmen auswirken wird. Er ermögliche es, leistungsstarke KI-Modelle mit minimalen Anforderungen an die Rechenleistung für Kunden bereitzustellen.
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.