Wissenschaftler der Technischen Universität Graz haben eine neue Design-Methode vorgestellt, die besonders energieschonende neuronale Netze ermöglicht. Sie kommen mit extrem wenigen Signalen aus.
TU-Graz-Informatiker Wolfgang Maass arbeitet an energieeffizienten KI-Anwendungen und lässt sich dabei von der Funktionsweise des menschlichen Gehirns inspirieren.
(Bild: Lunghammer - TU Graz)
Große neuronale Netze mit hunderten Millionen Neuronen sind zwar leistungsfähig, verbrauchen aber auch sehr viel Energie. Das gilt insbesondere für Systeme zur Bildklassifizierung, wie etwa bei der Gesichts- oder Objekterkennung, da sie in jedem Zeittakt sehr viele Zahlenwerte mit großer Genauigkeit von einer Neuronenschicht zur nächsten senden müssen.
Der Informatiker Wolfgang Maass hat nun gemeinsam mit seinem Doktoranden Christoph Stöckl eine neuartige Design-Methode für künstliche neuronale Netzwerke gefunden. Sie soll den Weg zu energieeffizienter, leistungsfähiger KI-Hardware ebnen, wie beispielsweise Chips für Fahrassistenzsysteme oder Smartphones. Dazu haben die beiden Forscher neuronale Netze zur Bildklassifizierung so optimiert, dass die Neuronen, ähnlich wie im menschlichen Gehirn, nur noch vergleichsweise selten Signale aussenden und diese sehr einfach sind. Dennoch sei die Genauigkeit sehr nahe am aktuellen Stand der Technik von Bildklassifizierungstools.
Mensch als Vorbild
Das menschliche Gehirn diente den Forschern als Vorbild: Es verarbeitet mehrere Billionen Rechenoperationen pro Sekunde, benötigt dafür aber nur rund 20 Watt. Möglich wird dies durch die zwischenneuronale Kommunikation mittels sehr einfacher elektrischer Impulse („Spikes“). Die Information wird dabei nicht nur durch die Anzahl der Spikes, sondern auch durch zeitlich variable Muster kodiert. „Man kann sich das vorstellen wie einen Morse-Code. Auch die Pausen zwischen den Signalen übertragen Informationen“, verdeutlicht Maass.
Dass Spike-basierte Hardware den Energieverbrauch reduzieren kann, war keine neue Erkenntnis – allerdings auch bislang bei den tiefen und großen neuronalen Netzen für Bildklassifikation nicht umsetzbar. Die Methode von Maass und Stöckl nutzt auch die zeitlichen Abstände zwischen den Spikes, um zusätzliche Information zu transportieren. „Wir zeigen, dass mit wenigen Spikes – in unseren Simulationen sind es durchschnittlich zwei – genauso viel Informationen zwischen den Prozessoren vermittelt werden können wie in energieaufwendiger Hardware“, so Maass. Die Ergebnisse der Forscher könnten die Entwicklung von energieeffizienten KI-Anwendungen drastisch beschleunigen.
Publikation in Nature Machine Intelligence:
Optimized spiking neurons can classify images with high accuracy through temporal coding with two spikes. C. Stoeckl and W. Maass.
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.