Signalverarbeitung an der Edge Neuromorpher analoger Signalprozessor für sensornahe KI-Anwendungen

Anbieter zum Thema

Dell GmbH

Fujitsu Technology Solutions GmbH

Disy Informationssysteme GmbH

Der NASP-Prozessor von Polyn Technology eignet sich für die Sensor-Signalverarbeitung an der Edge in Echtzeit und zeichnet sich durch geringe Größe, niedrigen Stromverbrauch und niedrige Latenzzeiten aus. Eine erste Implementierung ist NeuroSense für Fitnessuhren.

Viele Anwendungen könnten von Künstlicher Intelligenz (KI) und insbesondere von neuronalen Netzen profitieren. Die Implementierung der komplexen mathematischen Algorithmen ist jedoch mit einem hohen Stromverbrauch verbunden, wenn sie auf Standard-CPUs oder GPUs ausgeführt werden. Wenn eine Anwendung große Datenmengen verarbeitet und sehr häufig auf den Speicher zugreift, führt dies zu einem Engpass in der Von-Neuman-Architektur. Hier arbeiten spezielle Prozessoren effizienter.

Ein Beispiel sind Wearables mit Herzfrequenzmessung und Aktivitätserkennung, bei denen PPG- (Photoplethysmographie) und Trägheitssensoren permanent Daten erzeugen, deren Verarbeitung stromintensiv ist.

Eine weitere Anwendung ist der Sensorknoten für die vorausschauende Wartung (Predictive Maintenance) im IIoT. Zur vorausschauenden Wartung werden riesige Datenmengen gesammelt, verarbeitet und durch Algorithmen des maschinellen Lernens (ML) analysiert. Eine Vorverarbeitung der Sensordaten am Sensor reduziert die Menge der an die Cloud gesendeten Daten erheblich, was Kosten spart und die Latenzzeit verbessert.

Prozessoren für Edge-KI

Hier setzt der neuromorphe analoge Signalprozessor (NASP) des israelischen Unternehmens Polyn Technology an, der am Sensor implementiert wird. Der KI-Chip basiert auf 55-nm-CMOS-Technik und enthält mehrere neuronale Netze.

Die Leistungsaufnahme wird mit 100 µW angegeben, die Genauigkeit soll im Vergleich zu herkömmlichen Algorithmen doppelt so hoch sein. Der Chip ermöglicht eine Daten-Vorverarbeitung mit einer intelligenten Optimierung der Rohdaten direkt am Sensor.

Damit reiht sich NASP in die Reihe von speziell für Edge-KI entwickelte Prozessoren wie den Xcore.ai von XMOS, KL720 von Kneron, Aikida von Brainchip, GrAI One Chip von GrAI Matter Labs (GML), Ergo von Perceive oder auch NeuPro-S von Ceva ein.

Mit NeuroSense hat Polyn jetzt einen winzigen KI-Chip für Fitnessuhren auf der Basis von NASP vorgestellt, der 100-mal weniger Strom verbrauchen und eine viel höhere Genauigkeit als andere Lösungen auf dem Markt haben soll.

Tiny AI: So funktioniert die On-Sensor-Datenoptimierung

Der neuromorphe Signalprozessor reduziert die CPU-Belastung sowie die Menge der an die Cloud weitergeleiteten Daten, indem er bereits die Menge der Rohdaten minimiert. Der KI-Chip wird direkt neben einem Sensor platziert und bildet die logische Schicht der KI. Dabei handelt es sich um eine Inferenzlösung, die bereits trainierte Machine-Learning-Modelle zur Erstellung von Vorhersagen verwendet.

Das heißt, im NASP-Konzept wird der Datenverarbeitungs-Chip aus bereits trainierten neuronalen Netzen durch NASP-Automatisierungstools synthetisiert. Das Unternehmen stützt sich bei diesem Konzept auf Know-how aus den Bereichen Sprachextraktion, Schall-/Vibrationsverarbeitung und Messungen auf Wearables. Laut Unternehmen ist der „Inference-only“-Ansatz hier hocheffizient und bietet einen enormen Vorteil in Bezug auf Leistung, Genauigkeit und Latenzzeit.

So arbeitet der Neuro-Prozessor NASP

Neuronale Netze arbeiten im Parallelbetrieb. Der größte Vorteil ist das neuromorphe Rechnen, das auf maximale Parallelität durch entsprechendes Hardware- und Softwaredesign ausgerichtet ist und so das menschliche Gehirn imitiert.

Neben einem geringen Stromverbrauch und der verbesserten Leistung von Rechenlasten bieten neuronale Netze Fehlertoleranz, d. h. das System liefert auch dann noch Ergebnisse, wenn die Sensordaten inkonsistent sind.

Alle Sensorsignale, die gleichzeitig in die Eingabeschicht des NASP-Prozessors gelangen, werden parallel an die nachfolgenden Schichten weitergeleitet. Es gibt keine Ausführungszyklen und keine Anweisungen, die an den bzw. weg vom Speicher geleitet werden.

Analoge Signalflut: Neue Hardware-Ansätze für Neuro-Chips

Das menschliche Gehirn ist nicht nur ein parallel arbeitendes Betriebssystem mit sehr hoher Energieeffizienz, sondern auch ein analoges System, das zahlreiche Signale verarbeitet, ohne sie in ein binäres Format umzuwandeln. Für Aufgaben wie die Signalerfassung sind analoge Systeme ideal.

Nach Angaben der Semiconductor Research Corporation wird im kommenden Jahrzehnt eine analoge Signalflut erwartet, die neue Hardware-Ansätze erfordert, um intelligentere Schnittstellen zwischen Umgebung und Maschine zu schaffen.

Der NASP ist einer dieser Ansätze, der sowohl analoge als auch digitale Signale verarbeiten und vor allem verschiedenen Sensoren „Intelligenz“ verleihen kann.

Das funktioniert so: Der NASP-Prozessor enthält künstliche Neuronen (Knoten, die Berechnungen durchführen) und Axone (gewichtete Verbindungen zwischen den Knoten), die mittels elektronischer Schaltungselemente realisiert werden: Neuronen werden mit Hilfe von Operationsverstärkern implementiert, Axone via Dünnschichtwiderstände.

Die Begriffe Neuron und Axon stammen aus der Biologie: Mit dem Axon oder Neurit wird der Fortsatz einer Nervenzelle (Neuron) bezeichnet, der elektrische Nervenimpulse vom Zellkörper (Soma) weg leitet.

Neuronale Netzwerke: Die Varianten CNN und RNN

Beim NASP-Design handelt es sich um eine Spezialform eines neuronalen Netzes, bei dem nur die für die Inferenz erforderlichen Verbindungen zwischen den Neuronen bestehen. Damit werden die neuronalen Verbindungen erheblich und effizient reduziert.

Im Gegensatz zu sogenannten In-Memory-Designs, bei denen jedes Neuron mit jedem benachbarten Neuron verbunden ist, vereinfacht der NASP-Ansatz das Chip-Layout. Damit eignet sich das Design speziell für Convolutional Neural Networks (CNN, gefaltetes Neuronales Netzwerk), bei denen die Verbindungen minimiert sind, sowie für rekurrente neuronale Netzwerke (RNN), Transformer und Autoencoder.

Neuronales Network-on-Chip

Die Anpassung des neuronalen Netzes an das Chipdesign ist ein wesentlicher Bestandteil jeder neuronalen Network-on-Chip-Lösung. Programmierbare Lösungen, die heute auf dem Markt erhältlich sind, unterliegen durch die Chip-Architektur bedingten Einschränkungen, durch die das neuronale Netzwerk zusätzliche Transformationen unterworfen ist.

So wird beispielsweise bei einigen Anwendungen das ursprüngliche neuronale Netz während der Portierung zu fast 100 Prozent umgewandelt, was einen kostspieligen Ansatz darstellt.

Um dieses Problem zu umgehen, umfasst das NASP-Modell Werkzeuge zur Automatisierung des Chip Designs wie T-Compiler und Synthese-Tools, die jedes trainierte neuronale Netzwerk in ein optimiertes mathematisches Modell für das Chip Layout umwandeln. Laut Hersteller ist dies vollständig konform zum neuronalen Netzwerk des Kunden.

Sensor-Signalverarbeitung an der Edge in Echtzeit

Der digitale Wandel, den die Industrie vollziehen wird, wird ohne eine Renaissance der analogen Datenverarbeitung aus mehreren Gründen nicht möglich sein. Einer davon ist die Energieeinsparung. Ein übermäßiger Stromverbrauch ist mit Datenberechnungen in sensorischen Systemen unvereinbar.

Der nächste Trend ist, dass sich die KI mehr und mehr in Richtung Edge bewegt und heute auf Sensorknoten angewendet wird. Sie wird benötigt, um die Kommunikation zwischen Milliarden von IoT-Geräten zu optimieren und die Datenverarbeitung aus der Cloud auszulagern.

Wie das menschliche Gehirn, das sich durch die Verarbeitung komplexer und sich dynamisch verändernder Informationen auszeichnet, zeichnen sich auch die neuromorphen analogen Signalprozessoren durch Echtzeitberechnungen aus und tragen so zu einer erfolgversprechenden Verzahnung der digitalen und analogen Technik bei.

„Unser erster Chip wurde aus trainierten neuronalen Netzen durch den NASP-Compiler und Design-Synthesewerkzeuge erstellt, die die Netzliste und die EDA-Dateien aus der Simulation des mathematischen Softwaremodells generieren. Wir werden unsere Technologie für die Erstellung von Chips der neuen Generation weiter verfeinern“, erklärt Yaakov Milstain, COO von Polyn.

Der NeuroSense-Chip soll im ersten Quartal 2023 als erstes Wearable-Produkt mit einer Kombination von PPG- und Trägheitssensoren für genaue Herzfrequenzmessungen verfügbar sein, so Milstain.

Dieser Artikel stammt von unserem Partnerportal ElektronikPraxis.

(ID:48302391)