Maschinelles Lernen auf Mikrocontrollern Smarte IoT-Endgeräte 50-mal schneller ohne Vorwissen entwickeln

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Disy Informationssysteme GmbH

Snowflake Computing GmbH

Smarte Endgeräte bis zu 50-mal schneller und günstiger entwickeln: Das verspricht das auf Embedded-KI spezialisierte französische Start-up Cartesiam. Mit dem NanoEdge AI Studio sollen Entwickler quasi ohne Vorwissen eigene KI-Projekte auf ARM-Cortex-M-basierten MCUs verwirklichen können.

Bisher war das Implementieren von Künstlicher Intelligenz (KI) in Embedded-Systemen ein langwieriger Prozess, der das Fachwissen von Datenwissenschaftlern, Monate oder Jahre an Entwicklungszeit, komplexe, umfangreiche Datensätze, viel Rechenleistung und oft teure Spezialhardware benötigt. Das soll sich nach dem Willen von Cartesiam nun ändern: Das Unternehmen verspricht, Inferenz und sogar Maschinelles Lernen (ML) auf herkömmlichen Mikrocontrollern (derzeit ARM-basiert) für jeden Entwickler zugänglich und beherrschbar zu machen.

„Viele interessante Edge-KI-Projekte scheitern weniger an der Technik, sondern an einem akuten Mangel hochkarätiger KI-Experten und umfangreicher Datensätze zum Trainieren eigener Modelle“, sagt Joël Rubino von Cartesiam im Gespräch mit ELEKTRONIKPRAXIS. Er hatte 2016 das Unternehmen in Frankreich mitgegründet und steht ihm heute als CEO vor. Obwohl das Unternehmen noch jung ist, ist es keinesfalls ein Greenhorn: Wie Rubino kommt auch der zweite Gründer und General Manager Marc Dupaquier vom KI-Pionier und Branchenriesen IBM, wo er als General Manager die IBM Global Divisions leitete. Zum Team zählen laut Rubino zudem hochkarätige Experten für höhere Mathematik, ML und Signalverarbeitung.

Bildergalerie

Maschinelles Lernen auf jeder M-Cortex-basierten MCU

„25 Milliarden Objekte werden bis 2025 KI-smart sein – das sind 25 Prozent aller dann verkauften Edge-Geräte“, zitiert Rubino aus einer aktuellen IDC-Studie. Um diese enorme Zahl zu erreichen, sei es nötig, die Entwicklung integrierter KI-Algorithmen viel einfacher, schneller und erschwinglicher zu machen, als es heute der Fall ist. Das Problem: Bisher ist für das ML, also das Erstellen und Trainieren Neuronaler Netze (NN), viel Rechenleistung nötig. Sehr viel Rechenleistung. Deshalb laufen diese Aufgaben typischerweise auf spezialisierten, energiehungrigen Prozessoren in großen Rechenzentren, etwa in einer Cloud-Umgebung. Eben solche Aufgaben auf Mikrocontroller in Edge-Geräten auszulagern, die auf Kosten- und Energieeffizienz getrimmt sind und daher nur eine (sehr) begrenzte Rechenleistung haben, mutet auf den ersten Blick gelinde gesagt gewagt an.

Doch Cartesiam verspricht mit der jetzt vorgestellten integrierten Entwicklungsumgebung (IDE) NanoEdge AI Studio für KI- und ML-Anwendungen im Kern genau das. Dazu geht das Unternehmen die Problemstellung allerdings von einer anderen Seite an. Anstatt für jede neue Aufgabe ein NN-Modell von Grund auf neu zu entwickeln und zu optimieren, sollen Embedded-Entwickler aus einer riesigen Bibliothek vorgefertigter Modelle eines aussuchen können, das bestmöglich für ihre Applikation passt. Damit nicht genug: Laut Rubino sind die Modelle in der Lage, sich selbst immer besser an die Anwendung zu adaptieren.

Eine aus 500 Mio. möglichen Kombinationen sollte für das eigene Projekt passen

Cartesiam hat nach eigenen Angaben für vielfältige Anwendungen vorab trainierte und hochgradig speicheroptimierte Modelle entwickelt, in Kombination soll es rund 500 Mio. Möglichkeiten geben. Da es utopisch ist, aus dieser schieren Masse quasi händisch die passende Lösung herauszusuchen, greift NanoEdge AI Studio Entwicklern unter die Arme. Dazu müssen sie ihre Anwendung zunächst mithilfe der auf Windows 10 oder Linux Ubuntu laufenden Software spezifizieren.

Dazu zählt etwa die MCU, auf der die Anwendung laufen soll – aktuell unterstützt NanoEdge AI Studio die ARM-Cortex-Varianten M0, M0+, M3, M4 und M7 sowie M23 und M33 – sowie die für ML/KI vorgesehene Speichergröße. Nach eigenen Angaben kommen die Cartesiam-Modelle mit 4 bis 32 kByte aus. Dann folgt die Auswahl vorgesehener Sensoren, etwa zum Messen von Temperatur, Magnetfeld, Beschleunigung, Audio, Vibration – hier reicht es, allgemein die Art des Sensors anzugeben.

NanoEdge AI Studio hilft bei der Suche nach einem geeigneten Modell

Anhand dieser Kriterien sucht die Software die optimale Kombination aus, testet, optimiert sie und stellt sie als C-Bibliothek bereit. „Diese Bibliothek lässt sich leicht in das Hauptprogramm des Mikrocontrollers einbetten, kompilieren und schließlich auf das Embedded-System laden“, erklärt Rubino. „Unser NanoEdge AI Studio ermöglicht es wirklich jedem Embedded-Entwickler, KI-Algorithmen auf Cortex-M-basierten Mikrocontrollern innerhalb weniger Stunden zu erstellen und zu implementieren“. Die Expertise teurer Datenwissenschaftlern und riesiger Datensätze sei dazu nicht länger nötig.

In typischerweise etwa einer Woche würde das so geschaffene KI/ML-System in einer realen Umgebung trainiert – etwa, indem es eine zu überwachende Maschine mit seinen Sensoren beobachtet. „Danach ist sie in der Lage, Muster und Anomalien zu erkennen, Probleme und Ergebnisse vorherzusagen“, erläutert der Cartesiam-CEO. So sei es letztlich möglich, sogar bestehende Designs etwa für Haushaltsgeräte ohne großen Aufwand nachträglich mit KI auszustatten, kurzum „smarter zu machen“.

Aus passiven Sensoren werden autonome Agenten

Rubino beschreibt die Funktion von NanoEdge AI Studio so: Die IDE verwandele passive Sensoren in autonome Agenten, die sich selbst beobachten können. „Stellen Sie sich eine Klimaanlage vor, die erkennt, wann ihr Filter gewechselt werden muss, oder eine Rolltreppe, die ihre eigene präventive Wartung aktiviert.“ Das Erlernen eines Anfangszustands am Edge reduziere zudem den Datenaustausch über das Netzwerk, was je nach verwendetem IIoT-Netzwerk bares Geld sparen kann. Da NanoEdge AI Studio auf der Workstation ohne Cloud-Anbindung läuft, verlassen bei der Entwicklung keine Daten das Unternehmen. Dadurch sinke das Risiko, das Hacker in das System eindringen und/oder Daten manipulieren – „ein wichtiger Aspekt für die Sicherheit und die Integrität“.

Laut Rubino hat Cartesiam die Entwicklungsplattform für Unternehmen entwickelt, die keine eigenen Fachleute für maschinelles Lernen haben oder die ihren Datenwissenschaftlern ein ergänzendes Werkzeug für Embedded-Umgebungen zur Verfügung stellen möchten. Offenbar rennt das Embedded-KI-Unternehmen mit seiner Lösung offene Türen ein: In seiner aktuellen Analyse „Gartner Hype Cycle for Semiconductors and Electronic Technologies, 2019“ zählt Markforscher Gartner Group Cartesiam als einen von lediglich drei führenden Akteuren in der Kategorie „Edge AI“ auf. Nicht zuletzt kooperiert Cartesiam mit STMicroelectronics in dessen „Machine Learning“-Partner-Programm. Nach eigenen Angaben setzt zudem eine Reihe europäischer und US-amerikanischer Unternehmen bereit NanoEdge AI Studio ein.

Dieser Artikel stammt von unserem Partnerportal Elektronikpraxis.

(ID:46400844)