Je kürzer der Weg, desto näher das Ziel. Das gilt auch in der IT. Die Verlagerung der KI-Inferenz an den Netzwerkrand ermöglicht schnellere Ergebnisse mit bereits trainierten Modellen. Diese Technologie wird Edge-KI oder Inference at the Edge genannt. Unternehmen können mit ihr KI lokal und nahezu in Echtzeit einsetzen. Welche Branchen ziehen daraus welche Vorteile?
Die Autorin: Elena Simon ist General Manager DACH bei Gcore, einem Anbieter von Public Cloud und Edge Computing, KI, Content Delivery (CDN), Hosting und Security-Lösungen.
(Bild: Gcore)
KI-Inferenz ist der Prozess, bei dem das Wissen eines trainierten Modells auf neue, ungesehene Daten angewendet wird. Die Verlagerung dieses Prozesses an die Edge ermöglicht Schlussfolgerungen mit geringer Latenz – das ist für Unternehmen, die auf eine aktuelle Datenanalyse angewiesen sind, ein entscheidender Wettbewerbsvorteil. Für die Unterhaltungs- und Gamingbranche aber auch im Gesundheits- oder Finanzwesen sind Einblicke in Echtzeit von entscheidender Bedeutung, um rasche Entscheidungen zu treffen und Abläufe zu optimieren. Auch im Einzelhandel gewinnt KI immer mehr Bedeutung.
Durch die lokale Verarbeitung minimiert Edge-KI die Datenmenge, die über Netzwerke übertragen werden muss. Das verringert Netzwerküberlastungen und verbessert die Systemleistung. Unternehmen können den Betrieb auch in Spitzenzeiten besser aufrechterhalten, ohne kostspielige Netzwerk-Upgrades durchzuführen. Da die Daten auf lokalen Geräten verarbeitet werden, brauchen diese nicht einmal eine ständige Internetverbindung. Das sorgt für eine durchgängige, verlässliche Verfügbarkeit und erhöht die Datensicherheit.
Nicht so sperrig wie „Datenschutzgrundverordnung“
Außerdem entfällt das Risiko, dass Daten während des Transfers zu einem weit entfernten Server abgefangen werden. Datenschutzbestimmungen und Sicherheitsprotokolle wie die DSGVO lassen sich so einfacher umsetzen und einhalten. Einige solcher Vorschriften besagen, dass sensible Daten innerhalb bestimmter Regionen aufbewahrt werden müssen. Edge-KI erreicht dieses hohe Maß an Konformität – Daten werden in derselben Region oder demselben Land verarbeitet, in dem sie generiert wurden.
Ein globales KI-Unternehmen könnte zum Beispiel die Daten eines französischen Nutzers von einem französischen KI-Server und die Daten eines kalifornischen Nutzers von einem Server in Kalifornien verarbeiten lassen. Auf diese Weise würde die Datenverarbeitung beider Nutzer automatisch den jeweiligen lokalen Gesetzen entsprechen: die des französischen Nutzers der europäischen DSGVO, das US-Pendant den kalifornischen Standards CCPA und CPRA.
KI in der Unterhaltungsbranche
In der Unterhaltungsbranche ermöglicht Edge-KI den Anbietern, hochgradig personalisierte Inhalte und interaktive Funktionen für die Nutzer bereitzustellen. Sie schafft einen erheblichen Mehrwert zum Beispiel durch Live-Sport-Updates, kontextbezogene Spielerinformationen, interaktive Filmfunktionen, Echtzeit-Analysen der Benutzerpräferenzen und maßgeschneiderte Empfehlungen. Diese Funktionen fördern eine stärkere Einbindung der Zuschauer und ein intensiveres Unterhaltungserlebnis.
Generative KI in der Edge
Generative KI arbeitet mit dem Input der User – der oft aus sensiblen Daten besteht, zum Beispiel bei automatischer Bildbearbeitung oder dem Erstellen von Texten. Edge-KI macht es nun möglich, die Daten der privaten Nutzer gemäß den lokalen Datenschutzbestimmungen zu verarbeiten. Auch Unternehmen nutzen allerdings Generative KI. Lange und möglicherweise unsichere Übertragungswege erhöhen das Risiko, dass Geschäftsgeheimnisse abgefangen werden. Oder, viel schlimmer, dass Cyberkriminelle in Systeme eindringen und dem Unternehmen oder gar der gesamten Wirtschaft schaden. Dieses Risiko minimiert die Inferenz in der Edge deutlich. Das Ergebnis ist nicht nur eine engere Verbindung zwischen Nutzern und der Technologie. KI wird insgesamt sicherer.
Keineswegs nur am Rande: Intelligente Fertigung
In der Fertigung modernisiert die KI die Qualitätskontrolle, indem sie intelligente Verarbeitungsfunktionen direkt in die Fabrikhalle bringt. Hersteller können ihre Anlagen in Echtzeit überwachen. Maschinelles Sehen und die kontinuierliche und detaillierte Analyse von, zum Beispiel, Vibrations-, Temperatur- oder Akustikdaten der Maschinen können zur Erkennung von Qualitätsabweichungen eingesetzt werden. Das verringert Defekte und reduziert Ausfallzeiten durch vorausschauende Wartung. Die Inferenz am Netzwerkrand ermöglicht die dafür erforderliche Reaktion in Echtzeit.
Global Foundries zum Beispiel setzt in seiner Halbleiterproduktion in Dresden akustische Sensoren und Künstliche Intelligenz ein, um Transportroboter in der Chipfertigung vorausschauend und effizient zu warten. Die Herstellung von Mikrochips besteht aus mehr als 1.000 Einzelschritten, die unter strengsten Reinraumbedingungen ausgeführt werden. Entsprechend hoch ist die Komplexität der gesamten Fertigung, bei der gegenseitige Abhängigkeiten in der Abfolge bestehen. Der neu entwickelte Global Foundries Health Predictor wurde im laufenden Betrieb an einer Schiene des Wafer-Transportsystems im Reinraum installiert.
Ein hochsensibler akustischer Edge-Computing-Sensor erfasst bei der smarten Lösung den Schall der vorbeigleitenden Transporter und kann Anomalien feststellen, beispielsweise, wenn ein Rad locker oder ein Kugellager defekt ist. Mithilfe von Künstlicher Intelligenz beziehungsweise Machine Learning gleicht man die Daten zu Schwingungen und Vibrationen mit den bereits verfügbaren historischen Daten in einer Datenbank ab.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
Assistenzarzt Dr. KI?
Im Gesundheitswesen sorgt Edge-KI für eine verbesserte medizinische Versorgung, da sie unmittelbare, fundierte Entscheidungen auf der Grundlage von Echtzeit-Daten erlaubt. Aufgrund des Patientengeheimnisses dürfen Daten das Land meist nicht verlassen. Eine gute Option für Gesundheitsdienstleister, die gesetzlichen Bestimmungen einzuhalten und gleichzeitig eine hohe Leistung zu erzielen, ist daher die Bereitstellung einer Edge-Lösung, die mit dem internen System und dem KI-Modell verbunden ist. Konkret bedeutet das:
Echtzeitverarbeitung und reduzierte Latenzzeiten: Für Gesundheitsdienstleister zählt jede Sekunde, insbesondere bei kritischen Fällen. Große KI-Modelle am Netzwerkrand eines Krankenhauses, ermöglichen schnelle Diagnosehilfe und Reaktionen.
Verbesserte Sicherheit und Datenschutz: Die Aufrechterhaltung der Integrität und Vertraulichkeit von Patientendaten ist in den meisten Fällen unverzichtbar. Durch die lokale Verarbeitung der Daten können Gesundheitsdienstleister die Einhaltung strenger Datenschutzstandards wie der DSGVO sicherstellen, ohne die Leistung zu beeinträchtigen.
Effizienz und Kostenreduzierung: Edge-KI nutzt weniger Bandbreite – eine wichtige Voraussetzung für einen schnellen und zuverlässigen Datenaustausch. Das senkt zugleich die Ausgaben für IT-Infrastruktur.
Einzelhandel und KI
Auf der digitalen oder physischen Verkaufsfläche kann KI in vielen Bereichen unterstützen und optimieren. Durch die Analyse von Daten aus Sensoren und Kameras in Echtzeit wird der Bedarf an Nachschub vorhergesagt und sichergestellt. Edge-KI unterstützt auch intelligente Kassensysteme, sogenannte Selbstbedienungskassen. Das verkürzt Wartezeiten und wirkt sich positiv auf Kundenzufriedenheit aus. Chatbots für den Einzelhandel und KI-Kundenservice bringen diese Vorteile in den elektronischen Handel.
Mithilfe von Computer Vision, also „maschinelles Sehen“ kann das Verhalten und die Vorlieben der Kunden in Echtzeit erkannt werden. Einzelhändler können mit dieser Technologie das Ladenlayout und die Produktplatzierung effektiv optimieren. So schaffen sie eine Einkaufsumgebung, die zu Käufen anregt und die gesamte Customer Journey verbessert. Einzelhändler, die KI nutzen, können sich dynamisch an Verbrauchertrends und -nachfragen anpassen und so flexibler und reaktionsschneller agieren – kurz: ihren Umsatz steigern.
Erreichbar dank Edge-KI
KI-Inferenz in der Edge bietet Unternehmen verschiedener Branchen die Möglichkeit, Daten in Echtzeit direkt an der Quelle zu verarbeiten. Diese Fähigkeit reduziert die Latenzzeit und verbessert gleichzeitig die betriebliche Effizienz, die Sicherheit und die Kundenzufriedenheit. Unternehmen können damit einen neuen technologischen Standard setzen, um einen Wettbewerbsvorteil zu erzielen.
Dank globaler Netzwerke werden diese Technologien auch in Bezug auf die Örtlichkeit skalierbar. Mit GPU-basierten Rechenressourcen und einer steigenden Anzahl von Open-Source-Modellen können KI-Modelle zudem einfach an die eigenen Bedürfnisse angepasst werden. Schon für sich genommen ist KI ein großer Sprung nach vorne. In Kombination mit anderen Weiterentwicklungen kann sie ihr gesamtes Potenzial entfalten.