Kommentar von Niels Pothmann und Andree Kupka, Arvato Systems Managed AI Services – ein endloser Kreislauf

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Confluent Germany GmbH

Snowflake Computing GmbH

Künstliche Intelligenz (KI) ist längst im Business angekommen. Kein Wunder, liegen die Vorzüge KI-basierter Anwendungen auf der Hand: Sie entlasten von wiederkehrenden Aufgaben und erhöhen die Effizienz von Prozessen. Was Unternehmen dabei immer wieder vergessen: Um KI-Services erfolgreich in den Produktivbetrieb zu überführen, sind eine technische Überwachung und bedarfsgerechte Anpassungen zwingend erforderlich – und zwar über den kompletten Lebenszyklus einer Anwendung hinweg.

Üblicherweise kommt bei KI-Projekten ein mehrstufiges Vorgehensmodell zur Anwendung.

• 1. Use Cases identifizieren: Ausgehend von der Ist-Situation sollten Firmen zunächst analysieren, welche vorhandenen Daten, Systeme und Prozesse sich für die Überführung in einen KI-Service eignen. Daraus ergibt sich eine Liste möglicher Use Cases.

• 2. Prototyp definieren: Danach gilt es, sich auf einen Anwendungsfall zu konzentrieren. Dabei sind Unternehmen gefordert, die Ziele und Anforderungen der KI-basierten Lösung zu eruieren, ein zielführendes Konzept zu erarbeiten und den besten Lösungsansatz in Form eines Prototyps zu entwickeln.

• 3. MVP umsetzen: Dann ist der verifizierte Prototyp in ein Minimum Viable Product (MVP) zu überführen. Kontinuierliche Funktions-, Last- und Integrationstests stellen eine stabile Einbindung des KI-Services in die Betriebsumgebung sicher.

• 4. KI-Service integrieren: Der fertige KI-Service lässt sich über Schnittstellen in Applikationen, Prozesse und Systeme einbinden und beliebig skalieren. In der vierten Phase scheitern viele KI-Projekte: Den KI-Service in einer realen Produktivumgebung zuverlässig zu betreiben, ist eine große Herausforderung.

Managed AI Services extern beziehen

Um zu verhindern, dass KI-Projekte auf der letzten Meile fehlschlagen, sollten Unternehmen darüber nachdenken, auf die Managed AI Services eines erfahrenen Dienstleisters zurückzugreifen. Während es bei klassischen Managed Services darum geht, wiederkehrende IT-Leistungen gemäß definierter Service Level Agreements (SLA) zu beziehen – vom Betrieb über die Überwachung bis hin zur Aktualisierung von Systemen und Applikationen – sind Managed AI Services anders gelagert. Dabei geht es um Aspekte wie:

• Betrieb des KI-Service (im eigenen Rechenzentrum, On-premises bei einem Dienstleister oder in der Cloud),

• kontinuierliche Überwachung des KI-Services im Live-Betrieb und

• fortlaufende Anpassung des zugrundeliegenden Modells im Live-Betrieb.

Dabei sind die beiden letztgenannten Aspekte erfolgsentscheidend.

Ein Beispiel: Ein Anlagenbauer nutzt eine KI-basierte Applikation, die verschlissene Bauteile erkennt – basierend auf einer Videoüberwachung der Anlagen. Damit der gewünschte KI-Service in der Praxis funktioniert, ist

• das vorhandene Videomaterial zu sichten,

• ein Modell zu erstellen und

• die KI mit realen Daten so zu trainieren, dass sie Verschleißerscheinungen oder Leckagen identifiziert.

Hinzu kommt: Sobald das Unternehmen eine neue Anlage in Betrieb nimmt oder einzelne Maschinenteile tauscht, ist

• das Modell anzupassen,

• die KI von Neuem zu trainieren und

• der KI-Service erneut produktivzustellen.

Hierfür braucht es nicht nur großes fachlichen Know-how. Eine derartige Aufgabe bindet auch viele Ressourcen. Wer hier externe Managed AI Services in Anspruch nimmt, kann sich vollkommen auf sein Tagesgeschäft konzentrieren.

Experten sind gefragt

Um Managed AI Services professionell zu erbringen, braucht es ein interdisziplinäres Projektteam, das folgende Rollen umfasst:

• Data Scientist oder Machine Learning Engineer: überführt die Aufgabenstellung mithilfe von KI und Machine Learning in automatisierte Verfahren.

• Data Engineer oder Data Architect: verantwortet die Erfassung und Konsolidierung der benötigten Daten.

• Cloud Architect: richtet eine sichere und hochverfügbare IT-Infrastruktur für die Entwicklung und den späteren Betrieb ein.

• DevOps Engineer: bildet die unverzichtbare Schnittstelle zwischen Entwicklung und Betrieb.

Um einen KI-Service in den Produktivbetrieb zu überführen, muss das Projektteam reibungslos zusammenarbeiten:

• Der Data Scientist entwickelt ein KI-Modell in einer sogenannten „Sandbox“, indem er mit Testdaten experimentiert.

• Der Data Engineer stellt die dauerhafte Verbindung des trainierten KI-Modells mit den realen Betriebsdaten her.

• Der DevOps Engineer begleitet die Produktivstellung. Dabei verlässt der KI-Service die „Sandbox“. Er geht über in eine gesicherte Infrastruktur und muss in Echtzeit zuverlässig funktionieren.

Entwicklung und Deployment nahtlos gestalten

Ab diesem Zeitpunkt ist der KI-Service permanent zu betreuen und zu verbessern. Weil er dabei Unmengen an Daten erzeugt, ist zu prüfen, ob das ursprüngliche Modell mit den generierten Daten weiterhin plausibel ist. Sollte das nicht der Fall sein, muss es der Data Scientist anpassen – ebenso wie die jeweiligen Prozesse. Hierfür benötigt er Zugriff auf vorhandene Betriebsmodelle und -daten.

Um das erneuerte Modell unter der Aufsicht des DevOps Engineers ein zweites Mal in die Produktivumgebung einzubinden, muss die KI einen weiteren Prozess des Trainierens (Re-Training) und Testens durchlaufen. Und dann beginnt alles von vorne. Dieser endlose Kreislauf verläuft nur dann reibungslos, wenn Entwicklung und Deployment nahtlos ineinandergreifen. Hinzu kommt, dass sich die äußeren Umstände und die Anforderungen an einen KI-Service schlagartig ändern können. Entsprechend flexibel müssen Unternehmen reagieren. Da Trial-and-Error-Anpassungen im Live-Betrieb tabu sind, sollten agile und zeitsparende Methoden wie Continuous Integration, Continuous Delivery und Continuous Deployment zum Einsatz kommen.

Die KI im Blick behalten

Neben agilen Prozessen sind Firmen gut beraten, ein zuverlässiges End-to-end-Monitoring jedes einzelnen KI-Services sicherzustellen – im Zweifel sogar 24/7. Nur so ist gewährleistet, dass das KI-basierte System jederzeit zuverlässig funktioniert. Hierfür sollte der Dienstleister individuelle Kennzahlen, Mess- und Schwellenwerte definieren und diese im Rahmen des IT-Servicemanagements (ITSM) in Standardprozesse gemäß ITIL (Information Technology Infrastructure Library) einbinden. Wichtig ist, dass er zwischen der Überwachung von Infrastruktur und Applikation unterscheidet:

• Monitoring der Infrastruktur: gewährleistet eine optimale Verfügbarkeit, Erreichbarkeit, Performance und Auslastung mithilfe entsprechender Event- beziehungsweise Incident-Management-Prozesse.

• Monitoring der Applikationen: erfolgt mittels Überwachung der Schnittstellen und über regelmäßige Abfragen.

Kennzahlen fortlaufend zu monitoren und zu historisieren, ist wichtig, um Anpassungen im Bedarfsfall zurücksetzen zu können. Trotz sorgfältiger Voranalysen verhält sich ein KI-Service in der realen Betriebsumgebung hin und wieder anders als in der Testphase angenommen. Dann ist es entscheidend, schnell wieder auf die Vorgänger-Version umzustellen.

Managed AI Services aus einer Hand

Daneben sollten Unternehmen alles dafür tun, um einen Vendor Lock zu vermeiden. Das zugrundeliegende Modell muss so angelegt sein, dass ein KI-Service auf eine andere Infrastruktur übertragbar bleibt: in eine andere Cloud, auf eine Nutzung als On-premises-Lösung in einem externen Rechenzentrum oder auf den Betrieb im eigenen Rechenzentrum. Ein Maximum an Flexibilität ist sichergestellt, wenn der Dienstleister das fertige Modell über eine Programmierschnittstelle (API) bereitstellt, sich um Betrieb sowie Monitoring des KI-Services kümmert und den begleitenden Support übernimmt.

Mit KI in die Zukunft

KI-Services zu entwickeln, zu betreiben und zu aktualisieren, ist kompliziert. Hier müssen Unternehmen eine Frage ehrlich beantworten: Können – oder wollen – wir diese Herausforderung allein bewältigen? Zumeist entscheiden sie sich dazu, mit einem spezialisierten Partner zusammenzuarbeiten. Wichtig ist, dass der Dienstleister Managed AI Services aus einer Hand bietet, eine große Expertise im Hinblick auf die komplexe Aufgabenstellung vorweist und den Übergang von der Entwicklung in den sicheren Betrieb nahtlos gestaltet. Hierfür braucht es fachlich hochspezialisierte Experten, welche die für sie passende Rolle innerhalb des Projekts übernehmen. Idealerweise hat der externe Partner große Erfahrung im Betrieb von Infrastrukturen und ist in der Lage, bewährte Konzepte sowie Vorgehensweisen in den Bereich der Künstlichen Intelligenz zu übertragen. So können sich Unternehmen auf ihre Anwendungsfälle konzentrieren, die jeweiligen Prozesse KI-basiert beschleunigen und ihr Business zielführend vorantreiben.

Die Autoren

Niels Pothmann ist Head of AI von Arvato Systems

Andree Kupka ist Machine Learning Engineer bei Arvato Systems

(ID:47481573)