Die industrielle KI-Plattform KI-Anwendungen erfolgreich produktiv einsetzen

Autor / Redakteur: Pascal Stammer, AIM - Agile IT Management GmbH / Martin Hensel

Rund 50 Prozent aller KI-Projekte schaffen es nicht in die produktive Nutzung. Pascal Stammer, Leiter AI Engineering von AIM Agile IT Management, hat Herausforderungen und Lösungsbausteine für den produktiven Einsatz von KI-Anwendungen zusammengefasst.

Firmen zum Thema

AIM gibt Tipps zur erfolgreichen Implementierung industrieller KI-Plattformen.
AIM gibt Tipps zur erfolgreichen Implementierung industrieller KI-Plattformen.
(Bild: AIM)

Künstliche Intelligenz (KI) und Machine Learning (ML) haben längst die Phase des Hypes überstanden und finden verstärkt Anwendung in diversen Bereichen. Andererseits finden laut einer Studie von IDC etwa 50 Prozent der KI-Projekte noch nicht ihren Weg in die produktive Nutzung und die Schaffung von echten Mehrwerten. In diesem Artikel haben wir unsere Erfahrungen aus Kundenprojekten zusammengefasst und stellen die Kernaspekte heraus, um mit der Etablierung einer Plattform KI-Projekte flexibel, produktiv und zielgerichtet umzusetzen.

Herausforderungen

Aus unserer Erfahrung ergeben sich in KI Projekten folgende Herausforderungen:

  • Die Datengrundlage muss zunächst in eine nutzbare Form skalierbar zur Verfügung gestellt werden
  • Es müssen neben den Software-Lebenszyklen auch die Daten- sowie Modelllebenszyklen genutzt werden
  • Wachsende Vielzahl und Komplexität von Technologien
  • Fehlendes Wissen und KI-Spezialisten
  • Der Weg von lokalen Notebooks zu produktiven Anwendungen
  • Monitoring von KI-Anwendungen im produktiven Betrieb

Der Begriff KI-Plattform

Eine Plattform muss Entwicklungsteams bei der Umsetzung individueller Projekte maximal unterstützen und das über den gesamten Lebenszyklus hinweg. Eine Plattform beinhaltet dabei gut dokumentierte und zentral zur Verfügung stehende Applikationen in Form von Oberflächen oder APIs sowie Konzepte, Standards, Vorgehensweisen, Bausteine und Werkzeuge. Diese sind zunächst unabhängig von der konkreten fachlichen Ausprägung und lassen sich von den Projektteams flexibel erweitern. Eine Plattform darf nur unterstützen, aber die Projektteams nicht in ihrer Flexibilität einschränken. Außerdem muss sie einfach und verständlich einsetzbar sein, da sonst die Akzeptanz der Nutzung sinkt.

Die Vorteile liegen klar auf der Hand: Es wird kontinuierlich auf Standardisierung und Konsolidierung der Projekte gedrängt und langfristig eine enorme Produktivitätssteigerung erzielt. Gleichzeitig wird die Flexibilität der Projektteams gewahrt und die Abhängigkeit vom internen Plattform-Team minimiert. Die Alternative wäre, jedes Projekt individuell umzusetzen und Gelerntes nicht oder kaum mit in das nächste Projekt zu nehmen - sinnvoll klingt dies erstmal nicht.

Benötigte Rollen

(Bild: AIM)

Neben den Rollen Product Owner, Software Entwickler und DevOps Engineer benötigen wir noch die Rollen Data Engineer, Machine Learning Engineer und Data Scientist in einem KI-Projekt: Das Spielfeld des Data Engineers liegt in der robusten Verarbeitung und Bereitstellung von Datenbeständen, der Data Scientist ist primär für die KI spezifischen Teile zuständig und der Machine Learning Engineer schlägt die Brücke zwischen Data Science und der klassischen Entwicklung. Beachtet werden muss, dass eine Person im Entwicklungsteam mehrere Rollen übernehmen kann, sogenannte „t-Shaped-Skills“. Eine KI-Plattform muss nun die Arbeitsweise der einzelnen Rollen unterstützen und die Zusammenarbeit im Team fördern.

Aufgaben und die richtigen Werkzeuge

Neben den Phasen gibt es außerdem verschiedene Aufgaben zu erledigen. Eine Plattform muss diese Aufgaben unterstützen, sodass sich das Entwicklungsteam auf die Kernherausforderungen konzentrieren kann.

(Bild: AIM)

Hier empfiehlt sich ein agiles Vorgehen, zudem dürfen die einzelnen Umsetzungsschritte nicht alleine stehen, sondern müssen immer in einem Gesamtzusammenhang gesehen werden. Hat man die produktive Verwendungssituation bei der Implementierung der Modelle im Hinterkopf, lässt sich später einfach das entstandene Modell im Minimum Viable Product (MVP) integrieren und verwenden. Dieser Transfer ist einer der Hauptgründe, warum KI-Projekte scheitern. Die Plattform muss diese Vorgehensweise unterstützen und Werkzeuge anbieten, um diese Hürden aufzulösen. Wichtiger Aspekt ist, dass man in der produktiven Laufzeitumgebung Feedback-Schleifen etabliert, durch Monitoring einen reibungslosen Betrieb sicherstellt und die Automatisierung aller Lebenszyklen einführt. Das gilt sowohl für Projekte als auch für die KI-Plattform. So lässt sich eine kontinuierliche Verbesserung, Stabilisierung und Absicherung der Anwendung sicherstellen.

Betrieb einer industriellen KI Plattform

Man muss grundsätzlich darin unterscheiden, wo die Plattform und wo die konkrete Applikation läuft. Die Plattform sollte erstmal zentral zur Verfügung stehen. Das reduziert den individuellen Aufwand innerhalb eines Projektes. Hat die eigentliche Applikation in der späteren produktiven Situation keinen Zugriff auf die Services der Plattform, müssen einzelne Komponenten individuell mit der Applikation ausgeliefert werden können.

Es kommen folgende Betriebsszenarien in Frage:

  • On-Premises im Rechenzentrum des Kunden
  • In der eigenen oder der kundenspezifischen Private Cloud
  • In der eigenen oder der kundenspezifischen Public Cloud oder
  • In der hybriden Cloud, also einer Kombination aus Private und Public Cloud

Möchte man sich nicht von einem Cloud Provider abhängig machen, lohnt sich die Investition in eine Art der Virtualisierung oder Container-Orchestrierung. Das ermöglicht schnell und einfach die automatische Provisionierung aller nötigen Komponenten – nahezu unabhängig von der genutzten unterliegenden Infrastruktur oder Cloud-Anbietern. Das individuelle Ausrollen von Plattformkomponenten und Applikation kann so auf die immer gleichbleibende Art und Weise geschehen.

Mehrwerte einer industriellen KI-Plattform

Industrielle KI-Plattformen erhöhen kurz- sowie langfristig die Wirksamkeit von Entwicklungsteams und verhindern, dass KI-Projekte an den neuartigen Hausforderungen scheitern, die diese Technologie mit sich bringt. Außerdem wird die Time-to-Market reduziert, dies erhöht die Anpassungsgeschwindigkeit des Unternehmens und trägt somit zur Wettbewerbsfähigkeit bei. Man besitzt einen Mechanismus für kontinuierlichen Wissensaufbau und -verteilung und gewährleistet so, dass die Produktivität der Entwicklungsteams immer weiter gesteigert wird und weniger Wissen verloren geht. Außerdem wird die Transparenz für Anwender und das Management erhöht, um somit die Abstimmung zwischen allen Beteiligten zu fördern. So bleibt mehr Spielraum für Exploration und der Fokus auf das Wichtige: Nutzen und Anwender.

Etablierung einer KI-Plattform

Zur Einführung einer KI-Plattform ist eine agile Vorgehensweise empfehlenswert, in deren Rahmen die Plattform mit den Anforderungen aus den Projekten organisch wächst und weiterentwickelt wird. So reduziert man die anfängliche Investition und orientiert sich an den tatsächlichen Anforderungen, die aus den konkreten Projekten entstehen. Zudem wird ein Prozess benötigt, um die Erfahrungswerte aus den Projekten möglichst standardisiert und reflektiert in die Plattform zu überführen, sogenanntes Retrofitting. Nur so orientiert sich die Plattform an den realen Projektsituationen und reduziert nicht die Entwicklungsperformance der Projektteams.

(Bild: AIM)

Die Plattform muss dabei als Produkt geplant, umgesetzt und betrieben werden, mit einem dedizierten Entwicklungsteam, welches die Verantwortung dafür übernimmt. Das gewährleistet den wirksamen Einsatz, Aufbau und Betrieb. Die Projektteams haben weiterhin für das gesamte Projekt die Verantwortung und können diese nicht auf das Plattformteam abwälzen.

Für die Technologieselektion hat es sich bewährt, auf Open Source Software zu setzen. In den sowieso schon sehr risikobehafteten KI-Projekten senkt dies zusätzlich die Einstiegshürde, da keine langfristige Investition in teure Lizenzen vorgenommen werden muss. Zusätzlich hat es sich bewährt, von den Funktionen auf die konkreten Komponenten und Technologien zu schließen. Das reduziert die Abhängigkeiten und erhöht die Austauschbarkeit der jeweiligen Technologie.

Fazit

Die Einführung einer KI-Plattform lohnt sich besonders für Unternehmen, die einen längerfristigen Einsatz von KI in unterschiedlichsten Projekten planen. Aber auch, wenn nur ein Einsatz in ein paar wenigen Projekten geplant ist, lohnt sich die Einführung einiger Komponenten, Werkzeuge und Vorgehensweisen. So wird das Investitionsvolumen klein gehalten und die Produktivität gleich von Beginn an gewährleistet. Ein agiles Vorgehen ist übergreifend in allen Teilaspekten empfohlen, so lassen sich ständig neue Gegebenheiten adaptieren.

Optimalerweise kommen die Anforderungen an die Plattform aus den Projekten. Allerdings darf hieraus keine Abhängigkeit auf die Roadmap der Plattform geschehen. So würde der Mehrwert der Plattform stark reduziert werden und die Produktivität würde sinken. Es empfiehlt sich deswegen ein Mechanismus (Retrofitting) für die Überführung von Projektanforderungen in die Plattform, nachdem diese im Projekt umgesetzt wurden. Es gilt zudem, den Einsatz der Plattform in Projekten so einfach wie möglich umzusetzen, um Akzeptanz in den Projektteams zu schaffen.

(ID:47111653)