Rund 50 Prozent aller KI-Projekte schaffen es nicht in die produktive Nutzung. Pascal Stammer, Leiter AI Engineering von AIM Agile IT Management, hat Herausforderungen und Lösungsbausteine für den produktiven Einsatz von KI-Anwendungen zusammengefasst.
AIM gibt Tipps zur erfolgreichen Implementierung industrieller KI-Plattformen.
(Bild: AIM)
Künstliche Intelligenz (KI) und Machine Learning (ML) haben längst die Phase des Hypes überstanden und finden verstärkt Anwendung in diversen Bereichen. Andererseits finden laut einer Studie von IDC etwa 50 Prozent der KI-Projekte noch nicht ihren Weg in die produktive Nutzung und die Schaffung von echten Mehrwerten. In diesem Artikel haben wir unsere Erfahrungen aus Kundenprojekten zusammengefasst und stellen die Kernaspekte heraus, um mit der Etablierung einer Plattform KI-Projekte flexibel, produktiv und zielgerichtet umzusetzen.
Herausforderungen
Aus unserer Erfahrung ergeben sich in KI Projekten folgende Herausforderungen:
Die Datengrundlage muss zunächst in eine nutzbare Form skalierbar zur Verfügung gestellt werden
Es müssen neben den Software-Lebenszyklen auch die Daten- sowie Modelllebenszyklen genutzt werden
Wachsende Vielzahl und Komplexität von Technologien
Fehlendes Wissen und KI-Spezialisten
Der Weg von lokalen Notebooks zu produktiven Anwendungen
Monitoring von KI-Anwendungen im produktiven Betrieb
Der Begriff KI-Plattform
Eine Plattform muss Entwicklungsteams bei der Umsetzung individueller Projekte maximal unterstützen und das über den gesamten Lebenszyklus hinweg. Eine Plattform beinhaltet dabei gut dokumentierte und zentral zur Verfügung stehende Applikationen in Form von Oberflächen oder APIs sowie Konzepte, Standards, Vorgehensweisen, Bausteine und Werkzeuge. Diese sind zunächst unabhängig von der konkreten fachlichen Ausprägung und lassen sich von den Projektteams flexibel erweitern. Eine Plattform darf nur unterstützen, aber die Projektteams nicht in ihrer Flexibilität einschränken. Außerdem muss sie einfach und verständlich einsetzbar sein, da sonst die Akzeptanz der Nutzung sinkt.
Die Vorteile liegen klar auf der Hand: Es wird kontinuierlich auf Standardisierung und Konsolidierung der Projekte gedrängt und langfristig eine enorme Produktivitätssteigerung erzielt. Gleichzeitig wird die Flexibilität der Projektteams gewahrt und die Abhängigkeit vom internen Plattform-Team minimiert. Die Alternative wäre, jedes Projekt individuell umzusetzen und Gelerntes nicht oder kaum mit in das nächste Projekt zu nehmen - sinnvoll klingt dies erstmal nicht.
Benötigte Rollen
(Bild: AIM)
Neben den Rollen Product Owner, Software Entwickler und DevOps Engineer benötigen wir noch die Rollen Data Engineer, Machine Learning Engineer und Data Scientist in einem KI-Projekt: Das Spielfeld des Data Engineers liegt in der robusten Verarbeitung und Bereitstellung von Datenbeständen, der Data Scientist ist primär für die KI spezifischen Teile zuständig und der Machine Learning Engineer schlägt die Brücke zwischen Data Science und der klassischen Entwicklung. Beachtet werden muss, dass eine Person im Entwicklungsteam mehrere Rollen übernehmen kann, sogenannte „t-Shaped-Skills“. Eine KI-Plattform muss nun die Arbeitsweise der einzelnen Rollen unterstützen und die Zusammenarbeit im Team fördern.
Aufgaben und die richtigen Werkzeuge
Neben den Phasen gibt es außerdem verschiedene Aufgaben zu erledigen. Eine Plattform muss diese Aufgaben unterstützen, sodass sich das Entwicklungsteam auf die Kernherausforderungen konzentrieren kann.
(Bild: AIM)
Hier empfiehlt sich ein agiles Vorgehen, zudem dürfen die einzelnen Umsetzungsschritte nicht alleine stehen, sondern müssen immer in einem Gesamtzusammenhang gesehen werden. Hat man die produktive Verwendungssituation bei der Implementierung der Modelle im Hinterkopf, lässt sich später einfach das entstandene Modell im Minimum Viable Product (MVP) integrieren und verwenden. Dieser Transfer ist einer der Hauptgründe, warum KI-Projekte scheitern. Die Plattform muss diese Vorgehensweise unterstützen und Werkzeuge anbieten, um diese Hürden aufzulösen. Wichtiger Aspekt ist, dass man in der produktiven Laufzeitumgebung Feedback-Schleifen etabliert, durch Monitoring einen reibungslosen Betrieb sicherstellt und die Automatisierung aller Lebenszyklen einführt. Das gilt sowohl für Projekte als auch für die KI-Plattform. So lässt sich eine kontinuierliche Verbesserung, Stabilisierung und Absicherung der Anwendung sicherstellen.
Betrieb einer industriellen KI Plattform
Man muss grundsätzlich darin unterscheiden, wo die Plattform und wo die konkrete Applikation läuft. Die Plattform sollte erstmal zentral zur Verfügung stehen. Das reduziert den individuellen Aufwand innerhalb eines Projektes. Hat die eigentliche Applikation in der späteren produktiven Situation keinen Zugriff auf die Services der Plattform, müssen einzelne Komponenten individuell mit der Applikation ausgeliefert werden können.
Es kommen folgende Betriebsszenarien in Frage:
On-Premises im Rechenzentrum des Kunden
In der eigenen oder der kundenspezifischen Private Cloud
In der eigenen oder der kundenspezifischen Public Cloud oder
In der hybriden Cloud, also einer Kombination aus Private und Public Cloud
Möchte man sich nicht von einem Cloud Provider abhängig machen, lohnt sich die Investition in eine Art der Virtualisierung oder Container-Orchestrierung. Das ermöglicht schnell und einfach die automatische Provisionierung aller nötigen Komponenten – nahezu unabhängig von der genutzten unterliegenden Infrastruktur oder Cloud-Anbietern. Das individuelle Ausrollen von Plattformkomponenten und Applikation kann so auf die immer gleichbleibende Art und Weise geschehen.
Mehrwerte einer industriellen KI-Plattform
Industrielle KI-Plattformen erhöhen kurz- sowie langfristig die Wirksamkeit von Entwicklungsteams und verhindern, dass KI-Projekte an den neuartigen Hausforderungen scheitern, die diese Technologie mit sich bringt. Außerdem wird die Time-to-Market reduziert, dies erhöht die Anpassungsgeschwindigkeit des Unternehmens und trägt somit zur Wettbewerbsfähigkeit bei. Man besitzt einen Mechanismus für kontinuierlichen Wissensaufbau und -verteilung und gewährleistet so, dass die Produktivität der Entwicklungsteams immer weiter gesteigert wird und weniger Wissen verloren geht. Außerdem wird die Transparenz für Anwender und das Management erhöht, um somit die Abstimmung zwischen allen Beteiligten zu fördern. So bleibt mehr Spielraum für Exploration und der Fokus auf das Wichtige: Nutzen und Anwender.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
Etablierung einer KI-Plattform
Zur Einführung einer KI-Plattform ist eine agile Vorgehensweise empfehlenswert, in deren Rahmen die Plattform mit den Anforderungen aus den Projekten organisch wächst und weiterentwickelt wird. So reduziert man die anfängliche Investition und orientiert sich an den tatsächlichen Anforderungen, die aus den konkreten Projekten entstehen. Zudem wird ein Prozess benötigt, um die Erfahrungswerte aus den Projekten möglichst standardisiert und reflektiert in die Plattform zu überführen, sogenanntes Retrofitting. Nur so orientiert sich die Plattform an den realen Projektsituationen und reduziert nicht die Entwicklungsperformance der Projektteams.
(Bild: AIM)
Die Plattform muss dabei als Produkt geplant, umgesetzt und betrieben werden, mit einem dedizierten Entwicklungsteam, welches die Verantwortung dafür übernimmt. Das gewährleistet den wirksamen Einsatz, Aufbau und Betrieb. Die Projektteams haben weiterhin für das gesamte Projekt die Verantwortung und können diese nicht auf das Plattformteam abwälzen.
Für die Technologieselektion hat es sich bewährt, auf Open Source Software zu setzen. In den sowieso schon sehr risikobehafteten KI-Projekten senkt dies zusätzlich die Einstiegshürde, da keine langfristige Investition in teure Lizenzen vorgenommen werden muss. Zusätzlich hat es sich bewährt, von den Funktionen auf die konkreten Komponenten und Technologien zu schließen. Das reduziert die Abhängigkeiten und erhöht die Austauschbarkeit der jeweiligen Technologie.
Fazit
Die Einführung einer KI-Plattform lohnt sich besonders für Unternehmen, die einen längerfristigen Einsatz von KI in unterschiedlichsten Projekten planen. Aber auch, wenn nur ein Einsatz in ein paar wenigen Projekten geplant ist, lohnt sich die Einführung einiger Komponenten, Werkzeuge und Vorgehensweisen. So wird das Investitionsvolumen klein gehalten und die Produktivität gleich von Beginn an gewährleistet. Ein agiles Vorgehen ist übergreifend in allen Teilaspekten empfohlen, so lassen sich ständig neue Gegebenheiten adaptieren.
Optimalerweise kommen die Anforderungen an die Plattform aus den Projekten. Allerdings darf hieraus keine Abhängigkeit auf die Roadmap der Plattform geschehen. So würde der Mehrwert der Plattform stark reduziert werden und die Produktivität würde sinken. Es empfiehlt sich deswegen ein Mechanismus (Retrofitting) für die Überführung von Projektanforderungen in die Plattform, nachdem diese im Projekt umgesetzt wurden. Es gilt zudem, den Einsatz der Plattform in Projekten so einfach wie möglich umzusetzen, um Akzeptanz in den Projektteams zu schaffen.