Kommentar von Aapo Tanskanen, Thoughtworks So setzen Unternehmen LLMs effektiv ein

Anbieter zum Thema

Thoughtworks Deutschland GmbH

Fsas Technologies GmbH

Board Deutschland GmbH

INFOMOTION GmbH

Immer mehr Unternehmen hoffen, mit Large Language Models (LLMs) ihre Produktivität zu steigern. Doch bislang sind die sinnvollen Einsatzmöglichkeiten aktueller LLMs – trotz ihres aufregenden Potenzials – noch überschaubar. Daher sollte die Nutzung von Large Language Models wohl bedacht sein.

Forscher von Meta, Hugging Face und AutoGPT haben in Tests demonstriert, dass selbst GPT-4-basierte KI-Agenten lediglich 15 Prozent der gestellten Aufgaben zufriedenstellend lösen können – im Vergleich zu 92 Prozent der menschlichen Vergleichsgruppe. Deshalb ist es entscheidend, LLMs dort einzusetzen, wo sie ihre Aufgaben zuverlässig bewältigen können. Doch wie können Unternehmen sinnvolle Einsatzmöglichkeiten identifizieren und welche Fallstricke befinden sich auf dem Weg dorthin?

LLMs als Business-Vorteil nutzen – ein Leitfaden

Die folgenden fünf Best Practices helfen Unternehmen dabei, abzuwägen, wo und wie LLMs ihren Kunden und Mitarbeitern den größten Nutzen bieten:

1. Technisches Verständnis ausbilden

Die Grundvoraussetzung für einen erfolgreichen Einsatz von LLMs ist ein grundlegendes Verständnis davon, wie diese funktionieren. LLMs erfreuen sich zwar einer großen öffentlichen Aufmerksamkeit, doch in den Debatten stößt man häufig auf fehlendes Wissen und irrige Annahmen oder Sorgen: KI habe ein eigenes Bewusstsein, zum Beispiel. Kurzgefasst: Es handelt sich hierbei um maschinelle Lernmodelle, die Text in natürlicher Sprache als Eingabe entgegennehmen, verarbeiten und auf dieser Grundlage statistisch wahrscheinlichen Text ausgeben. Sie fungieren als Softwarekomponenten, die zwischen der Datenbank und einer Applikation wie ChatGPT angeordnet sind und letztere so zur Sprachverarbeitung befähigen (s. Abbildung).

2. Grenzen von LLMs kennen

Ein Unternehmen ist es nicht automatisch produktiver, nur weil es LLMs nutzt. Entscheidend ist, für welche Tätigkeiten es Large Language Models einsetzt. Im Wesentlichen liegt der Nutzen von LLMs in ihrer Fähigkeit zu umfangreichen Sprachverarbeitung. Mit dieser Eigenschaft können sie Anwendungen verbessern und für Kunden sowie interne Interessensgruppen einen Mehrwert schaffen. Für Aufgaben, die menschenähnliche Denk- und Planungsfähigkeiten erfordern, sind generative LLMs allerdings noch ungeeignet. Angesichts mangelhafter Zuverlässigkeit des Outputs ist auch der Einsatz bei unternehmenskritischen Anwendungen nicht ratsam. Darüber hinaus fehlt die Stringenz in den Ergebnissen: Mit demselben Prompt erhält man etwa bei mehreren Anläufen unterschiedlichste Ergebnisse. Zudem ist die Latenzzeit einiger aktueller Modelle noch zu hoch, was für diverse Einsatzszenarien unvorteilhaft ist.

3. Gewusst wie: Teilautomatisierung statt Outsourcing

Verschiedene Anwendungsfälle aus der Unternehmenspraxis zeigen aber, dass die derzeitige Generation von LLMs Arbeitsprozesse durchaus beschleunigen kann. Bei Bolt.Works nutzen Recruiter eine LLM-Lösung, die große Mengen an unstrukturiertem Text, beispielsweise aus Lebensläufen und Stellenanzeigen, in ein strukturiertes Format überführt. Das erleichtert den Abgleich von Job- und Bewerberprofilen und erhöht so die Zufriedenheit der Recruiter, denn so verfügen sie über mehr Kapazitäten für anspruchsvollere Aufgaben.

Bei Nestlé und Unilever nutzen Mitarbeiter indes generative KI, um Texte, Bilder und Videos zu erstellen. So konnten die Unternehmen bereits Kosten senken und die Produktivität steigern, da sich kreative Ideen schneller umsetzen ließen. Und zur Unterstützung für die Strategie- und Konzeptentwicklung hat Thoughtworks den KI-gestützten Co-Piloten Boba AI entwickelt. Was diese LLM-Lösungen gemeinsam haben: Sie unterstützen die Menschen bei repetitiven Aufgaben, automatisieren aber nicht den gesamten Prozess. Sie helfen den Mitarbeitern dabei, kreativer und produktiver zu sein, ohne die Aufgaben vollständig zu übernehmen.

4. LLMs mit eigenen Daten trainieren

Auch wenn der Ansturm auf die Integration von LLMs und die Erstellung spezieller Prompts groß ist, so hat ein breites Publikum Zugang zu denselben öffentlichen LLM-Diensten. Clevere Prompts werden deshalb in Zukunft keinen dauerhaften Wettbewerbsvorteil bewirken. Die deutlich vielversprechendere Option: LLMs mit den eigenen Geschäftsdaten trainieren. Eine weitere Möglichkeit ist es, kleinere Modelle mithilfe der eigenen Daten feinzujustieren und so auf seine spezifischen Bedürfnisse zuzuschneiden. Das erfordert zwar einen höheren Reifegrad der Daten und Kompetenz im Umgang mit Machine Learning, bietet aber langfristig Vorteile wie Kosteneinsparungen, verbesserte Genauigkeit und einen maßgeschneiderten Output. Unternehmen, die nicht über die erforderlichen Daten für das Training benutzerdefinierter Modelle verfügen, können sich sogar Trainingsdaten mit öffentlich verfügbaren LLMs generieren.

5. Erfahrungen sammeln

Egal ob eigene oder öffentliche LLMs, Unternehmen sollten beim Testen von Generativer KI pragmatisch vorgehen. Das heißt, die Vorteile und Grenzen von LLMs realistisch zu bewerten und abzuwägen, wo die Nutzung tatsächlich sinnvoll ist. Mit jeder neuen Implementierung wächst die KI- und LLM-Reife dieser Unternehmen. Das befähigt sie, neue und bessere Prozesse zu entwickeln, anstatt nur bestehende Schritte zu überarbeiten. Das schafft sowohl für Kunden als auch für interne Abläufe einen echten Mehrwert.

Auf den Punkt gebracht

Der durchdachte Einsatz von LLMs mit einer klaren, systematischen und anpassungsfähigen Strategie verschafft Unternehmen einen langfristigen Wettbewerbsvorteil. Legen Unternehmen ihren Fokus auf die Entlastung ihrer Mitarbeiter, können diese ihre Fähigkeiten erweitern und dort einsetzen, wo sie dringend benötigt werden. Der Weg zu einem bestmöglichen LLM-Einsatz führt dabei über das Modelltraining mit eigenen Daten und das Testen bereits am Markt vorhandener Lösungen. So können Unternehmen sich einen nachhaltigen Wettbewerbsvorteil durch die Nutzung maßgeschneiderter LLMs verschaffen.

(ID:50026729)