Generative Künstliche Intelligenz im Einsatz So verarbeiten KI-Assistenten unstrukturierte Daten und steigern die Produktivität

Anbieter zum Thema

Neo4j Germany GmbH

Amazon Web Services Germany GmbH

INFOMOTION GmbH

Generative KI (GenAI) kann auf vielfältige Weise Unternehmen helfen, große unstrukturierte Datenmengen zu bewältigen und rasch nutzbar zu machen. Insbesondere bei großen, unstrukturierten Datenmengen wie etwa Handbüchern, E-Mails, Logfiles und Chatverläufen erweisen sich die Fähigkeiten von KI-Apps im Hinblick auf Produktivitätssteigerung als nützlich. Analytische Funktionen gibt es gegen einen Aufpreis.

Generative KI bedeutet inzwischen nicht mehr, große Sprachmodelle zu erstellen, denn das machen inzwischen große Anbieter wie Microsoft oder Google. Vielmehr suchen die Anwender nach dem Ende ihrer Experimentierphase nach praktischen Möglichkeiten, Generative KI erstens in ihre Abläufe einzubetten, um Mehrwert zu schaffen, und zweitens, entweder KI-Apps zu abonnieren oder selbst eigene KI-Apps zu erstellen, die auf ihre Anforderungen zugeschnitten sind. Bei diesen drei Optionen kann KI inzwischen helfen.

Big Data ist ein Anwendungsgebiet, an dem viele User erst einmal an Unmengen von Daten für die Analyse denken, doch das ist nicht die ganze Realität. Bei Big Data handelt es sich in erster Linie um unstrukturierte Datenmengen, und die können auch in Dokumenten wie etwa Handbüchern, E-Mails, Logfiles und Chatverläufen vorliegen. In diesem Bereich stecken noch viele ungehobene Schätze, und sie sind auch im Hinblick auf DSGVO-Konformität und Compliance-Audits nicht ganz unwichtig.

Bildergalerie

Bildergalerie mit 6 Bildern

„Als ich vor über zwölf Jahren bei AWS angefangen habe, bekam ich zum Start erst einmal sehr viele Dokumente zugeschickt“, berichtet Constantin Gonzalez, inzwischen Principal Solution Architect bei AWS in Deutschland. Die Personalabteilung teilte mit ihm damals beispielsweise: „So kommst du an dein Geld, so reichst du deinen Urlaub ein, hier ist die Dokumentation zu deiner Firma, dann kriegst du natürlich zusätzlich auch noch mal Post von deinem Chef, mit relevanten Informationen für das Team.“ Heute verwendet man auch u. a. Wikis. „Man kann im Arbeitsalltag also schnell von Dokumentationen überrannt werden.

Mithilfe von Amazon Q Business kann man das viel stärker vereinfachen, weil man damit einen KI-Assistenten bekommt, der einem immer zielgenau die Antworten liefert, die man sonst in verschiedenen Quellen aufwendig suchen würde, indem man natürliche Fragen stellt.“ Das Schöne an den generativen Large-Language-Modellen (LLMs) sei ja, „dass sie natürliche Sprache verstehen und auch ein Verständnis der Materie mitbringen.“ Aufgrund der vielen Konnektoren zu anderen Applikationen – in Amazon Q Business sind es über 40 – sei der Assistent in der Lage, alle relevanten Dokumente binnen Sekunden zusammenzutragen und mit Quellenangaben zu versehen.

Zwei Anwender

Dieses Vorgehen beschleunigt bereits bei mehreren Anwendern die Einarbeitung neuer Mitarbeiter mithilfe einer KI-gestützten App. „Bei Bayer integrieren wir Generative KI in unsere neue Decision Science Ecosystem (DSE)-Plattform, die es Datenwissenschaftlern ermöglicht, Machine-Learning-Modelle für praktisch jeden Anwendungsfall zu erstellen, zu trainieren und einzusetzen“, berichtet Will McQueen, Leiter des Bereichs Global Data Assets bei der Bayer AG. „Wir gehen davon aus, dass wir durch die Implementierung von Amazon Q Business im gesamten DSE die Onboarding-Zeit um etwa 70 Prozent reduzieren und die Produktivität der Entwickler um über 30 Prozent verbessern werden.“

Andere Anwender gehen schon einen Schritt weiter und haben einen Chatbot entwickelt, also eine App. „Bei Hapag-Lloyd suchten wir nach einer Möglichkeit, die Fragen unserer Mitarbeiter zu internen Abläufen und Betriebsanweisungen schneller und einheitlicher zu beantworten“, sagt Florian Heinemann, Senior Director Data Insights & AI bei der Reederei Hapag-Lloyd. „Derzeit werden einige dieser Anfragen durch zeitaufwendige Chat-Interaktionen von unserer Support-Abteilung bearbeitet.“ Ziel war es, diese Helpdesks zu entlasten.

„Wir haben begonnen, Amazon Q Business als KI-Chatbot zu nutzen, um die Beantwortung dieser Art von Anfragen mit nahezu sofortigen Antwortzeiten von einer bis drei Sekunden pro Anfrage zu automatisieren“, so Heinemann weiter. „Wir gehen davon aus, dass ein Teil unserer Support-Mitarbeiter auf höherwertige Aufgaben konzentriert sein wird und die Mitarbeiterzufriedenheit durch die Verfügbarkeit von Chatbots rund um die Uhr und konsistente Antworten erhöht wird, was letztendlich zu Kosteneinsparungen führen wird.“

Aber warum fiel die Wahl gerade auf den KI-Assistenten von AWS? „Wir haben uns für Amazon Q Business entschieden, weil es sich um einen vollständig verwalteten Service handelt, der keine zusätzliche Entwicklung erfordert, qualitativ hochwertige und konsistente Ergebnisse bietet und weil Amazon eng mit uns zusammengearbeitet hat, um die Lösung weiter zu verbessern.“ Die robusten Integrationsmöglichkeiten – in Form der erwähnten 40 Konnektoren – waren für Heinemann ebenfalls ein Schlüsselfaktor. „Amazon Q Business erfüllte unseren Bedarf an einer ausgereiften, vertrauenswürdigen Lösung, die wir schnell auf den Markt bringen konnten, um echte betriebliche Herausforderungen mithilfe von KI zu lösen.“

„Als Administrator kann man auch eine Integration mit bestimmten Anwendungen machen, wie zum Beispiel mit Salesforce oder einem Ticketingsystem wie Jira“, berichtet Gonzalez. „Wenn neue Mitarbeitende beispielsweise einen Laptop benötigen, dann können sie Amazon Q Business als Assistenten nutzen, um aus der Basis von Informationen in den Dokumentationen automatisch ein passendes Jira-Ticket zu erstellen und den Laptop schnell zu bekommen. Das spart also eine Menge Aufwand.“ Früher habe er schon mal einen Nachmittag gewartet, bis jemand sich dazu erbarmt hat, das Ticket zu beantworten.

Eigene KI-Apps erstellen

Neben der Produktivitätssteigerung durch schnellere Suche (Smart Search) in Big Data öffnet sich dem Nutzer auch der Weg, selbst eine maßgeschneiderte App zu erstellen. Es gibt zwei Versionen von Amazon Q Business. Die Lite-Version kostet nach Angaben von Gonzalez derzeit 3 US-Dollar: „Es gibt noch Amazon Q Business Pro für 20 Dollar pro User monatlich, dann hat man nämlich Zugriff auf zusätzliche Funktionalitäten inklusive des Business-Intelligence (BI)-Tools Amazon Q in QuickSight.“ Zu diesen „Zusatzfunktionen“ gehört die Möglichkeit, Applikationen aus einer Konversation zu erstellen: „Amazon Q Apps ist eine Möglichkeit, mit einem einzigen Klick aus einer Amazon-Konversation eine App zu bauen.“

Gonzalez erläutert den Vorgang in der Praxis: „Wenn ich zum Beispiel in der Personalabteilung bin, und ich habe eine Chat-Konversation mit Amazon Q darüber, wie ich die Einarbeitung meiner neuen Mitarbeiter in der Verkaufsabteilung möglichst beschleunigen kann, dann schlägt mir Amazon Q aus der Fülle der Dokumentationen einen Einarbeitungsplan vor.“

Das sei ja das Schöne an generative KI, sie kann ja neue Dinge generieren. Das heißt, der User könne befehlen: „Generiere mir doch bitte einen Einarbeitungsplan für neue Mitarbeiter in der Verkaufsabteilung“ und dann kann man mit weiteren Prompts diesen weiter verbessern und beispielsweise noch den Trainingsstart berücksichtigen. Irgendwann ist man mit dem Ergebnis zufrieden, dann kann man sagen: „Wäre es nicht schön, wenn man diesen Plan auch noch personalisieren könnte, sodass die Mitarbeiter mit ihrem Namen angesprochen werden und vielleicht auch weitere abteilungs- und standortspezifische Informationen bekommen, wie zum Beispiel ‚Wo ist die Kantine in München?‘ versus ‚Wo ist die Kantine in Hamburg‘?“

Aus dieser Konversation könne Amazon Q Apps automatisch eine kleine App bauen, und das sei dann sozusagen die Einarbeitungs-App, in die man nur noch die Mitarbeiter eingeben muss. Amazon Q Business hole sich dann aus dem firmeneigenen Telefonbuch die passenden Daten. „Deren Assistent hat dann plötzlich die Personalabteilung als App zur Verfügung und kann damit für jeden neuen Mitarbeiter einen personalisierten Plan machen.“

Datenanalysen mit QuickSight

In der Pro-Version ist Amazon QuickSight enthalten, ein umfangreiches BI-Tool. „Das heißt, man hat dann auch einen sprachbasierten Chat-Assistenten für die Analyse und Aufbereitung von Unternehmensdaten.“ Sind die nötigen Daten über die erwähnten Konnektoren angebunden, kann ein User ein Gespräch führen, zum Beispiel: „Was sind die Produkte, die sich im letzten Quartal am meisten verkauft haben, und bitte nach Regionen sortiert?“ Gonzalez weiter: „Dann hilft mir dieser generative KI-Assistent, die Daten entsprechend aufzubereiten und mir daraus die richtigen Visualisierungen zu generieren; ich kann damit auch automatische Datenberichte erzeugen, die ich mir dann als Dokument ausdrucken lassen und dann zur nächsten Vorstandssitzung mitnehmen kann.“

Digitaler Zwilling der Biodiversität

Die Entwicklung von proteinbasierten Medikamenten beziehungsweise Wirkstoffen ist zeitaufwendig und teuer. Basecamp Research versucht, diesen Prozess zu beschleunigen. Das BioTech-Start-up schickt Wissenschaftler in die entlegensten Gebiete der Welt, um in Zusammenarbeit mit Naturschutzorganisationen und Behörden biologische und chemische Daten diverser Großlebensräume zu sammeln. So entsteht der weltweit größte Knowledge Graph der natürlichen Biodiversität, also wirklich „Big Data“. Im Graphen lassen sich Sequenz, Struktur und Funktion der Proteine analysieren und neue Erkenntnisse für das Protein-Engineering gewinnen.

GenAI baut auf diesen Bio-Datensatz auf: Das Large Language Modell (LLM) ZymCtrl („Enzyme Control“) agiert ähnlich wie ChatGPT und generiert neue, robuste Proteinsequenzen, die zur Entwicklung künstlicher Enzyme verwendet werden und u. a. in der Pharmaindustrie und im Rahmen der Bioökonomie zum Einsatz kommen. Bislang erforderten solche KI-Modelle umfangreiches Training sowie die Konditionierung auf eine bekannte Protein-Startsequenz („Seed-Sequenz“). Mit ZymCtrl müssen die Wissenschaftler lediglich Enzymidentifikationscodes sowie die gewünschte Aktivität eingeben.

KI-Assistent im Kundenservice

Der schwedische Zahlungsanbieter Klarna hat im vergangenen Jahr die Adoption von KI-Technologien massiv vorangetrieben. Das Unternehmen entwickelte bereits Anfang 2024 einen eigenen KI-Assistenten namens „Kiki“, um das Einkaufs- und Zahlungserlebnis für die rund 150 Millionen Kunden zu verbessern. Integriert in der Klarna App, managt der Assistent etwa Rückerstattungen und Retouren und beantwortet Fragen von Kunden.

Nach Aussage des Unternehmens konnte Kiki bereits im ersten Einsatzmonat im Februar 2024 zwei Drittel der Kundendienstgespräche selbstständig bearbeiten. Die höhere Genauigkeit führte dazu, dass Wiederholungsanfragen um 25 Prozent zurückgingen. Anliegen, die zuvor durchschnittlich elf Minuten Zeit in Anspruch nahmen, erledigten sich mit dem KI-Assistenten nun in weniger als zwei Minuten. Kiki verwendet demnach ChatGPT von OpenAI und nutzt die Graph-Datenbank Neo4j zum Aufbau der internen Wissensdatenbank.

„Wir sehen eine Demokratisierung von KI“, resümiert Gonzalez von AWS. „Denn dadurch, dass Cloud Provider wie AWS diverse KI-Services für jedes Fähigkeitslevel zur Verfügung stellen, sehen wir, dass das sowohl einzelnen Personen wie mir selbst, als auch kleine mittelständische Unternehmen und Start-ups bis hin zu Großunternehmen gleichermaßen die Chance geben, KI einzusetzen und davon zu profitieren.“ Und ein Pay-per-Use-Modell wie das von AWS lasse allen Nutzern die Freiheit, ihren KI-Einsatz nach ihren Wünschen zu testen und dann zu skalieren.

(ID:50254847)