Generative KI in Software-Projekte integrieren 5 spannende Frameworks für KI-Chatbots

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Tableau von Salesforce

QUNIS GmbH

Interaktiver Guide, Feedback-Sammler oder gar kostenloser 24/7-Service für die Kundschaft? Mit dem eigenen Chatbot ist das durchaus möglich – und die Ansätze sind vielfältig!

Der Wunsch, „mit dem Computer“ zu sprechen um Hilfe zu bekommen, besteht im Grunde schon immer. Wer erinnert sich nicht an Prody Parrot von Soundblaster? Der sprechende Papagei unkte Ende der 90er auf fast jedem ordentlichen Heimrechner – und basierte auf dem nochmal zehn Jahre älteren Kommandozeilenprogramm Dr. Sbaitso.

Bereits ab 1996 drängte sich Karl Klammer in der Microsoft Office Suite als Assistent in den Vordergrund. Gegen Mitte der Nullerjahre wollte dann kaum noch eine kommerzielle Webseite auf die meist völlig nutzlosen Pseudo-Bots verzichten, die eigentlich nur Kontakt zum Marketing herstellen konnten. Wirklich nützlich sind Chatbots erst, seit sie von generativer KI gestützt arbeiten,

ChatGPT hat seine Qualitäten schon genügend unter Beweis gestellt. Mit einem eigenen Chatbot können Sie Kundinnen, Software-Nutzer und Ihre ganze Belegschaft unterstützen. Im Intranet könnte beispielsweise ein Chatbot auf Klassiker wie „Wer ist Ansprechpartner für Thema XY?“ antworten. In Apps könnte er nicht bloß die Nutzung des Programms erklären, sondern auch bei Fragen, die darüber hinaus gehen! Beispiel gefällig?

Für Telegram gibt es einen Bot zum Abfragen der Monitoring-Lösung Checkmk. Dieser hatte zwischenzeitlich einen integrierten KI-Chat, der genau dort angefangen hat, wo Monitoring aufhört: Bekam man bislang nur ein Problem gemeldet, konnte man den Bot nun auch direkt fragen, wie sich dieses denn wohl lösen ließe. Zwar musste der Chat wieder weichen, weil es Probleme mit der Bard-API-Nutzung gab, aber das Konzept weiß grundsätzlich zu überzeugen.

Microsoft Bot Framework

Das Microsoft Bot Framework ist ein verlockender Startpunkt. Es bietet alle nötigen Tools für den kompletten Lifecycle, vom Design über das Erstellen und Testen bis hin zum Veröffentlichen/Betreiben und Verbinden mit der Außenwelt. Das Herz des Ganzen sind die Azure-Anbindung und der Bot Framework Composer, ein Open-Source-Tool für die grafische und geführte Entwicklung von Bots.

IBM watsonx Assistant

Auch IBM setzt beim Kreieren von KI-betriebenen Chatbots auf eine klassische Low-Code-Plattform, die auf den Namen watsonx Assistant hört. Der Onboarding-Prozess ist zwar reichlich lang, aber immerhin kommen Sie schnell zu einem ersten Bot, beispielsweise, um einen Nutzer über eine E-Mail-PIN und eine Kontrollfrage zu authentifizieren. Nun, Bot und Dialog stehen schnell, aber typisch Low-Code braucht die echte Funktionalität dann doch etwas mehr Aufwand.

Mit Watson können Bots für beispielsweise das Web, Facebook, WhatsApp oder auch SMS-Kommunikation erstellt werden, darüber hinaus gibt es reichlich Integrationen. Bots müssen dabei nicht unbedingt auf die reine Kommunikation ausgelegt sein – schon obiges Authentifizierungsbeispiel zeigt, dass sich auch Aufgaben mittels Watson-Bot erledigen lassen. Interessant: Es steht Ihnen nicht nur en LLM im Hintergrund zur Verfügung, sondern auch Sprache.

Wit.ai

Wit.ai ist nicht auf Bots spezialisiert, sondern generell auf die Entwicklung von Apps und Services, die menschliche Sprache verstehen sollen. Dabei ist Wit.ai Open Source und somit völlig kostenfrei. Dennoch müssen Sie hier nicht auf Komfort verzichten: Im Zentrum ist auch hier eine Low-/No-Code-Plattform zu finden, über die sich Apps wie Bots Schritt für Schritt zusammenstellen lassen.

Hier ein Beispiel für das Prozedere: Sie geben einen möglichen Nutzer-Input ein, etwa „Erinnere mich in 5 Minuten.“ Die Plattform versteht und markiert automatisch „5 Minuten“ als relevante Information. Dann können Sie eine Aktion auswählen, die mit den extrahierten Informationen ausgelöst werden soll. Im Composer lassen sich zudem wie üblich Beziehungen und das gesamte Konstrukt grafisch entwickeln.

So einfach die einzelnen Schritte mit Wit.ai auch sein mögen, um wirklich produktiv zu werden dauert es einige Zeit und Einarbeitung – und Code! Denn schon ein Blick in die Dokumentation zeigt, dass die eigentliche Logik und Funktionalität dann doch Programmiersprachen benötigt, beispielsweise Python. Wit.ai kümmert sich vor allem um das Sprachverständnis und den App-Rahmen wie die User Experience.

Botpress

Wer möglichst schnell erste Erfolge sehen will, für den ist Botpress die erste Wahl. Der Service baut auf OpenAI auf, bietet Integrationen für unter anderem GitHub, Telegram, Trello, Gmail, Slack und WhatsApp. Über Webhooks können beliebige eigene Services angebunden werden. Botpress erlaubt im kostenlosen Plan bis zu 1.000 Anfragen pro Monat, bei 100.000 Anfragen werden 500 US-Dollar fällig – ein erfreulich transparentes und einfaches Preismodell.

Vor allem aber gestaltet Botpress den Einstieg ausnehmend gut: Das Tutorial dauert gerade mal zwei, drei Minuten und am Ende steht ein nutzbarer, teilbarer Bot im ChatGPT-Stil, der Antworten auf Basis selbst hochgeladener Dokumente generiert. Und so ein schneller Erfolg motiviert durchaus.

Anschließend geht es weiter in einem typischen No-/Low-Code-Editor: Das Herz ist abermals ein Flow-Editor, über den sich die Chat-Abläufe einfach zusammenstellen lassen. Dem Ablauf lassen sich etliche Elemente aus unterschiedlichen Bereichen per Drag-and-Drop hinzufügen, etwa zum Erfassen von Informationen, Senden von Nachrichten oder Ausführen von Aktionen. Hat der Bot beispielsweise keine Antwort parat, könnten Sie als nächsten Schritt eine Multiple-Choice-Frage stellen lassen, etwa um die Zufriedenheit des Nutzers zu erfragen.

Neben der gelungenen Nutzerführung überzeugt Botpress auch mit einigen Details. Ihr Bot soll mehr Persönlichkeit an den Tag legen? Aktivieren Sie den Personality-Agenten, beschreiben Sie die gewünschte Persönlichkeit und schon antwortet der Bot im eigenen Stil. Unser Testbot sollte zum Beispiel gerne Emojis nutzen und bekam eine Multiple-Choice-Frage mit den Antworten „Berlin, München, Dortmun, Schalksmühle und Köln.“ Nun achten Sie mal auf die Emojis, die der Bot Optionen eigenmächtig zugeordnet hat:

Eine Skyline für Berlin, ein Fußball für Dortmund, das typisch „kölsche“ Rot für Köln, ein Bier für München und einen Baum für das sauerländische Schalksmühle. Etwas stereotyp, aber das Ergebnis hätte deutlich schlechter ausfallen können.

ChatBotAI

Nach all den No-Code-Plattformen zum Schluss noch ein ganz klassisches Python-Framework: ChatBotAI liefert keinen sofort einsatzfähigen Bot mit LLM-Backend, sondern nur eine recht schlanke Basis, um eigene Bots zu entwickeln. ChatBotAI-Bots können dann aber aus den Protokollen der Chat-Logs lernen. Hier stehen also klassisches Machine Learning und Verarbeitung natürlicher Sprache im Vordergrund, hinzu kommen die Funktionen für den Chat an sich. Die Analyse läuft über reguläre Ausdrücke.

Zu den wichtigsten Funktionen gehören hier das Merken von und somit das Lernen durch Nutzereingaben, konditionale Abläufe, thematische Chats und vor allem die Integration von REST-API-Aufrufen. In den Beispielprojekten finden Sie etwa den Code für einen Demo-Bot mit integrierter Wikipedia-Abfrage – mit gerade mal 15 Zeilen Python.

ChatBotAI eignet sich wohl am ehesten für Einsteiger in die Thematik, die über Python-Kenntnisse verfügen und mit einer schlanken, nachvollziehbaren Basis experimentieren wollen. Installation und Demos funktionieren auch auf Anhieb, allerdings gibt es kaum Dokumentation, nur eine kleine „Entwicklergemeinde“ (im Grunde ein 1-Personen-Projekt) und eher wenig Aktivität. Insofern bietet sich ChatBotAI vor allem zum Lernen an.

Ein Tipp für Copy-and-Paste-Enthusiasten: Das Wikipedia-Beispiel funktioniert erst nach einem – nicht erwähnten – „pip install wikipedia“, da auf diese externe Bibliothek zurückgegriffen wird.

Dies ist nur ein kleiner Auszug aus der Welt der Chatbot-Plattformen und -Frameworks – und leider lässt sich beim Stöbern viel schlechte Erfahrung machen. Etliche Frameworks und Bibliotheken sind veraltet oder schlecht dokumentiert, verweigern den Dienst oder sind in extrem komplexe und/oder komplizierte Plattformen eingebunden.

Die Transparenz bezüglich zu erwartender Kosten lässt ebenfalls häufig zu wünschen übrig. Und zu unterschätzen sind die möglichen Kosten nicht: Botpress etwa verlangt 250 US-Dollar pro Monat für 50.000 Fragen. Das klingt vielleicht nach viel, aber selbst ein mittelgroßes Blog kommt schnell auf abertausende Besucher pro Monat – das birgt ein gewisses Risiko.

(ID:49753154)