Kommentar von Kurt Muehmel, Dataiku So lässt sich das Potenzial von KI-Chatbots maximieren

Anbieter zum Thema

Dataiku GmbH

Board Deutschland GmbH

Disy Informationssysteme GmbH

INFOMOTION GmbH

KI-Chatbots im Unternehmen nutzen? Während das Potenzial dieser Technologie vielversprechend ist, zögern viele Unternehmen noch, solche Chatbots umfassend in Geschäftsprozesse zu implementieren. Selbst wenn Mitarbeiter Zugang zu diesen Tools haben, fehlt kommerziellen Chatbots die Fähigkeit, auf firmeneigene Daten zuzugreifen, was für viele Chatbots entscheidend ist, um ihr volles Potenzial im Unternehmen zu entfalten.

Viele Unternehmen beschränken den Zugang zu Consumer-Chatbots wie ChatGPT aufgrund von Bedenken hinsichtlich der Datensicherheit und Compliance. Die Hauptsorge besteht darin, dass sensible oder vertrauliche Unternehmensinformationen bei der Nutzung dieser verbraucherorientierten Dienste an Dritte weitergegeben werden könnten. Das Versenden von Daten außerhalb des Unternehmens auf diese Weise könnte gegen Datenschutzgesetze verstoßen und das Unternehmen erheblichen Haftungsrisiken aussetzen. Dies birgt das Risiko, dass diese Daten in die falschen Hände geraten oder missbraucht werden.

Obwohl diese Vorsichtsmaßnahmen nachvollziehbar sind, schränken sie die Mitarbeiterinnen und Mitarbeiter erheblich ein und verhindern, dass die Vorteile der Generativen KI vollständig genutzt werden können. Denn viele Anwendungen erfordern das Nutzen interner Daten. Beispielsweise, wenn sich Mitarbeiter per Chatbot über Freigabeprozesse, über den Status von Kundenverträgen oder Marketing-Aktivitäten informieren wollen.

Das Risiko von LLM-Halluzinationen

Ein weiteres Risiko ist das Phänomen der „KI-Halluzinationen“. Chatbots wie ChatGPT und Google Gemini erzeugen manchmal Halluzinationen, also Aussagen, die entweder nicht zutreffend sind oder nicht mit der Anfrage des Nutzers übereinstimmen. Obwohl der von einem LLM generierte Text häufig präzise ist, kann die Korrektheit der Ergebnisse nicht garantiert werden. Die Texte werden auf Basis statistischer Wahrscheinlichkeiten erstellt, die bestimmen, was „richtig klingt“, und die Modelle überprüfen standardmäßig keine Fakten, um „richtig“ zu sein.

Fehlende Skalierbarkeit

Der Aufbau maßgeschneiderter, KI-gestützter Anwendungen kann Unternehmen helfen, viele der Einschränkungen von Chatbots für Endverbraucher zu überwinden. Allerdings kann die Entwicklung solcher Anwendungen für das Unternehmen zeitaufwendig sein, insbesondere wenn es darum geht, die Anzahl der Anwendungen im Unternehmen zu skalieren. Mit dem steigenden Aufwand für die Wartung einer wachsenden Anzahl von KI-gestützten Anwendungen kann das Tempo der Innovation verlangsamt werden, was den Nutzen von KI im Unternehmen einschränken kann.

Lösungen und Potenziale

Wie können Unternehmen diese Bedenken überwinden und das volle Potenzial von Chatbots ausschöpfen? An dieser Stelle kommt ein moderner KI-Ansatz für die Entwicklung und Implementierung von unternehmensspezifischen Chatbots ins Spiel. Eine zentralisierte, skalierbare Lösung ist entscheidend, damit Unternehmen ihre bevorzugten Sprachmodelle auswählen und mit ihren proprietären Dokumenten über Retrieval-Augmented Generation (RAG) versorgen können. Alternativ sollte auch die Möglichkeit bestehen, direkt auf Unternehmensdaten zuzugreifen. So entstehen KI-Chatbots, die spezifisch auf die Bedürfnisse und Daten des Unternehmens zugeschnitten sind und in verschiedenen Abteilungen effektiv eingesetzt werden können. Vorteile einer solchen Lösung:

• 1. Erhöhte Datensicherheit und Compliance: Unternehmen können durch eine zentrale, skalierbare Lösung Sicherheitsstandards einheitlich verwalten und überwachen. RAG-Methoden und Techniken zur Datenbankabfrage gewährleisten, dass Chatbots nur auf relevante und genehmigte Dokumente und Daten zugreifen, wodurch die Einhaltung von Datenschutzbestimmungen unterstützt wird.

• 2. Verlässliche Antworten: Die Nutzung von RAG-Techniken stellt sicher, dass die Antworten der Chatbots auf den tatsächlichen, verifizierten Daten des Unternehmens basieren, was die Zuverlässigkeit und Genauigkeit der Informationen verbessert.

• 3. Skalierbare und kontrollierte Implementierung: Eine skalierbare KI-Lösung für Chatbots ermöglicht es, Sprachmodelle effizient zu verwalten und zu erweitern. Unternehmen können die Entwicklung und Implementierung ihrer Chatbot-Lösungen optimieren, indem sie ihre bevorzugten großen Sprachmodelle auswählen und diese mit proprietären Daten mittels RAG- oder Abfragetechniken versorgen. Sie können die Chatbots modular aufbauen, häufige Komponenten wiederverwenden und den Wartungsaufwand gemeinsam teilen.

Jedes Unternehmen kann und sollte Generative KI nutzen, um Abläufe zu optimieren und intelligenter zu arbeiten. Mit KI-Lösungen, die Sicherheits- und Compliance-Anforderungen erfüllen, können Chatbots für alle Unternehmensabteilungen entwickelt und an die jeweiligen Bedürfnisse individuell angepasst werden. Diese maßgeschneiderten Lösungen ermöglichen es Datenverantwortlichen, eine umfassende Kontrolle über den Umgang mit sensiblen Informationen zu behalten. Mitarbeiter können wie gewohnt Fragen an die Chatbots stellen und erhalten zuverlässige Antworten, während die Daten-Teams die Kontrolle über die Nutzung, die Kosten und die Qualität der Antworten behalten.

(ID:50113579)