KI-Services für Datenkontrolle, Workflows und KI-Modelle Couchbase optimiert die Entwicklung agentenbasierter KI-Anwendungen

Anbieter zum Thema

Couchbase Germany GmbH

Board Deutschland GmbH

INFOMOTION GmbH

QUNIS GmbH

Die Capella AI Services von Couchbase unterstützen Unternehmen bei der Bewältigung der Datenanforderungen im Bereich KI-Entwicklung und KI-Bereitstellung. Die Plattform biete Datenkontrolle, vereinfachte Workflows und KI-Modelle zur Entwicklung von agentenbasierten Anwendungen.

Die KI-Services, einschließlich Modell-Hosting, automatischer Vektorisierung, Vorverarbeitung unstrukturierter Daten und KI-Agenten-Katalogservices, sollen es Unternehmen ermöglichen, Prototypen von KI-Agenten zu erstellen, zu testen und bereitzustellen, während Modelle und Daten an einem Ort bleiben. Unternehmen könnten so die übermäßigen Latenzen und hohen Betriebskosten vermeiden, die Anwendungsentwicklern bei der Einführung neuer Technologiekomponenten und Workflows oft entstehen, so Couchbase. Teams sei es möglich, agentenbasierte Anwendungen sicher in die Produktion zu bringen, da Entwickler während des gesamten Entwicklungszyklus die Kontrolle über die Daten behielten und Sicherheits- und Datenschutzprobleme von großen Sprachmodellen (LLMs), die außerhalb des Unternehmens laufen, reduziert würden.

Couchbase zufolge hätten viele Unternehmen beim Einsatz von KI Bedenken hinsichtlich Datensicherheit, Datenschutz, Leistung und Latenz sowie steigender Kosten. Zusätzliche Herausforderungen seien die Verwaltung unterschiedlicher Datentypen, komplexe Integrations-Workflows, Sicherheits- und Genauigkeitsrisiken bei LLMs, die Sicherstellung schneller Reaktionszeiten und die Anpassung an sich schnell weiterentwickelnde KI-Tools und -Plattformen.

Die Capella AI Services enthalten:

• Model Services: Bieten verwaltete Endpunkte für führende LLMs und Embedding-Modelle sowie Funktionen wie Prompt- und Konversations-Caching, Guardrails und Schlüsselwortfilterung zur Unterstützung von RAG- und agentenbasierten Workflows. Durch die gemeinsame Organisation von Daten und KI-Modellen könnten Unternehmen Datenschutz- und Latenzanforderungen für RAG-Anwendungen erfüllen – ohne teure private Verbindungen oder komplexe Sonderlösungen.

• Unstructured Data Services: Analysieren, bereinigen, unterteilen und konvertieren unstrukturierte Dokumente in das JSON-Format, um sie für die Vektorisierung vorzubereiten. Gleichzeitig werden strukturierte Informationen aus komplexen Dokumenten extrahiert und in Capella abfragbar gemacht. Entwickler müssten somit keine eigenen Pipelines für die Vorverarbeitung aufbauen.

• Vectorization Services: Automatisieren die Vektorisierung und Indizierung von in Capella gespeicherten Daten. Zusammen mit Capella Model und Unstructured Data Services könnten Entwickler damit schnell eine RAG-Pipeline mit weniger Werkzeugen aufbauen.

• AI Agent Catalog Services: Beschleunigen die Entwicklung von agentenbasierten Anwendungen durch ein zentrales Repository für Tools, Metadaten, Prompts und Audit-Informationen für LLM-Flows, Rückverfolgbarkeit und Governance. Um sicherzustellen, dass der Austausch von Agenten jederzeit konsistent bleibt, ist die Erkennung relevanter Tools zur Beantwortung von Benutzerfragen und verwalteten Guardrails automatisiert.

• Capella AI Functions: KI-gesteuerte Datenanalysen direkt in Anwendungsworkflows mit der vertrauten Syntax von SQL++ würden die Produktivität von Entwicklern verbessern, da weder externe Tools noch benutzerdefinierte Programmierung oder die Verwaltung von Modellimplementierungen erforderlich seien. Die KI-Funktionen von Capella beinhalten eine Zusammenfassung, Klassifizierung, Sentiment-Analyse und Data Masking.

Die Entwicklung von KI-Anwendungen werde beschleunigt, da Entwickler ihre bestehenden Fähigkeiten und Tools wie SQL++ und verschiedene Programmiersprachen nutzen könnten. Zusätzlich würden komplexe KI-Workflows optimiert, gängige KI-Modelle und -Frameworks integriert und die Bereitstellung über mehrere Cloud-Dienste ermöglicht. Dabei, so Couchbase, hätten Entwickler stets die vollständige Kontrolle über Datensicherheit, Leistung und Benutzererlebnisse.

Die Capella AI Services sind als Private Preview verfügbar.

(ID:50278205)