Mobile-Menu

Datenplattform für KI-Agenten Couchbase will KI-Agenten mit weniger Token betreiben

Von Berk Kutsal 1 min Lesedauer

Anbieter zum Thema

Couchbase Germany GmbH
Kestra S.A.S.
QUNIS GmbH
Fivetran Germany GmbH

Couchbase erweitert seine AI Data Plane um eine native Bedrock-Anbindung mit semantischem Caching, verwaltete Dienste für Agentenspeicher und MCP sowie Vektorsuche in Operational Insights. Der Hersteller verspricht bis zu 45 Prozent weniger Token-Verbrauch.

Speicher, Modellzugriff und MCP in einer Schicht: Mit diesem Aufbau will Couchbase die Kosten für KI-Agenten senken.(Bild: Couchbase)
Speicher, Modellzugriff und MCP in einer Schicht: Mit diesem Aufbau will Couchbase die Kosten für KI-Agenten senken.
(Bild: Couchbase)

Wer KI-Agenten produktiv betreibt, zahlt für Token und für die Infrastruktur dahinter, oft verteilt auf getrennte Systeme für Speicher, Vektoren, Betriebsdaten und Analysen. Couchbase setzt an beiden Stellen an und erweitert seine im Juli allgemein verfügbar gemachte AI Data Plane um drei Funktionen, die ab sofort allgemein verfügbar sind.

Bedrock-Modelle direkt neben den Daten

Der Model Service bindet Amazon Bedrock nativ an: serverloser, nach Token abgerechneter Zugriff auf die Foundation Models über private Netzwerke, ohne eigene GPU-Instanzen. Darauf baut semantisches Caching auf, das inhaltlich gleiche Anfragen aus dem Cache beantwortet statt vom Modell.

Agentenspeicher und MCP als Managed Service

Agent Memory und ein MCP-Server, im Juni vorgestellt, laufen jetzt als verwaltete Dienste auf AWS. Agent Memory hält Profile, Gesprächsverläufe und vektorisierte Fakten über Sitzungen hinweg vor, der MCP-Server regelt den Zugriff von Agenten auf Couchbase-Daten. Beide seien frameworkunabhängig und mit LangGraph, CrewAI und LlamaIndex getestet.

Vektorsuche und SQL in einer Abfrage

Operational Insights kombiniert Vektorsuche und SQL in einer Abfrage: Daten lassen sich nach Bedeutung gruppieren und direkt aggregieren, ohne ETL-Strecke. Per Write-back fließen die Ergebnisse zurück in die operativen Daten.

Was die drei Neuerungen zusammen sparen sollen, beziffert Couchbase selbst:

  • Agent Memory: 33 bis 45 Prozent weniger Token, gemessen mit dem Benchmark LoCoMo gegen ungenannte „führende Alternativen“
  • Semantisches Caching: 40 bis 60 Prozent weniger LLM-Aufrufe
  • Vektorbasierter Kontextabruf: 70 Prozent kleinere Prompts als mit vollem Gesprächskontext

Unabhängig prüfen lässt sich das kaum. Wie viel Caching bringt, hängt zudem davon ab, wie oft sich Anfragen in einem Einsatz tatsächlich wiederholen.

(ID:50994476)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte