Agentic AI AWS stellt sieben Dienste für KI-Agenten vor

Anbieter zum Thema

Amazon Web Services Germany GmbH

Board Deutschland GmbH

INFOMOTION GmbH

QUNIS GmbH

Amazon hat kürzlich innerhalb seines KI-Frameworks Amazon Bedrock mit AgentCore sieben Services für die Bereitstellung und den Betrieb von KI-Agenten vorgestellt. Der Nutzer kann beliebige Frameworks und Modelle nutzen, selbst wenn diese nicht auf Amazon Bedrock angeboten werden.

AgentCore „eliminiert lästige Arbeit mit der Infrastruktur und die Komplexität des Betriebs von KI-Agenten, sodass Entwicklungsteams bahnbrechende agentische Lösungen schneller auf den Markt bringen können“, sagte Swami Sivasubramanian, Vice President für Agentic AI bei Amazon Web Services (AWS). „Statt, dass sie sich auf die Kernfunktionen des Agenten konzentrieren können, müssen Entwickler und KI-Techniker Monate darauf verwenden, die grundlegende Infrastruktur für das Session Management, Identitätsprüfungen, die Speicherverwaltung und die Beobachtbarkeit des Systems zu erstellen und sich zugleich um die Datensicherheit und Compliance kümmern.“

In seinem Blog hat der Manager zahlreiche Aspekte der neuen Ankündigung erläutert. In technischer Hinsicht bewegt sich AgentCore auf dem Niveau von Salesforce Agentforce 3.0, und ein Vergleich könnte sich lohnen.

Sieben Services

Amazon Bedrock AgentCore umfasst sieben Services. Sie sollen im Einzelnen vorgestellt werden:

• „AgentCore Runtime“ stellt Serverless-Umgebungen für Agenten bereit, für kurze Interaktionen mit niedriger Latenz ebenso wie für lange Arbeitslasten bis zu einer Laufzeit von acht Stunden. Dabei werden Sessions strikt voneinander isoliert.

• „AgentCore Memory“ verwaltet Session- und Langzeitspeicher, liefert Modellen relevanten Kontext und unterstützt Agenten dabei, aus vergangenen Interaktionen zu lernen.

• „AgentCore Observability“ überwacht und visualisiert die Ausführungsschritte der Agenten und sammelt Telemetriedaten. Metriken für verschiedene Ressourcen können dank Metadaten-Tagging und Debugging-Filtern leicht verwaltet und visualisiert werden, in Amazon CloudWatch oder – dank OpenTelemetry-kompatiblem Format – auch in anderen Tools.

• „AgentCore Identity“ ermöglicht KI-Agenten den sicheren Zugriff auf AWS-Dienste und Drittanbieter-Tools wie GitHub, Salesforce und Slack. Durch diesen Dienst würden alle Zugriffe von Agenten auf dritte Dienste authentifiziert und autorisiert, so Sivasubramanian; Anmeldeinformationen wie etwa OAuth 2.0 Token werden demnach sicher gespeichert.

• „AgentCore Gateway“ transformiert mit wenigen Zeilen Code bestehende APIs und AWS-Lambda-Funktionen in agententaugliche Tools, die dann über das Model Context Protocol (MCP) einheitlich genutzt werden können.

• „AgentCore Browser“ stellt skalierbare, verwaltete Web-Browser-Instanzen für die automatische Web-Nutzung durch Agenten bereit.

• „AgentCore Code Interpreter“ soll eine isolierte Umgebung zur Ausführung des von Agenten generierten Codes bieten, fungiert also als Sandbox.

Diese Dienste lassen sich laut Sivasubramanian einzeln nutzen, sind aber für den kollektiven Einsatz optimiert. Entwickler sparen sich also die Zeit, die Komponenten zusammenzuführen. AgentCore kann mit quelloffenen wie auch angepassten KI-Agenten-Frameworks zusammenarbeiten. Das soll den Entwicklerteams die Flexibilität verleihen, ihre bevorzugten Werkzeuge beizubehalten, während sie Funktionen für Unternehmensanforderungen wie etwa Security, Compliance oder Skalierbarkeit hinzufügen. Damit sie die sieben Services in ihren vorhandenen Programmcode einbauen können, steht ihnen das AgentCore Software Developer Kit (SDK) zur Verfügung.

Die Neuerungen haben Auswirkungen auf die Nutzung des AWS Marketplace. Nutzer könnten nun in einer neue Kategorie vorgefertigte Agenten und Agentenwerkzeuge, die sie im AWS Marketplace finden, entdecken, kaufen und mit AgentCore Runtime ausführen. Mit nur wenigen Zeilen Code sollen KI-Agenten in der Lage sein, sich abgesichert mit API-basierten Agenten und Werkzeugen aus AWS Marketplace zu verbinden. Dabei helfe ihnen AgentCore Gateway, komplexe Workflows auszuführen, während sie Compliance und Kontrolle aufrechterhalten.

Wirtschaftliche Vorteile

AWS plant offenbar, in den nächsten beiden Jahren weitere 100 Millionen US-Dollar in das AWS Generative AI Innovation Center zu investieren. Es soll seinen Kunden helfen, ihre Produktivität zu erhöhen und die Erfahrungen ihrer Kunden zu verbessern. Sivasubramanian erwähnte auch den deutschen Autohersteller BMW Group: „BMW habe eine KI-Lösung auf AWS erstellt, die die Art und Weise transformiert, wie der Hersteller die Netzwerkprobleme seiner Kunden mit über 23 Millionen. Connected-Fahrzeugen diagnostiziert.”

Amazon ist kein Feind von Meta, ganz im Gegenteil. AWS hat sich mit Meta zusammengetan, um Start-ups dabei zu helfen, KI-Anwendungen auf Metas Sprachmodell Llama zu erstellen. Dabei bieten sie 30 US-Start-ups jeweils bis zu 200.000 US-Dollar in AWS-Währungseinheiten sowie technischen Support durch technische Experten von Meta und AWS an.

Anpassung von Amazon Nova

Neue Anpassungsmöglichkeiten für Amazon Nova sollen es Kunden erlauben, mit höherer Genauigkeit und Flexibilität zu entwickeln. Die Anpassungsoptionen betreffen die KI-Basismodelle Nova Micro, Nova Lite und Nova Pro, die in SageMaker AI zur Verfügung stehen.

Die Anpassungsmöglichkeiten erstrecken sich vom Trainingszyklus, inklusive Vortraining, über das überwachte Feintuning bis hin zur spezifischen Ausrichtung. Die bisher möglichen Optimierungen wie etwa Prompt Engineering oder RAG-Unterstützung reichen nur bis zu einem gewissen Punkt. Doch die Kunden benötigen laut Blog-Autorin Betty Zheng Modelle, die proprietäres Wissen, spezifische Abläufe und Markenanforderungen berücksichtigen. „Geschäftskritische Workflows erfordern Modellanpassung, um eine bestimmte Genauigkeit zu erzielen, ein bestimmtes Kostenniveau einzuhalten und Anforderungen hinsichtlich der Latenz zu erfüllen.“

Die Techniken, die Amazon nun hinsichtlich der Nova-Anpassungen anbiete, stünden als einsatzbereite „Rezepte“ in SageMaker zur Verfügung. Die Bereitstellung erfolge in AMZ Bedrock. Sie unterstütze Inferenz, die sowohl on-demand als auch mit provisioniertem Datendurchsatz erfolgen könne.

(ID:50491701)