Mobile-Menu

AI Agent Systems Modulares Engineering für verlässliche KI-Anwendungen

Von Bernhard Lück 2 min Lesedauer

Anbieter zum Thema

Databricks Inc.
Board Deutschland GmbH
INFOMOTION GmbH
QUNIS GmbH

AI Agent Systems wenden das Konzept von Compound AI Systems (CAIS) und die modulare Entwurfstheorie auf die Entwicklung realer KI-Systeme an. Mit dem Databricks Mosaic AI Agent Framework seien Unternehmen in der Lage, solche End-to-End-Systeme zu entwickeln.

AI Agent Systems sind Vertreter eines neuen Paradigmas für die Entwicklung von intelligenten Anwendungen.(Bild: Databricks)
AI Agent Systems sind Vertreter eines neuen Paradigmas für die Entwicklung von intelligenten Anwendungen.
(Bild: Databricks)

Das Mosaic AI Agent Framework könne verwendet werden, um Bewertungskriterien für ein System zu definieren und seine Qualität für die jeweilige Anwendung zu bewerten, so Databricks. Das Mosaic AI Gateway biete Zugriffskontrollen, Ratenbegrenzung, Nutzdatenprotokollierung und entsprechende Leitplanken (Filterung von Systemeingaben und -ausgaben). Das Gateway könne dem Benutzer ein ständiges Monitoring der laufenden Systeme ermöglichen, um Sicherheit, Verzerrungen und Qualität zu kontrollieren.

Die typischen Komponenten eines AI Agent Systems sind:

  • Einbettung von Modellen und Vektordatenbanken (Mosaic AI Vector Search),
  • Funktionsaufruf und Schnittstelle zur Werkzeugnutzung (Mosaic AI Function Calling),
  • Anpassung von LLMs durch Prompting oder Feinabstimmung (MLFlow LLMOps, DSPy on Databricks, Mosaic AI Fine-tuning),
  • Monitoring und Sicherheit (Mosaic AI Gateway).

AI Agent Systems bieten hochwertige Ergebnisse als ein Single-Mode-Basismodell und ermöglichen es KI-Entwicklern, unabhängig überprüfbare Komponenten einzusetzen, die einfacher zu warten und zu aktualisieren sind. Große KI-Anbieter wie OpenAI gehen ebenfalls in diese Richtung – ChatGPT könne z. B. über eine Werkzeugschnittstelle auf das Internet zugreifen, und das neueste Schlussfolgerungsmodell OpenAI o1 habe mehrere interagierende Komponenten in seiner Schlussfolgerungskette.

Large Language Models (LLMs) waren bisher monolithisch aufgebaut. Die Eingabe neuer Trainingsdaten erforderte oft ein vollständiges neues Training des Modells, und die Auswirkungen von Anpassungen waren schwer zu charakterisieren. Infolgedessen waren LLMs unzuverlässige, undurchschaubare Einheiten; es war unklar, wann ihr Output auf gelieferten, überprüften Daten beruhte oder bereits in den Trainingsdaten enthalten war. Aufgrund dieser „Blackbox“-Ausgabe waren sie für Unternehmensanwendungen, die ein hohes Maß an Kontrolle, Zuverlässigkeit und Vorhersagbarkeit für kundenorientierte Anwendungen erfordern, schlecht geeignet.

AI Agent Systems sind Vertreter eines neuen Paradigmas für die Entwicklung von intelligenten Anwendungen. Der Wechsel von monolithischen, nicht verwalteten LLMs zu einem modularen, anpassbaren Ansatz ist eine natürliche Entwicklung, die viele Vorteile mit sich bringt: höhere Zuverlässigkeit, einfachere Wartbarkeit und größere Erweiterbarkeit. Databricks biete die Grundlage, um diese Anwendungen in einer einheitlichen Plattform mit den erforderlichen Überwachungs- und Verwaltungsstrukturen für Unternehmensanforderungen zusammenzufügen. Entwickler, die lernen, diese Tools für ihr Unternehmen zu nutzen, hätten einen deutlichen Vorteil bei der schnellen Erstellung hochwertiger Anwendungen.

(ID:50265229)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte