Neue Funktionen für Entwicklung, Feinabstimmung und Governance Databricks erweitert Mosaic AI für produktionsreife KI-Entwicklungen

Anbieter zum Thema

Databricks Inc.

Board Deutschland GmbH

INFOMOTION GmbH

QUNIS GmbH

Um Kunden bei der Entwicklung produktionsreifer generativer KI-Anwendungen zu unterstützen, bringt Databricks das Mosaic AI Agent Framework, das Mosaic AI Quality Lab, den Mosaic AI Tools Catalog, das Mosaic AI Model Training und das Mosaic AI Gateway auf den Markt.

Unternehmen tun sich schwer damit, generative KI-Projekte aus Datenschutz-, Qualitäts- und Kostengründen von der Pilotphase in die Serienproduktion zu überführen, sagt Databricks. Zwar hätten sich die Basismodelle alle deutlich verbessert, es gebe jedoch noch immer Schwierigkeiten, qualitativ hochwertige Ergebnisse zu erzielen. Die leistungsstärksten Modelle könnten noch immer Antworten liefern, die ungenau oder unsicher sind oder vertrauliche Daten preisgeben. Unternehmen gingen deshalb dazu über, nicht nur ein einziges, großes Modell einzusetzen, sondern zusammengesetzte KI-Systeme zu verwenden. Bei diesem Ansatz kommen mehrere Komponenten zum Einsatz, darunter verschiedene Modelle, Retriever, Vektordatenbanken und Tools für Bewertung, Überwachung, Sicherheit und Governance. Infolgedessen könnten zusammengesetzte KI-Systeme eine viel höhere Produktionsqualität bieten und es Unternehmen ermöglichen, präzisere, sicherere und besser kontrollierte KI-Anwendungen effizient bereitzustellen.

„Wir glauben, dass zusammengesetzte KI-Systeme der beste Weg sein werden, um die Qualität, Zuverlässigkeit und Messung von KI-Anwendungen in Zukunft zu maximieren, und möglicherweise einer der wichtigsten Trends in der KI im Jahr 2024 sein werden“, sagt Matei Zaharia, Mitbegründer und CTO bei Databricks.

Databricks investiert in Mosaic AI in drei Schlüsselbereichen: Unterstützung beim Aufbau zusammengesetzter KI-Systeme, Funktionen zur Verbesserung der Modellqualität und neue KI-Governance-Tools.

Mosaic AI Agent Framework und Mosaic AI Tools Catalog: Entwicklung komplexer KI-Systeme

Databricks führt mehrere neue Funktionen ein, um Kunden bei der Bereitstellung von unternehmensfähigen Compound-AI-Systemen zu unterstützen. RAG ist eine Art von zusammengesetztem KI-System, da es mehrere Komponenten wie eine Vektordatenbank und Tools für die Überwachung, Bewertung, Sicherheit und Governance verwendet, um die Genauigkeit des LLM zu verbessern. Im Mai kündigte Databricks die allgemeine Verfügbarkeit von Mosaic AI Vector Search an, einer serverlosen Vektordatenbank, die nahtlos in die Data Intelligence Platform integriert sei. Mit dem nun angekündigten Mosaic AI Agent Framework sollen Entwickler leicht, schnell und sicher hochwertige RAG-Anwendungen erstellen können, indem sie Basismodelle und ihre Unternehmensdaten verwenden. Sie könnten die Qualität ihrer RAG-Anwendung mit dem KI-gestützten Evaluierungstool Mosaic AI Quality Lab bewerten, schnell iterieren und ihre Anwendung problemlos erneut bereitstellen. Mosaic AI Quality Lab könne automatisch feststellen, ob die Ergebnisse qualitativ hochwertig sind, und biete eine intuitive Benutzeroberfläche, um Feedback von menschlichen Stakeholdern zu erhalten.

Compound-AI-Systeme nutzen häufig Tools als Funktionen, die diese Systeme mit neuen Fähigkeiten ausstatten, um mit der Welt zu interagieren, wie z. B. intelligentes Generieren und Ausführen von Code, Durchsuchen des Internets, Aufrufen von APIs und mehr. Mit Mosaic AI Tools Catalog könnten Unternehmen Tools mit Databricks Unity Catalog verwalten, freigeben und registrieren. Dadurch werde sichergestellt, dass Modelle, die mit Tools ausgestattet sind, diese auf sichere und kontrollierte Weise nutzen können, und dass diese Tools im gesamten Unternehmen auffindbar sind, so Databricks.

Mosaic AI Model Training: Feinabstimmung von Basismodellen

Mit Mosaic AI Model Training könnten Open-Source-Basismodelle mit den privaten Daten eines Unternehmens feinabgestimmt und mit neuem, für den jeweiligen Bereich oder die jeweilige Aufgabe spezifischem Wissen versehen werden. Diese fein abgestimmten Modelle seien vollständig im Besitz und unter der Kontrolle des Kunden und könnten qualitativ hochwertigere Ergebnisse für bestimmte Anwendungsfälle liefern, da sie mit den privaten Daten des Unternehmens für spezielle Aufgaben trainiert wurden. Kleinere Modelle, die durch Model Training feinabgestimmt wurden, seien nicht nur genauer für bestimmte Bereiche, sondern auch schneller und kostengünstiger als größere proprietäre Modelle, da sie weniger Parameter haben und weniger Rechenleistung benötigen.

Mosaic AI Gateway: Governance für GenAI-Anwendungen und -Modelle

Mosaic AI Gateway biete eine einheitliche Schnittstelle zum Abfragen, Verwalten und Bereitstellen beliebiger Open-Source- oder proprietärer Modelle, sodass Kunden die großen Sprachmodelle (LLMs), die ihre Anwendungen antreiben, einfach wechseln könnten, ohne komplizierte Änderungen am Anwendungscode vornehmen zu müssen. Unternehmen könnten nachverfolgen, wer das Modell aufruft, Ratenbeschränkungen einrichten, um die Ausgaben ihrer Unternehmensnutzer zu kontrollieren, und unabhängig vom verwendeten Modell nach Sicherheit und persönlich identifizierbaren Informationen (PII) filtern. Zudem biete die Lösung integrierte Governance- und Überwachungsfunktionen, um die Qualität kontinuierlich zu gewährleisten.

Verfügbarkeit

Mosaic AI Agent Framework, Mosaic AI Quality Lab, Mosaic AI Model Training und Mosaic AI Gateway befinden sich Databricks zufolge in der öffentlichen Vorschau, Mosaic AI Tools Catalog in der privaten Vorschau.

(ID:50065602)