Mobile-Menu

OpenAI kündigt Turbo- und Embedding-Sprachmodelle an LLM- und API-Updates für ChatGPT

Von Stephan Augsten 2 min Lesedauer

Anbieter zum Thema

Fsas Technologies GmbH
BigData-Insider

OpenAI hat neue Embedding-Sprachmodelle sowie Updates für seine Turbo-LLMs angekündigt und beim API-Management nachgebessert. Die Aktualisierungen sollen KI-Anwendungen effizienter, sicherer und kostengünstiger machen.

Auf Basis der API-Schlüssel lassen sich OpenAI-Metriken im Dashboard besser filtern.(Bild: OpenAI)
Auf Basis der API-Schlüssel lassen sich OpenAI-Metriken im Dashboard besser filtern.
(Bild: OpenAI)

Im Falle des GPT-3.5-Turbo-Modells hat OpenAI jüngst Preissenkungen für die Modellnutzung vorgenommen. Der Preis für Eingaben ins neue 0125-Modell wurde um 50 Prozent auf $0,0005 pro 1.000 Token reduziert, der Preis für die Ausgabe um 25 Prozent auf $0,0015 pro 1.000 Token. Das aktualisierte Modell biete zudem eine höhere Genauigkeit bei der Beantwortung von Anfragen in gewünschten Formaten und behebe ein Textkodierungsproblem für nicht-englische Funktionen.

Angekündigt wurde auch das Turbo-Preview-Modell 0125 von GPT-4. Entwicklerinnen und Entwickler erhalten laut OpenAI ein aktualisiertes Modell mit einem kürzeren „Knowledge Cutoff“, größeren Kontextfenstern von 128.000 Tokens und niedrigeren Preisen. Es soll Aufgaben wie die Codegenerierung gründlicher als die vorherige Preview bewältigen und Fälle von „Laziness“, in denen das Modell eine Aufgabe nicht erledigt. Ebenso adressiert das Update Probleme bei der UTF-8-Zeichencodierung für nicht-englische Textgenerierungen.

Zu den Neuerungen gehören außerdem zwei Embedding-Modelle: das text-embedding-3-small und das text-embedding-3-large. Embeddings sind numerische Darstellungen von Text- oder Codeinhalten, die KI-Modellen helfen, Zusammenhänge zwischen verschiedenen Inhalten zu verstehen. Sie kommen beispielsweise bei der Wissensabfrage von ChatGPT und in der Assistants API zum Einsatz.

OpenAI zufolge zeigt das text-embedding-3-small-Modell im Multi-Language Retrieval-Benchmark (MIRACL) und im Massive Text Embedding Benchmark (MTEB) eine verbesserte Leistung im Vergleich zu seinem Vorgängermodell, dem text-embedding-ada-002. Wiederum wurde der Preis für dieses Modell reduziert. Das text-embedding-3-large-Modell, das größere Embeddings mit bis zu 3072 Dimensionen erzeugt, zeige ebenfalls eine bessere Performance. Gleichzeitig wurde das text-moderation-007-Modell wurde aktualisiert, um Entwicklern zu helfen, potenziell problematische Inhalte zu erkennen.

Zwei Verbesserungen im Bereich des API-Managements wurden zusätzlich vorgestellt: Zum einen können Entwickler nun spezifische Berechtigungen für ihre API-Schlüssel festlegen. Ein Beispiel hierfür ist die Zuweisung von schreibgeschütztem Zugriff auf einen Schlüssel, der für ein internes Tracking-Dashboard verwendet wird. Ebenso ist es fortan möglich, einen Schlüssel so einzurichten, dass er nur Zugriff auf bestimmte Endpunkte hat.

Zum anderen hat OpenAI das Dashboard und die Funktion zum Exportieren von Nutzungsdaten verbessert. Nach Aktivierung der Tracking-Option werden Metriken auf Ebene des API-Schlüssels sichtbar. Das ermöglicht es, die Nutzung detailliert nach Funktionen, Teams, Produkten oder Projekten dank separater API-Schlüssel zu filtern. Details zu allen Neuerungen finden sich im OpenAI-Blog.

(ID:49896597)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte