Mobile-Menu

Generative KI für die Entwicklung von Unternehmensanwendungen Open-Access-LLMs von Nvidia, Hugging Face und ServiceNow

Von Bernhard Lück 1 min Lesedauer

Anbieter zum Thema

ServiceNow
NVIDIA GmbH
Fsas Technologies GmbH

Mit StarCoder2 haben Nvidia, Hugging Face und ServiceNow eine Familie von frei zugänglichen großen Sprachmodellen für die Codegenerierung vorgestellt. StarCoder2 sei gemeinsam mit der BigCode-Community entwickelt und in mehr als 600 Programmiersprachen trainiert worden.

StarCoder2 ist das Ergebnis der Zusammenarbeit von drei Partnern.(Bild: Nvidia / Hugging Face / ServiceNow)
StarCoder2 ist das Ergebnis der Zusammenarbeit von drei Partnern.
(Bild: Nvidia / Hugging Face / ServiceNow)

StarCoder2 ist nach Angaben der Partner Nvidia, Hugging Face und ServiceNow auf 619 Programmiersprachen trainiert. Das Large Language Model (LLM) könne noch weiter trainiert und in Unternehmensanwendungen eingebettet werden, um spezielle Aufgaben wie die Generierung von Quellcode für Anwendungen, die Generierung von Arbeitsabläufen oder die Zusammenfassung von Texten durchzuführen. Entwickler könnten die Code-Vervollständigung, die erweiterte Code-Zusammenfassung, die Abfrage von Code-Schnipseln und andere Funktionen nutzen, um Innovationen zu beschleunigen und die Produktivität zu steigern.

StarCoder2 in drei Modellgrößen erhältlich:

  • als 3-Milliarden-Parameter-Modell trainiert von ServiceNow,
  • als 7-Milliarden-Parameter-Modell, trainiert von Hugging Face,
  • als 15-Milliarden-Parameter-Modell, von Nvidia mit Nvidia NeMo erstellt und auf einer beschleunigten Infrastruktur von Nvidia trainiert.

Mit den kleineren Varianten sei es möglich, Rechenkosten zu sparen, da weniger Parameter während der Inferenz weniger Rechenleistung erfordern. Dies gehe nicht zu Lasten der Leistung: Das neue 3-Milliarden-Parameter-Modell entspreche sogar der Leistung des ursprünglichen 15-Milliarden-Parameter-Modells von StarCoder.

(ID:49958115)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte