Databricks Dolly 2.0 soll Keimzelle für große Datensätze werden

„Instruction-following LLM“ in neuer Version Databricks Dolly 2.0 soll Keimzelle für große Datensätze werden

28.04.2023 Von Martin Hensel Lesedauer: 1 min |

Anbieter zum Thema

Databricks GmbH

Fujitsu Technology Solutions GmbH

Snowflake Computing GmbH

Fivetran Germany GmbH

Mit Dolly 2.0 hat Databricks ein quelloffenes Large Language Model (LLM) vorgestellt. Hierbei handelt es sich um eine Weiterentwicklung des erst kürzlich veröffentlichten Dolly 1.0, das ChatGPT-ähnliche Interaktivität („Instruction-following“) ermöglicht.

Mit Dolly 2.0 hat Databricks sein quelloffenes LLM weiterentwickelt.
(Bild: Databricks)

Dolly 2.0 ist ein 12-Milliarden-Parameter-Sprachmodell auf Basis der EleutherAI-Pythia-Modellfamilie. Es wurde ausschließlich auf einem neuen, qualitativ hochwertigen Anwendungsdatensatz feinabgestimmt. Letzterer stammt von Databricks-Mitarbeitern, wurde per Crowdsourcing erstellt und ist für den Einsatz in der Forschung sowie kommerzielle Nutzung lizenziert.

Quelloffenes Gesamtpaket

Databricks stellt Dolly 2.0 als Open-Source-Komplettpaket zur Verfügung. Dies schließt den Trainingscode, den Anwendungsdatensatz sowie Modellgewichtung mit ein. Alle Bestandteile sind für den kommerziellen Einsatz geeignet. Unternehmen und Organisationen sollen somit selbst LLMs erstellen und anpassen können, ohne dabei für den API-Zugang bezahlen oder Daten mit Dritten teilen zu müssen. Zudem soll Dolly 2.0 Innovationen fördern, indem Unternehmen auf ihren eigenen Datensätzen und dem vorhandenen Know-how aufbauen.

Der bei Dolly 2.0 mitgelieferte Datensatz könnte auch als Keimzelle für die zukünftige Erstellung großer synthetischer Datensätze dienen, die wiederum leistungsfähigere Sprachmodelle nach sich ziehen. Databricks hat sich deshalb im Gegensatz zu anderen Projekten dazu entscheiden, die Nutzung von Dolly 2.0 und dessen Datasets für Forschung und kommerziellen Einsatz nicht zu beschränken.

Verfügbarkeit

Dolly 2.0 steht ab sofort bereit. Ein Blog-Beitrag liefert zudem ausführliche Informationen rund um das neue Databricks-LLM.

(ID:49330175)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Stand vom 30.10.2020

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.

Merkliste