Das Inspur Artificial Intelligence Research Institute hat sein Sprachmodell Yuan 1.0 vorgestellt. Dabei handelt es sich laut Inspur um das größte Sprachmodell der Welt mit 245,7 Milliarden Parametern und fünf Terabyte an Datensätzen.
Menschliche Treffsicherheit bei der Erkennung schriftlicher Inhalte, die von Yuan 1.0 erzeugt wurden.
(Bild: Inspur)
Yuan 1.0 soll sich laut Inspur durch hohe Leistung sowohl beim Zero-Shot- als auch beim Little-Shot-Learning auszeichnen. Zudem kann das Modell Sprachinhalte generieren, die in vielen Fällen nicht von menschlich generierten Inhalten zu unterscheiden sind. Ein wissenschaftliches Paper auf arXiv beschreibt Entwicklung und Optimierung von Yuan 1.0 und entsprechende Testergebnisse.
Wie der Name schon vermuten lässt, handelt es sich bei Yuan 1.0 um ein chinesisches Sprachmodell. Dies erforderte im Vergleich zur englischen Sprache einen einzigartigen Entwicklungsprozess mit spezifischen Herausforderungen. Dazu zählen etwa die Bildung von Token in Sätzen ohne Leerzeichen oder das Fehlen eines qualitativ hochwertigen chinesischen Sprachkorpus als Grundlage. Die nötige Rechenleistung liefert ein dezentrales Lernsystem mit 2.128 GPUs.
Leistungsfähiges Modell
Auf dieser Basis gewann Yuan 1.0 sowohl in ZeroCLUE als auch in FewCLUE für den Chinese Language Understanding Benchmark (CLUE) den ersten Platz. In ZeroCLUE konnte Inspur den bisherigen Rekord um 18,3 Prozent übertreffen. Zudem wurde der erste Platz in sechs Aufgaben errungen: Klassifizierung von Themen aus der wissenschaftlichen Literatur sowie von Nachrichten, Produktklassifizierung, natürlichsprachliche Inferenz, Leseverständnis von Redewendungen und Substantiv-Pronomen-Beziehungen. In FewCLUE konnte Yuan 1.0 die Aufgaben Klassifizierung von Themen aus der wissenschaftlichen Literatur, Produktklassifizierung, Erkennung von Abstracts und Schlüsselwörtern aus der wissenschaftlichen Literatur und Substantiv-Pronomen-Beziehungen für sich entscheiden.
Laut Inspur übertraf das Sprachmodell vor allem beim Leseverständnis von Redewendungen menschliche Fähigkeiten. Zudem ist es besonders leistungsfähig bei der Generierung natürlicher Sprache („Natural Language Generating“, NLG). Es kann beispielsweise schriftliche Inhalte erzeugen, die den Turing-Test bestehen. Menschen konnte nur in weniger als der Hälfte aller Fälle von Yuan 1.0 erstellte Dialoge und Texte von nicht maschinell erzeugten Inhalten unterscheiden. Grundlage für diesen Erfolg sind zahlreiche Optimierungen von Modellarchitektur, Ergebniskalibrierung und Datensatzerstellung. So ermöglicht beispielsweise die Architektur die Berechnung von 245,7 Millionen Parametern mit einer Rechenleistung von 4.095 PetaFLOPS bei einem Lernverlust von 1,64.
Aufklappen für Details zu Ihrer Einwilligung
Stand vom 30.10.2020
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.