Große Sprachmodelle IBM Granite 4.1 Release: Kompakte Open-Source-LLMs für Firmen

Kürzlich hat IBM die jüngste Version 4.1 seiner quelloffenen Sprachmodell-Familie IBM Granite vorgestellt. Diese drei Sprachmodelle sind quelloffen, richten sich aber meist an große Unternehmen. Die bestehenden Begleitmodelle für optische Erkennung, Spracherkennung, Einbettung und Überwachung wurden überarbeitet. Die Lizenz ist Apache 2.0.

Auffällig ist zunächst, dass es sich bei IBM Granite um relativ „kleine“ Sprachmodelle mit drei Milliarden (3B), acht Milliarden. (8B) und 30 Milliarden (30B) Parametern für die Grundlagen und Anweisungen handelt. Die vergleichsweise geringe Größe soll Entwicklern die Einbettung in Unternehmens-KI-Anwendung erleichtern.

Nach Angaben von IBM-Research-Blogger Mike Murphy soll die Leistung dieser 4.1-Modelle dennoch die der Granite-4.0-Modelle übertreffen, insbesondere die des 32B-Mixture of Experts Modells in Granite 4.0. Diesem sei nun das neue 4.1-8B ebenbürtig, bei geringerem Token-Verbrauch.