Mixture-of-Experts-Modell für Coding und KI-Agenten Reflection AI kündigt Open-Weight-Modell Beam an

Von Berk Kutsal 1 min Lesedauer

Anbieter zum Thema

Reflection AI hat mit Beam ein textbasiertes KI-Modell für Coding, Schlussfolgern und agentische Aufgaben vorgestellt. Es umfasst 501 Milliarden Parameter, von denen jeweils 23 Milliarden aktiv sind. Die Gewichte sind noch nicht öffentlich verfügbar; ihre Freigabe unter Apache 2.0 sei in Kürze geplant.

Reflection AI stellt Beam mit 501 Milliarden Parametern vor. Die Gewichte des Coding- und Reasoning-Modells sind noch nicht öffentlich verfügbar.(Bild:  Reflection AI)
Reflection AI stellt Beam mit 501 Milliarden Parametern vor. Die Gewichte des Coding- und Reasoning-Modells sind noch nicht öffentlich verfügbar.
(Bild: Reflection AI)

Reflection AI hat sein Sprachmodell Beam vorgestellt. Es richte sich an Aufgaben, bei denen ein Modell Code schreibt, Werkzeuge nutzt und mehrstufige Abläufe bearbeitet. Beam durchlaufe noch abschließende Sicherheitstests und Evaluationen.

501 Milliarden Parameter, 23 Milliarden aktiv

Beam nutzt eine sparse Mixture-of-Experts-Architektur. Von insgesamt 501 Milliarden Parametern sind pro Verarbeitungsschritt 23 Milliarden aktiv. Das Modell wurde laut Reflection mit 23,8 Billionen Tokens vortrainiert und unterstützt ein Kontextfenster von einer Million Tokens.

Die Architektur begrenzt den Rechenaufwand, indem sie nur einen Teil der Experten für die Verarbeitung auswählt. Die Zahl der aktiven Parameter entspricht allerdings nicht der Gesamtgröße des Modells. Sie erlaubt daher für sich genommen keine Aussage darüber, welche Hardware für den Betrieb nötig ist.

Gewichte noch nicht öffentlich verfügbar

Reflection plant, die Modellgewichte unter Apache 2.0 freizugeben. Außerdem kündigt der Anbieter einen technischen Bericht, eine Model Card sowie Werkzeuge für Betrieb, Evaluation und Fine-Tuning an.

Beam ist damit zunächst ein angekündigtes Open-Weight-Modell. Die geplante Freigabe der Gewichte bedeutet nicht, dass auch die Trainingsdaten oder der vollständige Trainingsprozess offengelegt werden.

(ID:50979221)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung