Open-Source-KI aus China Moonshot AI veröffentlicht Modell Kimi K2

Von Berk Kutsal 2 min Lesedauer

Anbieter zum Thema

Moonshot AI hat das Sprachmodell Kimi K2 als Open-Source-Modell freigegeben. Es basiert auf einer Mixture-of-Experts-Architektur, verwendet laut Anbieter rund 32 Milliarden aktive Parameter und soll sich für programmatische und agentische Aufgaben eignen.

Kimi K2 reiht sich in eine wachsende Zahl von Open-Source-Modellen ein, die auf hohe Performanz und flexible Einbindung abzielen. Moonshot AI setzt dabei auf Zugänglichkeit und Modularität. Unterstützt wird das Unternehmen unter anderem von Alibaba.(Bild:  Kimi)
Kimi K2 reiht sich in eine wachsende Zahl von Open-Source-Modellen ein, die auf hohe Performanz und flexible Einbindung abzielen. Moonshot AI setzt dabei auf Zugänglichkeit und Modularität. Unterstützt wird das Unternehmen unter anderem von Alibaba.
(Bild: Kimi)

Das von Moonshot AI entwickelte Modell Kimi K2 nutzt eine Mixture-of-Experts-Architektur mit 384 Experten, von denen jeweils zwei pro Inferenz aktiv sind. Die Gesamtzahl der Parameter liegt bei einer Billion. Laut Anbieter beträgt die effektive Parameteranzahl pro Inferenz etwa 32 Milliarden.

Das Kontextfenster ist auf 128.000 Tokens ausgelegt. Für das Training kamen 15,5 Billionen Tokens zum Einsatz. Der Optimierungsprozess basierte auf einem eigenen Verfahren namens MuonClip. Moonshot zufolge ermöglichte dieser eine stabile Skalierung ohne Trainingsabbrüche.

Modellvarianten und Veröffentlichung

Kimi K2 steht in zwei Varianten zur Verfügung:

  • Kimi K2 Base zur Weiterverarbeitung und Forschung
  • Kimi K2 Instruct für anwendungsorientierte, dialogische Szenarien

Beide Modelle wurden unter einer MIT-ähnlichen Lizenz veröffentlicht. Die Gewichte liegen im FP8-Format vor und lassen sich mit Frameworks wie vLLM oder SGLang verwenden. Die API ist mit OpenAI-kompatiblen Schnittstellen ansprechbar. Die Preisangabe für die Nutzung über die API liegt laut Anbieter bei vier Yuan pro Million Input-Tokens (rund 0,48 Euro) und 16 Yuan pro Million Output-Tokens (rund 1,91 Euro).

Herstellerangaben zu Leistungswerten

Moonshot AI nennt in der Projektbeschreibung mehrere Benchmark-Ergebnisse. Demnach habe Kimi K2 bei LiveCodeBench v6 eine Punktzahl von 53,7 Prozent erreicht. Im Test SWE-bench Verified liege der Wert bei 65,8 Prozent. Für den mathematischen Benchmark MATH-500 nennt das Unternehmen eine Leistung von 97,4 Prozent.

Diese Werte stammen aus internen Tests oder von Plattformen mit direktem Bezug zum Anbieter. Eine unabhängige Verifikation der Angaben liegt derzeit nicht vor.

Agentische Nutzung und Tool-Einbindung

Kimi K2 Instruct ist laut Projektbeschreibung für den Einsatz in agentischen Szenarien trainiert. Das Modell kann Aufgaben in Einzelschritte aufteilen und Werkzeuge wie Terminals oder APIs nutzen. Beispielanwendungen umfassen Shell-Befehle, Code-Erzeugung und die Ansteuerung externer Systeme.

Der Zugriff ist über Plattformen wie Cline und OpenRouter möglich. Zusätzlich lassen sich eigene Instanzen auf entsprechender Hardware betreiben, wobei laut Anbieter GPUs der Klasse Nvidia H100 empfohlen werden.

Open-Source-Offensive aus China

Die Veröffentlichung von Kimi K2 ist Teil einer breiter angelegten Open-Source-Strategie chinesischer KI-Anbieter. Moonshot AI wird unter anderem von Alibaba unterstützt und positioniert sich mit dem Modell bewusst als Gegenentwurf zu proprietären Systemen wie GPT-4 oder Claude 3. Die Open-Source-Community zeigte reges Interesse: Innerhalb weniger Tage verzeichnete das Repository mehrere zehntausend Interaktionen.

(ID:50490275)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung