Mobile-Menu

Sensible Daten im eigenen Netz halten So funktioniert lokale KI-Inferenz mit Gemma 4

Von Thomas Joos 6 min Lesedauer

Anbieter zum Thema

Google Germany GmbH
Fivetran Germany GmbH

Google veröffentlicht mit Gemma 4 eine offene Modellfamilie für den Betrieb auf eigener Hardware. Prompts, Dokumente und Quellcode verbleiben im Unternehmensnetz, Transfers in Drittländer sind nicht mehr notwendig. Die Varianten reichen vom Smartphone bis zur Workstation, der Betrieb funktioniert über Ollama, LM Studio oder vLLM.

Gemma 4 ermöglicht einen sehr effektiven KI-Betrieb, der komplett offline und lokal stattfindet. (Bild: Google)
Gemma 4 ermöglicht einen sehr effektiven KI-Betrieb, der komplett offline und lokal stattfindet.
(Bild: Google)

Seit April 2026 stehen die Gewichte von Gemma 4 unter der Apache-2.0-Lizenz zum Download bereit. Google verabschiedet damit die restriktive Eigenlizenz früherer Gemma-Generationen. Die Familie basiert auf der Forschung zu Gemini 3 und umfasst seit dem Nachschub vom Juni fünf Größen, die technischen Details dokumentiert die Model Card. Für Datenverantwortliche zählt vor allem ein Merkmal. Alle Varianten arbeiten vollständig on-premises, ohne API-Aufruf, ohne Cloud-Konto und ohne Datenabfluss an Dritte.

Die Varianten reichen vom Smartphone bis zur Workstation

Google staffelt die Modellfamilie nach Einsatzort und verfügbarem Speicher. Zum Start gibt es vier Größen, das kompakte Mittelklassemodell folgte zwei Monate danach.

Weiterführende Inhalte