Gemma 4 lokal auf deinem Computer ausführen, kostenlos, offline und ohne Terminal

Foxl kann Gemma 4 von Google herunterladen und auf deinem Computer ausführen, ganz ohne Terminal. Öffne Konfiguration > Modell & Anbieter, scroll zu Auf diesem Gerät und wähle Herunterladen neben einem Gemma-4-Modell. Foxl lädt das Modell und die Engine, die es ausführt, und sobald in der Zeile Bereit steht, kannst du in Foxl Agent damit chatten, offline, ohne API-Schlüssel und ohne Konto. Das läuft auf Macs mit Apple Chip und auf x64-PCs mit Windows oder Linux.

Über Gemma 4

Gemma 4 ist Googles Familie von Open-Weight-Modellen, veröffentlicht unter der Lizenz Apache 2.0. Du kannst also das Modell selbst herunterladen und auf deiner eigenen Hardware ausführen. Die beiden kleinen, E2B und E4B, sind für normale Computer bemessen. Weil das Modell auf deinem Rechner läuft, muss das, was du ihm schreibst, den Rechner nicht verlassen.

Installation

1. Installiere Foxl auf einem Mac mit Apple Chip oder einem x64-PC mit Windows oder Linux.
2. Öffne Konfiguration > Modell & Anbieter und scroll zu Auf diesem Gerät.
3. Wähle Herunterladen neben Gemma 4 E2B oder Gemma 4 E4B. Der Button zeigt die Größe an. Du kannst den Download pausieren und später fortsetzen, und Foxl prüft die Datei, wenn er fertig ist.
4. Wenn in der Zeile Bereit steht, starte einen Chat. Wenn sonst nichts auf dem Computer einen Chat beantworten kann, wählt Foxl Gemma 4 von selbst aus; andernfalls wähle es im Modellmenü unter dem Eingabefeld.

Ein neuer Chat ohne eingerichtetes Modell bietet denselben Download als KI auf diesem Mac ausführen an (unter Windows und Linux als KI auf diesem Computer ausführen).

Welches Modell passt zu deinem Computer?

• Gemma 4 E2B: ein Download von 3,3 GB, für Computer mit 8 GB Arbeitsspeicher oder mehr.
• Gemma 4 E4B: ein Download von 5,2 GB, für 16 GB oder mehr. Foxl empfiehlt es, wenn der Computer genug Arbeitsspeicher hat.
• Gemma 4 12B: ein Download von 7,0 GB, für 32 GB oder mehr.

Bei einem Modell, für das dein Computer nicht genug Arbeitsspeicher hat, steht Braucht mehr Arbeitsspeicher statt eines Buttons Herunterladen. Jedes Modell liest bis zu 32.768 Tokens Gesprächsverlauf auf einmal, auf einem Computer mit 32 GB Arbeitsspeicher 65.536.

Was es in Foxl kann

Neben dem Beantworten von Chats kann es eine kurze Liste von Tools nutzen: Dateien lesen und schreiben, Shell-Befehle ausführen, Webseiten lesen, wenn du online bist, eine Checkliste führen und sich an frühere Gespräche erinnern. Foxl gibt dem Modell auf dem Gerät weniger Tools als einem Cloud-Modell, damit ein neuer Chat noch in sein Kontextfenster passt. MCP-Server, verbundene Apps, der Browser, Zeitpläne und Subagenten bleiben deshalb den Cloud-Modellen vorbehalten. Auch Foxl Notes kann es nutzen, um Zusammenfassungen zu schreiben.

Prüfen, ob es offline bleibt

Nach dem Download sind das Modell und seine Engine Dateien auf deinem Computer, und Foxl spricht mit der Engine auf dem Computer selbst. Für diese Anleitung haben wir die Netzwerkverbindungen der Engine während jeder Antwort beobachtet, und die einzigen, die sie hatte, gingen zu Foxl auf demselben Computer. Webseiten lesen ist das einzige Tool, das das Internet braucht.

Grenzen

• Es läuft nicht auf Intel-Macs und nicht auf Windows oder Linux auf Arm.
• Es ist ein kleines Modell. Ein großes Cloud-Modell schlägt sich bei langen, schweren Aufgaben besser, und deine anderen Anbieter bleiben im selben Menü.
• Andere offene Modelle stehen nicht in dieser Liste. Für sie verbindet sich Foxl mit Ollama und LM Studio.