Ollama-Modellverwaltung: Download, Wechsel, Löschen und Versionskontrolle

Als ich Ollama das erste Mal nutzte, war mir eines nicht klar: Modell-Dateien sind wirklich groß.

Eines Tages meldete die SSD knappen Speicher. Ich öffnete ~/.ollama – über vierzig Gigabyte. Die Frage war sofort da: Wie lösche ich ungenutzte Modelle? Wie wechsle ich Versionen? Wie vermeide ich das nächste Mal?

Dieser Artikel fasst meine Erfahrungen zusammen: die zentralen Ollama-Befehle für Modellverwaltung – von Download und Wechsel bis Löschen und Versionskontrolle. Danach sollten Sie Ihre lokale LLM-Bibliothek souverän verwalten, ohne vom Speicherplatz überrascht zu werden.

Kernbefehle auf einen Blick

Zuerst eine Übersichtstabelle zum Nachschlagen. Im Anschluss gehen wir jeden Befehl im Detail durch.

Diese Tabelle deckt etwa 90 % des täglichen Bedarfs ab. Die Befehle kennen – den Rest ist Kombination.

Modelle herunterladen: Die Versionswahl zählt

Bestimmte Version herunterladen

ollama pull kennen die meisten. Ein Detail wird oft übersehen: Versions-Tags.

# Neueste Version
ollama pull llama3.2:latest

# Bestimmte Parametergröße
ollama pull llama3.1:70b

# Bestimmte Quantisierungsstufe
ollama pull mistral:7b-q4_K_M

Was bedeuten diese Tags?

• latest: Standard-Tag, neueste stabile Version
• 7b, 70b: Parametergröße – größere Zahl bedeutet stärkeres Modell, aber mehr Ressourcenbedarf
• q4_K_M, q3_K_L: Quantisierungsstufe – kleinere Zahl bedeutet kleinere Datei, etwas geringere Präzision

Kurz gesagt: Wählen Sie die Version passend zu Ihrer Hardware.

Hardware-Anforderungen im Überblick

Nicht blind herunterladen – prüfen Sie zuerst Ihre Konfiguration:

Meine Erfahrung: Mit 8 GB RAM läuft ein 7B-Modell gerade noch, aber langsam. Mit 16 GB wird es deutlich angenehmer. 70B-Modelle? Auf Heim-Hardware praktisch nicht realistisch – außer Sie haben zwei RTX 4090.

Batch-Download-Skript

Mehrere Modelle auf einmal? Ein Skript spart Tipparbeit:

#!/bin/bash
# download_models.sh

MODELS=(
  "llama3.2:latest"
  "mistral:7b"
  "qwen2:7b"
  "deepseek-r1:7b"
)

for model in "${MODELS[@]}"; do
  echo "Lade herunter: $model"
  ollama pull "$model"
  echo "---"
done

echo "Alle Modelle heruntergeladen!"

Als download_models.sh speichern und ausführen:

Vultr - Hochleistungs-NVMe-Cloud-Server mit 32 Standorten weltweit, Docker per Klick

Preise ansehen →Anzeige

chmod +x download_models.sh
./download_models.sh

So laden Sie alle benötigten Modelle in einem Durchgang.

Modelle wechseln: GPU nicht leerlaufen lassen

Lokale Modellliste anzeigen

Nach dem Download zuerst prüfen, was vorhanden ist:

ollama list

Die Ausgabe sieht etwa so aus:

NAME                ID              SIZE    MODIFIED
llama3.2:latest     a80c4f17acd5    2.0GB   2 days ago
mistral:7b          f974a74358d6    4.1GB   5 days ago
qwen2:7b            d53d04290064    2.3GB   10 days ago

Bedeutung der Felder:

• NAME: Modellname und Tag
• ID: Eindeutige Kennung (beim Löschen relevant)
• SIZE: Dateigröße – sofort sichtbar, wer Speicher frisst
• MODIFIED: Letzte Änderung – hilft, alte Modelle zu erkennen

Damit erkennen Sie schnell: Welche Modelle nutzen Sie oft, welche können weg?

Bestimmtes Modell ausführen

Wechseln ist einfach – direkt ollama run:

# Standard-Ausführung
ollama run llama3.2

# Mit GPU-Beschleunigung
ollama run llama3.2 --gpu

# Ausführlicher Modus (Ladezeit sichtbar)
ollama run llama3.2 --verbose

Ein Detail: Ist das Modell noch nicht lokal vorhanden, führt ollama run automatisch zuerst pull aus. Sie können also direkt run nutzen, ohne vorher pull.

Aber Vorsicht: Ein gestartetes Modell belegt GPU/CPU dauerhaft, bis Sie es stoppen. Vor dem Wechsel also das laufende Modell beenden.

Laufende Modelle stoppen

Zuerst prüfen, was gerade läuft:

ollama ps

Ausgabe etwa:

NAME        ID              SIZE    PROCESSOR   UNTIL
llama3.2    a80c4f17acd5    2.0GB   100% GPU    4 minutes from now

Läuft ein Modell, stoppen Sie es:

ollama stop llama3.2

Damit steht GPU-Speicher für das nächste Modell bereit.

Ich habe früher oft vergessen, stop aufzurufen – der Rechner wurde immer langsamer. Gute Gewohnheit: Vor dem Wechsel erst ps, dann stop.

Modelle löschen: Der Schlüssel zu mehr Speicherplatz

Einzelnes Modell löschen

Der entscheidende Schritt:

ollama rm llama3.2

Ausgabe:

deleted 'llama3.2'

So einfach. Wichtig: Vor dem Löschen den Modellnamen prüfen – kein Versehen. Am besten vorher ollama list aufrufen.

Railway - Moderne Deployment-Plattform, ohne DevOps-Aufwand, in Minuten live

Jetzt starten →Anzeige

Nach dem Löschen verschwinden Dateien nicht sofort; ein Bereinigungsprozess läuft noch. Wenn der Speicher nicht sofort frei wird, einige Minuten warten.

Batch-Löschskript (mit Whitelist)

Modellbibliothek unübersichtlich, aber ein paar Favoriten sollen bleiben? Ein Skript mit Whitelist:

#!/bin/bash
# cleanup_models.sh

# Whitelist: diese Modelle nicht löschen
KEEP=(
  "llama3.2:latest"
  "mistral:7b"
)

# Alle Modelle ermitteln
ALL_MODELS=$(ollama list | tail -n +2 | awk '{print $1}')

for model in $ALL_MODELS; do
  # Prüfen, ob auf der Whitelist
  keep=false
  for keeper in "${KEEP[@]}"; do
    if [ "$model" == "$keeper" ]; then
      keep=true
      break
    fi
  done

  # Nicht auf Whitelist → löschen
  if [ "$keep" = false ]; then
    echo "Lösche: $model"
    ollama rm "$model"
  else
    echo "Behalte: $model"
  fi
done

echo "Bereinigung abgeschlossen!"

Logik: Alle Modelle auflisten, einzeln prüfen. Whitelist bleibt, der Rest wird entfernt.

Passen Sie das KEEP-Array an Ihre häufig genutzten Modelle an.

Speicherpfad verwalten

Gelöscht, aber Speicher reicht noch nicht? Möglicherweise liegt es am Pfad.

Standard-Speicherorte:

• Windows: C:\Users\<Benutzername>\.ollama\models
• Linux/macOS: ~/.ollama/models

Ist die Systempartition voll, können Sie auf eine andere Partition ausweichen. Umgebungsvariable OLLAMA_MODELS setzen:

# Linux/macOS
export OLLAMA_MODELS=/path/to/your/models

# Windows (PowerShell)
$env:OLLAMA_MODELS="D:\ollama\models"

Neu heruntergeladene Modelle landen im neuen Pfad. Alte Dateien bleiben am bisherigen Ort und müssen manuell verschoben werden.

Mein Rat: Den Pfad von Anfang an richtig setzen – nicht warten, bis der Speicher voll ist. Migration ist mühsam und fehleranfällig.

Versionskontrolle: Strategien gegen Chaos

Typisches Versions-Chaos

Vielleicht kennen Sie das:

llama3.1:latest
llama3.1:8b
llama3.2:latest
llama3.2:1b
llama3.2:3b

Viele Versionen nebeneinander – unklar, welche im Einsatz ist, welche zum Testen diente und welche weg kann.

Drei Regeln gegen Versions-Chaos

1. Tags nach Verwendungszweck

   • latest: tägliche Hauptversion
   • test, dev: Testversionen
   • Nicht zu viele Parametergrößen parallel – eine passende reicht

2. Regelmäßig aufräumen

   • Wöchentlich ollama list prüfen
   • Das Bereinigungsskript oben nutzen, Bibliothek schlank halten

3. Aussagekräftige Namen

   • Bei eigenen Modellen klare Bezeichnungen wählen
   • z. B. myproject-llama3.2, nicht mymodel1, mymodel2

Modelle aktualisieren (inkrementeller Download)

Neue Version verfügbar? Einfach erneut pullen:

ollama pull llama3.2:latest

Gute Nachricht: Ollama lädt nur die Differenz – nicht die gesamte Datei neu. Updates gehen schnell, Bandbreite ist kein Problem.

Eigene Modell-Varianten

Parameter anpassen (z. B. temperature, System-Prompt)? Mit Modelfile:

# Modelfile erstellen
FROM llama3.2
PARAMETER temperature 0.7
SYSTEM """Sie sind ein professioneller Technik-Assistent und antworten prägnant."""

# Eigenes Modell erstellen
ollama create my-tech-assistant -f Modelfile

# Ausführen
ollama run my-tech-assistant

So entsteht eine angepasste Variante. Nicht mehr benötigt? Wie gewohnt mit ollama rm entfernen.

Alibaba Cloud - Top-Wahl für Entwickler, exklusiv 15 % Rabatt auf Lighthouse-Server

15 % Rabatt sichern →Anzeige

Häufige Probleme und Lösungen

Download bleibt bei 99 % hängen

Ein bekanntes Problem: Der letzte Prozentpunkt bewegt sich nicht mehr.

Ursache meist Netzwerkunterbrechung. Lösung:

# Mit Ctrl+C abbrechen
# Erneut pullen
ollama pull llama3.2

Der Fortschritt bleibt erhalten – kein Neustart von vorn. Meist klappt der zweite Versuch.

Nach dem Löschen kein freier Speicher

Modell gelöscht, df -h zeigt weiter voll.

Mögliche Ursachen:

1. Bereinigung noch nicht abgeschlossen – einige Minuten warten
2. Verbleibende Dateien – Pfad manuell prüfen

Manuelle Prüfung:

# Größe des Modellverzeichnisses
du -sh ~/.ollama/models

# Bei großem Verzeichnis genauer hinschauen
ls -lh ~/.ollama/models/blobs/

Verbliebene Dateien manuell löschen.

Modellwechsel schlägt fehl

ollama run meldet Fehler – mögliche Ursachen:

1. Ressourcen knapp: RAM oder VRAM reicht nicht
2. Konfigurationsfehler: Modelfile fehlerhaft

Lösung:

• Mit ollama ps prüfen, ob andere Modelle Ressourcen belegen
• Mit --verbose detaillierte Fehlermeldungen anzeigen
• Bei eigenen Modellen Modelfile-Syntax prüfen

Abschließende Gedanken

Kern sind drei Aktionen: Herunterladen, Wechseln, Löschen. Mit diesen Befehlen und etwas Planung (keine wilden Version-Downloads) bleibt Ihre lokale LLM-Bibliothek übersichtlich.

Als OpenClaw-Nutzer ist Modellverwaltung besonders wichtig – OpenClaw setzt auf Ollama, die Modellversion beeinflusst die Anwendung direkt. Prüfen Sie die Bibliothek regelmäßig und entfernen Sie Ungenutztes.

Bei Fragen: die Übersichtstabelle oben oder das passende Kapitel. Hoffentlich ersparen Ihnen diese Tipps ein paar Stolpersteine.