Ollama vs LM Studio: Was ist besser für lokale KI?

👁 119 Aufrufe

Beim Vergleich Ollama vs LM Studio gilt: Wenn Sie eine grafische Oberfläche bevorzugen, Modelle bequem durchsuchen und Parameter per Schieberegler anpassen wollen, greifen Sie zu LM Studio. Soll das Sprachmodell dagegen unsichtbar im Hintergrund für andere Programme wie Code-Editoren, Automatisierungen oder Weboberflächen arbeiten, ist Ollama die bessere Wahl. Einen umfassenden Überblick über die Möglichkeiten finden Sie in meiner Übersicht über lokale KI-Modelle.

LM Studio vs Ollama: Schnelle Entscheidungshilfe

Beide Programme basieren im Kern auf llama.cpp und können problemlos parallel auf demselben PC installiert werden. Sie blockieren sich nicht, da LM Studio standardmäßig Port 1234 nutzt, während Ollama über Port 11434 kommuniziert. Eine bewährte Praxis ist es, neue GGUF-Dateien in LM Studio auszuprobieren und dauerhaft genutzte Hintergrundmodelle in Ollama laufen zu lassen.

Zwei unterschiedliche Ansätze

LM Studio setzt auf eine vollständige Desktop-Oberfläche: Nach dem Start können Sie Modelle direkt von Hugging Face durchsuchen, herunterladen und starten. Kontextlänge, Schichten auf der Grafikkarte (GPU-Offload) und Eingabe-Templates lassen sich bequem über Schieberegler definieren. Der integrierte lokale Server wird über die Benutzeroberfläche oder per Befehl aktiviert:

lms server start

Ollama ist dagegen als schlanker Dienst konzipiert. Mit einem einfachen Befehl lädt die Software das Modell herunter und startet die Konversation im Terminal:

ollama run gemma4:12b-it-qat

Im Hintergrund läuft dauerhaft ein Server auf Port 11434. Das Modell wird bei der ersten Anfrage in den Speicher geladen und nach einigen Minuten Inaktivität automatisch wieder freigegeben. Seit Juli 2025 bietet Ollama auch eine einfache Chat-App für Windows und macOS an. Wer eine vollwertige Weboberfläche sucht, bindet Ollama an Open WebUI an.

Eigene Messung: Dieselbe GGUF-Datei im direkten Test

Für einen unverfälschten Vergleich habe ich exakt dieselbe Datei gemma-4-12b-it-qat-q4_0.gguf (6,98 GB) in beiden Programmen getestet. In Ollama wurde sie per ollama create eingebunden (entspricht ollama pull gemma4:12b-it-qat), in LM Studio über lms import importiert. Testumgebung: RTX 4090 24 GB, i9-14900KF, 64 GB RAM, Windows 11. Verwendet wurden Ollama 0.40.5 sowie LM Studio 0.4.26 mit llama.cpp CUDA 12 Runtime (Version 2.60.0). Die Testbedingungen:

• Vollständiges Auslagern aller Modellschichten in den VRAM der RTX 4090, Kontextlängen: 4096 und 32.768 Token.
• Drei identische Testprompts mit bis zu 500 Ausgabe-Token bei einer Temperatur von 0,7.
• Geschwindigkeitsmessung als Median über die OpenAI-kompatible Streaming-API vom ersten bis zum letzten Token.
• VRAM-Verbrauch ermittelt über nvidia-smi vor dem Laden und während der aktiven Generierung.

Die Messwerte zeigen folgende Erkenntnisse:

• Ollama war rund 10 % schneller bei kurzem und 16 % schneller bei langem Kontext. Im normalen Chat ist dieser Unterschied kaum spürbar, da beide Werte weit über der menschlichen Lesegeschwindigkeit liegen.
• VRAM-Bedarf bei langem Kontext: Ollama hielt die Belegung stabil bei 8,3 bis 8,4 GB, während LM Studio bei 32.768 Token auf 9,2 GB anstieg (+0,9 GB). Mehr Details zu Speicherstufen und Formaten finden Sie in meiner Analyse zur GGUF-Quantisierung.
• Standardverhalten bei Denkmodellen: In LM Studio war bei Gemma 4 die interne Denkfunktion aktiv, wodurch das 500-Token-Budget für interne Schritte aufgebraucht wurde. Über den API-Parameter "reasoning_effort": "none" lieferte das Modell wieder sofortige Textantworten.
• Ladezeiten: LM Studio lud das Modell in 10,9 s von der internen SSD. Ollama benötigte beim ersten Kaltstart 78,6 s, da das Modellarchiv auf einer externen USB-Festplatte lag; der Folgestart aus dem Systemcache dauerte nur 6,9 s.

Bei früheren Messungen am 3. Oktober 2026 erzielte Ollama 0.35.1 noch 100,8 Tok/s bei 8,3 GB VRAM. Daher habe ich alle Werte am 17. Oktober 2026 unter gleichen Bedingungen mit direkter Auswertung des Token-Streams neu erhoben.

Funktionsumfang und technische Daten

Beide Lösungen bieten breite Betriebssystemunterstützung, unterscheiden sich jedoch im Detail bei Hardware-Backends und Zusatzfeatures:

LM Studio bringt einen integrierten MCP-Client mit, während Ollama Tool-Calls über die API abwickelt. Bei den Windows-Laufzeitumgebungen von Ollama 0.40.5 sind die Bibliotheken für CUDA 12, CUDA 13, ROCm v7.1 und Vulkan direkt im Installationsordner vorhanden.

Speicherbedarf und Installation

Die Installation erfolgt unter Windows wahlweise über die jeweiligen Webseiten oder über den Paketmanager Windows Package Manager:

winget install Ollama.Ollama
winget install ElementLabs.LMStudio

Die reine Programminstallation von Ollama belegt 2,8 GB (inklusive CUDA-Bibliotheken). LM Studio benötigt 1,4 GB für das Hauptprogramm, lädt Runtimes jedoch separat nach (eine CUDA-12-Laufzeitumgebung belegt 162 MB). Mit der Zeit sammeln sich bei LM Studio durch Updates alte Runtimes an: Auf meinem System belegten 21 alte Ordner rund 5,0 GB, die sich im Menü Runtime manuell bereinigen lassen.

Integration in Drittanwendungen

Wenn Sie Sprachmodelle in Ihre Entwicklungsumgebung oder Automatisierungen einbinden möchten, bieten beide Tools Schnittstellen:

• Visual Studio Code: Ollama verfügt über offizielle Erweiterungen für den Editor-Chat. LM Studio lässt sich über die Basis-URL http://localhost:1234/v1 als OpenAI-Endpunkt einbinden.
• n8n: Besitzt einen nativen Ollama-Knoten. Für LM Studio wird der Standard-OpenAI-Knoten mit angepasster URL genutzt.
• Anthropic-kompatible Clients: Beide Werkzeuge stellen Endpunkte bereit, die mit Tools für Anthropic kompatibel sind.
• Vergleich zu Cloud-Diensten: Wie sich der Eigenbetrieb rechnerisch gegenüber Miet-APIs schlägt, zeigt die Kostenübersicht lokale KI vs. API-Kosten. Wenn Sie größere Architekturen lokal berechnen wollen, lohnt sich ein Blick auf meinen Test zu Gemma 4 31B auf der RTX 4090.

Häufige Probleme und Optimierung

• VRAM reicht nicht aus: In LM Studio reduzieren Sie die Schichten über den Schieberegler GPU Offload. In Ollama steuern Sie dies über den Parameter num_gpu. Das Auslagern auf die CPU mindert die Geschwindigkeit erheblich: Bei Gemma 4 12B sank die Leistung bei 3 von 48 CPU-Schichten von 99 auf 48 Tok/s.
• Auslastung prüfen: Ob das Modell vollständig auf der GPU läuft, zeigt bei Ollama der Befehl ollama ps („100% GPU“) und bei LM Studio die Statusleiste sowie das Terminal über lms ps.
• Kontext abschneiden: Beide Programme begrenzen die Kontextlänge standardmäßig. In LM Studio wird dies über das Feld Context Length angepasst, in Ollama über num_ctx oder die Variable OLLAMA_CONTEXT_LENGTH.

Häufig gestellte Fragen (FAQ)

Quellen

• Ollama Releases auf GitHub
• Ollama Repository (MIT-Lizenz)
• Ollama Pricing
• LM Studio Download
• LM Studio Pricing und Bionic
• LM Studio kommerzielle Nutzung
• LM Studio Anthropic API Kompatibilität
• Eigene Messungen auf RTX 4090: Ollama 0.35.1 (3. Oktober 2026), Ollama 0.40.5 und LM Studio 0.4.26 (17. Oktober 2026).

Geprüft am 17. Oktober 2026.

// weiterlesenPinokio: Ein-Klick-Installer für lokale KI im TestAnleitungenTIDE: Wie kleine KI-Modelle durch dynamisches Lehrer-Schüler-Training besser werdenAnleitungenLokales KI-Modell oder API: Was kostet AI wirklich?Anleitungen

Kinetyra