Lokale KI: Text-, Bild-, Video- und Musikmodelle auf dem eigenen PC
Lokale KI erlaubt den Betrieb von Text-, Bild-, Video- und Audiomodellen direkt auf der eigenen Hardware ohne Cloud oder Abo. Dieser Hub bündelt gemessene Benchmarks, Hardwareanforderungen und Lizenzprüfungen.
👁 119 Aufrufe
- Für den Einstieg in lokale KI empfiehlt sich Gemma 4 12B für Text, da es mit 72,3 Punkten sogar das kostenpflichtige Claude Haiku 4.5 übertrifft und nur 8 GB VRAM benötigt.
- Z-Image Turbo erstellt ein Bild in 4,2 Sekunden, ist unter Apache 2.0 auch kommerziell nutzbar und belegt bis zu 18 GB VRAM auf der Grafikkarte.
- 13 Aufgaben mit Gemma 4 12B kosten 0,004 USD Strom, während dieselben Aufgaben über die GPT-6 Luna API 0,016 USD kosten - die Grafikkarte amortisiert sich aber erst nach hunderten Betriebsstunden.
Eine lokale KI ermöglicht es Ihnen, modernste generative Modelle für Text, Bilder, Videos und Musik direkt auf der Hardware Ihres eigenen Rechners auszuführen. Sie benötigen dafür weder ein Abonnement noch ein Benutzerkonto, und sämtliche Daten verbleiben vollständig auf Ihrem lokalen System. Wenn Sie eine KI lokal ausführen möchten, hängen Geschwindigkeit und Modellgröße primär vom Videospeicher (VRAM) Ihrer Grafikkarte ab.
Update vom 20. Oktober 2026: Vier neue Open-Weight-Modelle - Muse Spark Open, DeepSeek V4.1 Flash 1017, Step 5 und Nemotron 3.5 Super VL - sind viel zu groß für eine einzelne 24-GB-GPU. Größen, Lizenzen und mein Test: Open-Source-KI im Oktober 2026: 4 Open Source LLMs im Test.
Einen breiteren Vergleich der KI-Video-Generatoren mit meinen Testergebnissen, USD-Preisen und Gratis-Optionen finden Sie hier: KI Video erstellen: Die besten KI-Video-Generatoren im Test.
Stand: 17. Oktober 2026
- Text: Gemma 4 31B erreicht 41-43 tok/s bei 19,2 GB VRAM; für kleinere GPUs bietet sich Gemma 4 12B mit ca. 8 GB VRAM an.
- Bilder: FLUX 3 Image Klein erzeugt ein Bild in 6-7 s bei nur 7,5 GB VRAM-Bedarf.
- Video: Kandinsky 6.0 Lite rendert einen 5-Sekunden-Clip inklusive Ton in rund 2 Minuten unter MIT-Lizenz.
- Musik: ACE-Step 1.5 liefert Gesang mit 95,6 % Worterkennung im Autorentest (MIT-Lizenz).
Die besten lokalen Modelle: Kategoriensieger im Test
Die folgenden Spitzenreiter basieren auf meinen Messungen auf einer Nvidia GeForce RTX 4090 (24 GB VRAM, Intel Core i9-14900KF, 64 GB RAM unter Windows 11). Bei jedem Modell entscheidet die jeweilige Lizenz darüber, ob ein kommerzieller Einsatz rechtlich zulässig ist.
| Kategorie | Modell | Messergebnis | Kommerziell |
|---|---|---|---|
| Text (24 GB GPU) | Gemma 4 31B | 42 tok/s, 19,2 GB VRAM | Ja (Apache 2.0) |
| Text (8-12 GB GPU) | Gemma 4 12B | 72,3 Punkte, ca. 8 GB | Ja (Apache 2.0) |
| Polnische Sprache | Bielik 11B v3 | Geringste Sprachfehler | Ja (Apache 2.0) |
| Bilder | FLUX 3 Klein | 6-7 s, 7,5 GB VRAM | Umsatzlimit |
| Bilder (Tempo) | Qwen-Image 2.1 Turbo | 3-4 s, 16,8-18,6 GB | Nein |
| Bilder (Business) | Z-Image Turbo | 4,2 s pro Bild | Ja (Apache 2.0) |
| Video mit Ton | Kandinsky 6.0 Lite | ca. 2 min pro 5 s | Ja (MIT) |
| Gesang / Song | ACE-Step 1.5 | 95,6 % Worterkennung | Ja (MIT) |
| Sprachsynthese (TTS) | XTTS v2 | 10/15 Aussprachepunkte | Nein |
| Transkription | Whisper large-v3 | Beste offene Erkennung | Ja (MIT) |
Lokale KI in 4 Schritten starten
- Grafikspeicher ermitteln: Öffnen Sie unter Windows den Task-Manager über die Leistungsanzeige für Ihre GPU und prüfen Sie den Wert bei „Dedizierter GPU-Speicher“. Alternativ liefert der Terminal-Befehl
nvidia-smidie genaue VRAM-Kapazität. Diese Kennzahl setzt den Rahmen dafür, welches Modell ohne massive Drosselung geladen werden kann. - Passendes Programm wählen:
- Für Textchats und Dokumentenfragen: LM Studio (grafische Benutzeroberfläche) oder Ollama (Dienst im Terminal und lokaler Server).
- Für eine Weboberfläche im Stil von ChatGPT: Ollama in Verbindung mit Open WebUI.
- Für Bild-, Video- und Musikgenerierung: ComfyUI (modulare Workflows via Node-Interface).
- Für Sprachtranskription: Whisper.
- Startmodell herunterladen: Für reine Textaufgaben empfiehlt sich Gemma 4 12B (ca. 7 GB Downloadgröße). Für Bildgenerierung eignet sich Z-Image Turbo oder FLUX 3 Klein. Nutzen Sie stets verifizierte Quellen wie Hugging Face oder die offizielle Modellbibliothek von Ollama.
- VRAM-Auslastung überprüfen: Bei der Textgenerierung über Ollama zeigt der Terminalbefehl
ollama psden Auslagerungsstatus an. Dort muss „100% GPU“ stehen. Wird auch nur ein kleiner Teil der Modellschichten auf die CPU verschoben, bricht die Generierungsgeschwindigkeit gravierend ein.
Text: Lokales LLM auf der eigenen Grafikkarte betreiben
Ein lokales LLM dient als lokaler Ersatz für Cloud-Assistenten. Lokale Sprachmodelle fassen Dokumente zusammen, übersetzen, beantworten Fachfragen und generieren Programmiercode. Werkzeuge wie Ollama, LM Studio oder reine llama.cpp-Instanzen setzen auf dieselbe technische Basis. Folgende Werte habe ich auf meiner RTX 4090 im Detail erhoben:
| Modell | VRAM | Geschwindigkeit | Autorentest |
|---|---|---|---|
| Gemma 4 31B QAT | 19,2 GB | 41-43 tok/s | 9,5/10 Punkte |
| Qwen 3.8 27B (Q4_K_M) | 17,0 GB | 50 tok/s | 72,2 Punkte |
| Bielik 11B v3 (Q8) | 16,7 GB | 72 tok/s | 64,4 Punkte |
| GPT-OSS 20B | 12,2 GB | 218 tok/s | 52,4 Punkte |
| Gemma 4 12B | ca. 8 GB | 91-104 tok/s | 72,3 Punkte |
| Gemma 4 E4B | 5,4-6,1 GB | 110-129 tok/s | Nicht bewertet |
Die Punktzahlen auf einer Skala von 0 bis 100 stammen aus meinem Schreibtest von sieben Modellen vom 26.09.2026, der durch KI-Juroren ausgewertet wurde. Als Vergleichswert erzielte das kommerzielle Modell Claude Haiku 4.5 in derselben Testreihe 62,7 Punkte. Die Wertung von 9,5/10 für Gemma 4 31B auf der RTX 4090 beruht auf fünf spezifischen Aufgaben. Alle Modelle dieser Tabelle unterliegen der Apache-2.0-Lizenz und sind uneingeschränkt gewerblich nutzbar.
Dateien lokaler Textmodelle nutzen meist das GGUF-Format. Wie sich die Kompressionsstufen in puncto Präzision und VRAM verhalten, erläutert der Leitfaden zur GGUF-Quantisierung von Q4_K_M bis Q8_0.
Bilder: Lokale Bildgeneratoren
Moderne Bildmodelle werden primär über ComfyUI gesteuert. Neuere Architekturen bieten gegenüber klassischem Stable Diffusion eine dramatisch verbesserte Typografie und fehlerfreie Handdarstellungen. Die folgenden Ausführungszeiten habe ich auf meiner RTX 4090 protokolliert:
| Modell | Zeit pro Bild | VRAM-Spitze | Kommerziell |
|---|---|---|---|
| FLUX 3 Image Klein (int8) | 6-7 s (1024×1536) | 7,3-7,5 GB | Umsatzlimit |
| Qwen-Image 2.1 Turbo | 3-4 s | 16,8-18,6 GB | Nein |
| Qwen-Image 2.1 (25 Schritte) | 13-20 s | bis 19 GB | Nein |
| Z-Image Turbo | 4,2 s (1344×768) | bis 18 GB | Ja (Apache 2.0) |
Die Messwerte erfassen die reine Bildberechnung ohne das initiale Laden von der Festplatte, welches beim ersten Durchlauf 10 bis 45 Sekunden zusätzlich beansprucht. Die Messungen zu FLUX 3 Klein und Qwen Turbo erfolgten am 17.10.2026 in ComfyUI 0.41, während Z-Image am 26.09.2026 getestet wurde. Mehr Details zu Qualitätsstufen finden Sie im Artikel über Qwen-Image 2.1 auf der RTX 4090 sowie im Praxisbericht zum Thema KI-Influencerin lokal erstellen.
Video: Offene Videomodelle auf der GPU
Die lokale Generierung von Videosequenzen stellt die höchsten Anforderungen an Ihre Hardware. Auf einer 24-GB-Grafikkarte lassen sich Modelle bis zu einer Größenordnung von rund 15 Milliarden Parametern handhaben. Ein 5-Sekunden-Clip beansprucht je nach Architektur zwischen einer und mehreren Minuten Rechenzeit.
| Modell | Clip und Dauer | Speicher | Kommerziell |
|---|---|---|---|
| Kandinsky 6.0 Lite | 5 s mit Ton, 1:51-2:28 min | 19-20 GB VRAM | Ja (MIT) |
| Kandinsky 6.0 Pro (int8) | 5 s mit Ton, 6:18-6:52 min | 21 GB VRAM + 29 GB RAM | Ja (MIT) |
| Wan 2.2 TI2V 5B | ohne Ton, ca. 1 min (960×544) | bis ca. 20 GB | Ja (Apache 2.0) |
| LTX-Video 13B | 58 s inkl. Ladezeit (Clip 2 s) | Modellgröße 9,6-20,9 GB | Bis 10 Mio. USD Umsatz |
Kandinsky 6.0 wurde am 17.10.2026 getestet. Wan 2.2 habe ich am 27.09.2026 gemessen; dabei musste ComfyUI mit dem Parameter --disable-smart-memory gestartet werden, um drastische Verlangsamungen durch Hintergrundprozesse zu vermeiden. Analysen zu Videopipelines finden Sie im Test zu LTX-Video lokal auf der GPU sowie im Leitfaden für KI-Influencer-Video lokal.
Musik und Stimme: Audio lokal generieren
Zur Bewertung lokaler Song-Generatoren habe ich denselben Text in einem standardisierten Testlauf an vier Modelle übergeben (jeweils drei Durchläufe am 17.10.2026). Die generierten Audiodateien wurden anschließend mit Whisper analysiert, um die exakte Quote verständlich wiedergegebener Wörter zu ermitteln.
ACE-Step 1.5 auf der RTX 4090 generiert einen zweiminütigen Musiktitel in 34 bis 91 Sekunden bei einer VRAM-Spitze von 10,7 bis 20 GB unter einer freien MIT-Lizenz. YuE2 erreicht bei englischsprachigen Texten 100 % Worterkennung, untersagt aber jede geschäftliche Verwertung. MiniMax Music 3 neigt dazu, Ausgaben vorzeitig abzuschneiden. Für Begleitspuren ohne Gesang bietet sich Stable Audio 3 an.
Sprachsynthese (Text-to-Speech)
| Modell | Aussprachewertung | Ressourcen und Dauer | Kommerziell |
|---|---|---|---|
| XTTS v2 | 10/15 Punkte | 3,0 GB VRAM, 17,6 s für 53 s Audio | Nein |
| Piper (Stimme Gosia) | 6/15 Punkte | Reine CPU, 5,8 s für 36 s Audio | GPL-3.0 (Stimme unabh.) |
| Chatterbox Multilingual | 4/15 Punkte (keine Ziffern) | 5,3 GB VRAM, 26,4 s für 33 s Audio | Ja (MIT) |
Im Vergleichstest vom 08.10.2026 erzielte das Cloud-System Eleven v4 die Maximalwertung von 15/15 Punkten. Weitere Höreindrücke finden Sie im separaten KI-Stimmen-Vergleich. Für Transkriptionen bleibt Whisper large-v3 von OpenAI (MIT-Lizenz) das Maß der Dinge.
Hardware: Was läuft auf 8, 12, 16 und 24 GB VRAM?
Der dedizierte Videospeicher entscheidet darüber, ob Modelle vollständig geladen werden können. Auf meinem Testrechner mit 24 GB VRAM habe ich kleinere GPU-Konfigurationen in Ollama simuliert, indem die Anzahl der auf die GPU ausgelagerten Modellschichten exakt auf das Limit von 8, 12 oder 16 GB beschränkt wurde.
| VRAM-Klasse | Textmodelle | Bildgeneratoren | Video und Audio |
|---|---|---|---|
| 8 GB (z. B. RTX 4060) | Gemma 4 E4B vollständig; Gemma 4 12B: 48 tok/s (Sim.) | FLUX 3 Klein knapp (7,5 GB Spitze) | Nicht ausreichend für große Modelle |
| 12 GB (z. B. RTX 4070) | Gemma 4 12B nativer Halt; GPT-OSS 20B: 165 tok/s (Sim.) | FLUX 3 Klein ohne Einschränkung | ACE-Step knapp möglich (ab 10,7 GB) |
| 16 GB (z. B. RTX 4080) | Qwen 3.8 27B: 33,4 tok/s (Sim., 64/65 Schichten) | Z-Image Turbo (Herstellerangabe: 16 GB) | YuE2 knapp ausführbar (13,3-16,3 GB) |
| 24 GB (z. B. RTX 4090) | Gemma 4 31B, Qwen 3.8 27B, Bielik 11B Q8 | Alle Modelle inklusive Qwen Turbo | Kandinsky 6 Lite, Wan 2.2 5B, ACE-Step |
Muss ein Modell auf den normalen Arbeitsspeicher und den Hauptprozessor zurückgreifen, bricht die Generierungsrate dramatisch ein. Nachfolgend meine Messung für Qwen 3.8 27B bei einem Kontextfenster von 4096 Token:
Die reine Speicherbandbreite bestimmt das Ausführungstempo maßgeblich. Die offiziellen Benchmarks aus den llama.cpp-Diskussionen (geprüft am 09.10.2026 anhand von Llama 2 7B Q4_0) verdeutlichen die Abstufungen über verschiedene Hardwareplattformen hinweg:
Auf Apple Silicon teilt sich das System den Arbeitsspeicher dynamisch mit dem Grafikteil. Ein Mac mit 16 GB Unified Memory kann Gemma 4 12B in der Q4-Stufe (7,0 GB) halten; Systeme ab 32 GB bewältigen auch Gemma 4 31B QAT (17,65 GB) und Qwen 3.8 27B. Für Windows-Systeme ohne dedizierte GPU gilt: Während Piper-TTS und minimale LLMs auf der CPU operieren können, erweist sich die reine Prozessorausführung für Bilder und Video als unbrauchbar langsam. Als bei meinem Test von Qwen nur 18 von 66 Schichten auf die CPU ausgelagert wurden, sank die Geschwindigkeit von 46 auf 8,4 tok/s.
Werkzeuge und Programme für lokale KI
Für den produktiven Einsatz existieren spezialisierte Open-Source-Laufzeitumgebungen, die unterschiedliche Workflows abdecken.
Chat mit Modellen im Fenster und integrierte Modellsuche mit Prüfung der Hardwarekompatibilität.
Verwaltung von Textmodellen über das Terminal sowie lokaler API-Server für externe Anwendungen.
ChatGPT-ähnliche Weboberfläche für Ollama-Modelle inklusive Chatverlauf und Dokumentenunterstützung.
Modulare Node-Oberfläche zur Generierung von Bildern, Videos und Musik über Vorlagen und API-Skripte.
Browserbasierte Plattform zur automatisierten Ein-Klick-Installation offener KI-Anwendungen.
Schlanke Desktop-Applikation für unkomplizierte Textchats mit lokalen Sprachmodellen.
Ergänzend dazu fungiert llama.cpp als technischer Unterbau für Ollama und LM Studio. Auf Nvidia-Hardware sollte zwingend der CUDA-Build genutzt werden; in meinen Vergleichsmessungen arbeitete das Vulkan-Backend um den Faktor 1,9 bis 2,6 langsamer. Für eine schlüsselfertige Bereitstellung komplexer Open-Source-Projekte steht mit Pinokio als Ein-Klick-Installer eine browserbasierte Verwaltung zur Verfügung. Einen direkten Systemvergleich zweier Kernwerkzeuge finden Sie im Beitrag Ollama vs. LM Studio im Praxistest.
Lizenzprüfung: Kommerzielle Nutzung und regionale Sperren
Die Bereitstellung offener Modellgewichte impliziert keineswegs uneingeschränkte Nutzungsrechte. Bei einigen Modellen greifen strenge Umsatzobergrenzen oder geografische Ausschlussklauseln.
| Modell | Lizenz | Kommerzielle Nutzung |
|---|---|---|
| Gemma 4, Qwen 3.8, Bielik, GPT-OSS | Apache 2.0 | Ja, uneingeschränkt |
| Z-Image Turbo, Wan 2.2 | Apache 2.0 | Ja, uneingeschränkt |
| Kandinsky 6.0, ACE-Step 1.5, Whisper | MIT | Ja, uneingeschränkt |
| FLUX 3 Image Klein | FLUX Kommunity | Ja, bis 5 Mio. USD Jahresumsatz |
| LTX-2 (Lightricks) | LTX-2 Community | Ja, bis 10 Mio. USD Jahresumsatz |
| Qwen-Image 2.1 / Turbo | Qwen Research | Nein, rein akademisch |
| YuE2 | CC BY-NC 4.0 | Nein, nicht-kommerziell |
| XTTS v2 | Coqui Public Model License | Nein, restriktiv |
| MiniMax H3, HunyuanVideo | Territoriale Ausschlüsse | Nutzung in der EU rechtlich untersagt |
Besondere Aufmerksamkeit erfordern Lizenzen wie jene von MiniMax H3 oder HunyuanVideo: Beide Werke schließen die Europäische Union explizit vom Nutzungsrecht ihrer Gewichte aus. Auch Versionen mit reduzierter VRAM-Anforderung heben diese vertragliche Klausel nicht auf.
Lohnt sich lokale KI? Kosten und Nutzen
Der Betrieb einer lokalen KI verlagert die Ausgaben vollständig von wiederkehrenden Abonnementgebühren hin zu den Hardware-Anschaffungskosten und dem Stromverbrauch. Eine dedizierte Auswertung zu Betriebskosten im Verhältnis zu Token-Preisen bietet die Analyse Lokales KI-Modell oder Cloud-API im Kostenvergleich. Während proprietäre Flaggschiff-Modelle in spezialisierten Disziplinen nach wie vor qualitative Vorteile verbuchen, bietet das lokale Setup uneingeschränkte Datenhoheit, das Ausbleiben externer Filter sowie volle Funktionsfähigkeit im Offline-Zustand.
Alle neuen Anleitungen im Überblick
- Open WebUI mit Ollama einrichten - Vollständige Konfiguration des Weboberflächen-Clients für lokale Sprachmodelle mit Dokumentenunterstützung.
- ACE-Step 1.5 im GPU-Test - Lokaler Musikgenerator mit Gesangssynthese im Leistungstest auf der RTX 4090.
- GGUF-Quantisierung im Vergleich - Messwerte und Qualitätsunterschiede zwischen Q4_K_M, Q6_K und Q8_0 auf realer Hardware.
- Pinokio unter Windows einrichten - Schritt-für-Schritt-Anleitung für den installationsfreien Betrieb lokaler KI-Anwendungen.
- KI-Influencerin lokal generieren - Fünf Modellansätze auf lokaler Hardware zur konsistenten Erstellung fotorealistischer Figuren.
- KI-Influencer-Video lokal rendern - Praxisworkflow zur Berechnung konsistenter Videosequenzen mit Kandinsky und Wan 2.2.
- Ollama vs. LM Studio im Vergleich - Leistungsmessungen, Speicherbedarfe und Bedienkonzepte der beiden führenden LLM-Laufzeitumgebungen.
- LTX-Video lokal ausführen - Videogenerierung mit offenen Modellgewichten auf der hauseigenen Grafikkarte.
Häufig gestellte Fragen (FAQ)
Was versteht man unter einer lokalen KI?
Eine lokale KI ist ein künstliches Intelligenzmodell, das vollständig auf der internen Hardware Ihres Rechners berechnet wird. Die Gewichte des Modells verbleiben auf Ihrem lokalen Speicher, wodurch sämtliche Text-, Bild- oder Sprachberechnungen ohne aktive Internetverbindung und ohne Weitergabe von Daten an Drittanbieter erfolgen.
Welches ist das beste lokale Sprachmodell?
Für Systeme mit 24 GB VRAM erwies sich Gemma 4 31B in meinen Tests mit 42 Token pro Sekunde als leistungsfähigster Allrounder. Auf Grafikkarten mit 8 bis 12 GB VRAM liefert Gemma 4 12B mit 72,3 Testpunkten die ausgewogenste Kombination aus Effizienz und Genauigkeit.
Wie viel Videospeicher (VRAM) ist zwingend erforderlich?
Für einfache Textmodelle genügen 8 GB Videospeicher, während 12 GB einen komfortablen Spielraum für größere Quantisierungen eröffnen. Bildmodelle wie FLUX 3 Klein beanspruchen in Spitzen rund 7,5 GB VRAM, wohingegen vollwertige Videomodelle wie Kandinsky 6 Lite und Audiosysteme ab 16 bis 24 GB Speicher voraussetzen.
Welche Grafikkarte eignet sich am besten für KI-Anwendungen?
Nvidia-Grafikkarten bieten aufgrund der breiten Unterstützung durch das CUDA-Ökosystem die reibungsloseste Kompatibilität. Entscheidend ist neben der reinen Rechenleistung vor allem die Speicherkapazität: Eine ältere RTX 3090 agiert dank ihrer 24 GB VRAM in Benchmark-Auswertungen nur rund 14 % langsamer als eine RTX 4090.
Funktioniert eine lokale KI vollständig offline?
Ja, sobald die Programmdateien sowie die Modellgewichte auf Ihren lokalen Datenträger heruntergeladen wurden, benötigen Programme wie Ollama, LM Studio, ComfyUI oder Whisper keinerlei Internetzugriff mehr. Sämtliche Verarbeitungs- und Eingabedaten verbleiben strikt auf Ihrem System.
Kann man lokale Modelle auf einem Mac betreiben?
Ja, Plattformen wie Ollama, LM Studio und ComfyUI stellen angepasste Versionen für macOS bereit. Durch den gemeinsamen Speicher (Unified Memory) bei Apple-Silicon-Chips können auch größere Modelle geladen werden, wenngleich ein M4 im Durchsatz unterhalb moderner dedizierter Desktop-GPUs operiert.
Ist die Ausführung von KI-Modellen ohne Grafikkarte möglich?
Kompakte Textmodelle sowie schlanke Sprachsynthesizer wie Piper können rein über den Hauptprozessor (CPU) berechnet werden. Für Bildsynthese und Videogenerierung ist der CPU-Modus in der Praxis jedoch drastisch zu langsam.
Sind lokale KI-Programme und Modelle kostenlos?
Die zugrundeliegenden Ausführungsprogramme sowie Open-Weights-Modelle stehen kostenfrei zum Download bereit. Es fallen lediglich die Kosten für Hardwareanschaffung und Stromverbrauch an; bei beabsichtigter kommerzieller Nutzung müssen die jeweiligen Lizenzvereinbarungen gesondert beachtet werden.
Quellen
- Eigene Messungen auf Nvidia RTX 4090 24 GB (Windows 11, Core i9-14900KF, 64 GB RAM): Textmodelle vom 26.09.2026 (llama.cpp CUDA), Hardware-Simulationen vom 03.10.2026 (Ollama 0.35.1), Gemma 4 31B vom 08.10.2026 (Ollama 0.40.1).
- Bild-, Video- und Audiobenchmarks: Messreihen vom 26./27.09.2026 (ComfyUI 0.37) sowie vom 17.10.2026 (ComfyUI 0.41: FLUX 3 Klein, Qwen-Image 2.1 Turbo, Kandinsky 6.0, YuE2, ACE-Step 1.5, MiniMax Music 3, DiffRhythm 2).
- llama.cpp Nvidia-Referenzwerte, Diskussion #15013, geprüft am 09.10.2026.
- llama.cpp Apple-Silicon-Benchmarks, Diskussion #4167, geprüft am 09.10.2026.
- ACE-Step 1.5 Modellkarte (MIT-Lizenz), geprüft am 17.10.2026.
- LTX-2 Community Lizenzbestimmungen, geprüft am 17.10.2026.
- Z-Image Turbo Modellkarte (Apache 2.0), geprüft am 17.10.2026.
- Wan 2.2 TI2V 5B Modellkarte (Apache 2.0), geprüft am 17.10.2026.
- Artificial Analysis Speech-to-Text Benchmark, geprüft am 09.10.2026.
- Testmethode: Wissnox Labor
Geprüft am 17. Oktober 2026.
Häufig gestellte Fragen
Welches lokale KI-Modell ist am besten für die polnische Sprache geeignet?
Im Test vom 26.09.2026 gewann Gemma 4 12B mit 72,3 Punkten knapp vor Qwen 3.8 27B mit 72,2 Punkten. Bielik 11B v3 schreibt das korrekteste Polnisch und kennt polnische Gegebenheiten am besten, führt Anweisungen jedoch schwächer aus.
Funktioniert lokale KI ohne Internetverbindung?
Ja, LM Studio, Ollama, llama.cpp und ComfyUI arbeiten nach dem Modell-Download vollständig offline. Prompts und Dateien verlassen den Computer dabei nicht.
Wie viel VRAM brauche ich für lokale KI-Modelle?
Textmodelle bis 12 Milliarden Parameter in Q4-Komprimierung passen in 8 GB VRAM. Größere Modelle wie Qwen 3.8 27B benötigen 16-24 GB, Bildgeneratoren und Video-Modelle in voller Qualität belegten im Test 16-20 GB.
Wie lange dauert die Videogenerierung mit Wan 2.2 lokal?
Wan 2.2 TI2V 5B benötigt auf einer RTX 4090 etwa 4 Minuten für einen 5-Sekunden-Clip in 720p. Das Modell belegt dabei rund 20 GB VRAM und ist unter Apache 2.0 lizenziert.
More on this from WISSNOX
anleitungen·Lokales KI-Modell oder API: Was kostet AI wirklich?Stromkosten RTX 4090 vs. GPT-6 Luna, Claude Haiku und Opus 5.5 im Vergleich: Wann sich eine Grafikkarte für lokale KI-Modelle rechnet.