Open-Source-KI im Oktober 2026: 4 Open Source LLMs im Test

Die Landschaft rund um Open-Source-KI zeigt sich im Oktober 2026 grundlegend verändert: Meta, DeepSeek, StepFun und NVIDIA haben zwischen dem 15. und 17. Oktober vier bedeutende Open-Weight-Checkpoints veröffentlicht - Open Source LLMs im allgemeinen Sprachgebrauch, wenngleich nicht alle unter einer echten Open-Source-Lizenz stehen. Ich habe alle vier Modelle am 19. Oktober über die API mit identischen kurzen Aufgaben auf Polnisch getestet. DeepSeek und Nemotron meisterten den Durchlauf vollständig, während Muse Spark Open und Step 5 ihr Token-Budget teils aufbrauchten, ohne eine fertige Antwort auszugeben.

Vier Veröffentlichungen, vier unterschiedliche Ansätze

Muse Spark Open erschien am 15. Oktober von Meta. Am selben Tag gab StepFun die Gewichte für Step 5 Preview frei, nachdem das Modell zuvor ausschließlich per Programmierschnittstelle erreichbar war (ich habe diesen Start der Step 5 Preview API bereits separat analysiert). Ebenfalls am 15. Oktober stellte NVIDIA das multimodale Modell Nemotron 3.5 Super VL bereit. DeepSeek zog am 17. Oktober mit V4.1 Flash 1017 nach, einer Überarbeitung des ursprünglichen V4.1 Flash. Diese zeitliche Staffelung verdeutlicht: Es handelte sich nicht um die synchrone Premiere von vier völlig neuartigen Modellfamilien.

Diese Angaben stammen aus den offiziellen Modell-Repositories mit Stand vom 20. Oktober 2026. StepFun beziffert sein Modell offiziell auf 600B, während die Metadaten 604B ausweisen. Auch die 763B von DeepSeek spiegeln Metadaten wider und dürfen nicht mit der Zahl aktiver Parameter verwechselt werden. Diese Differenzierung ist unerlässlich, um Fehlinterpretationen zwischen Gesamtgröße und den pro Token berechneten Parametern zu vermeiden.

Alle vier Anbieter bewerben Kontextfenster von rund einer Million Token. Hierbei handelt es sich um eine theoretische Obergrenze, nicht um die Zusicherung, dass jedes Setup derart lange Texte mit vertretbarer Latenz verarbeitet. Der Speicherbedarf für ausgedehnte Dialoge addiert sich zum Basisbedarf der Modellgewichte, und der reale Durchsatz sinkt mit parallelen Anfragen drastisch. Mein Test beschränkte sich bewusst auf kurze Prompts und reizte diese Kapazitäten nicht aus.

Open Weights versus Open-Source-KI: Wo die Unterschiede liegen

Frei verfügbare Modellgewichte erlauben es Entwicklern, ein System auf eigener Infrastruktur zu betreiben. Zudem ermöglichen sie Anpassungen im Rahmen der jeweiligen Bestimmungen. Dadurch ändert sich die Abhängigkeit von Drittanbietern: Man muss nicht mehr fürchten, dass ein gehosteter Endpunkt den spezifischen Checkpoint plötzlich abschaltet. Allerdings entfällt damit nicht der operative Aufwand für Hosting, Wartung, Evaluation und Lizenzprüfung.

Auch die Architekturwerte verlangen eine genaue Einordnung. Mixture-of-Experts-Systeme (MoE) aktivieren für die Verarbeitung eines Tokens nur einen Bruchteil ihrer Gesamtparameter. Das reduziert die Rechenlast im laufenden Betrieb erheblich. Dennoch müssen sämtliche Experten im Grafikspeicher vorgehalten werden. Die 42 Milliarden aktiven Parameter von Muse Spark Open machen das System daher keineswegs zu einem kompakten 42B-Download.

DeepSeek verwendet die permissive MIT-Lizenz, welche die Beibehaltung des Urheberrechts- und Haftungshinweises vorschreibt. Meta setzt auf die eigene Muse Model License, die ab einem Jahresumsatz von 20 Millionen USD über zwölf aufeinanderfolgende Monate eine gesonderte Vereinbarung für Model-as-a-Service-Anbieter verlangt. StepFun nutzt ein proprietäres Lizenzmodell: Produkte mit mehr als 100 Millionen monatlich aktiven Nutzern oder über 20 Millionen USD Monatsumsatz müssen den Hinweis „Powered by StepFun AI“ einbinden. Hardwarehersteller sowie große Model-as-a-Service-Betreiber benötigen zudem gesonderte Verträge. NVIDIA wählt OpenMDW 1.1. Wer diese Open-Source-KI-Modelle pauschal als uneingeschränkt kommerziell nutzbar bezeichnet, ignoriert signifikante Fallstricke.

NVIDIA veröffentlicht ergänzend Trainingsskripte und Rezepte. Das erhöht den praktischen Nutzen über den bloßen Download hinaus, garantiert jedoch keineswegs, dass sämtliche Datensätze frei zugänglich oder Trainingsläufe eins zu eins nachvollziehbar sind. Veröffentlichte Gewichte, offengelegte Trainingsbeschreibungen und vollends reproduzierbare Modelle sind drei voneinander getrennte Sachverhalte.

Ergebnisse aus meinem Test auf Polnisch

Am 19. Oktober habe ich allen vier Modellen dieselben 12 Prompts über die API vorgelegt, genau einmal pro Aufgabe (den Versuchsaufbau und die Details finden Sie im Artikel über vier offene Modelle im Polnisch-Test). Die Messung erfolgte bei Temperature 0 mit einem Limit von 6.000 Token für Denkprozess und finale Antwort. Das Aufgabenspektrum umfasste Arithmetik, polnische Grammatik, Extraktion von Rechnungsdaten in valides JSON, eine Prüfsumme sowie die Bestimmung eines Wochentags anhand historischer Daten. Es ging um eine Momentaufnahme für strukturierte Kurzantworten, nicht um einen allumfassenden Intelligenztest.

Sämtliche Fehlversuche resultierten aus leeren Ausgaben, nachdem exakt die Marke von 6.000 Completion-Token erreicht wurde. Muse scheiterte an der simplen Umrechnung von 2,5 Stunden in Sekunden. Step blockierte bei einer Drei-Wort-Anweisung, einer Frage zu den polnischen Woiwodschaften sowie bei einer Rechtschreibkorrektur. Alle nicht leeren Antworten erwiesen sich nach der unten erläuterten Bewertungskorrektur als fehlerfrei.

Eine Bewertungsregel habe ich manuell angepasst: Ursprünglich verlangte das Prüfskript den Infinitiv „wziąć“. Drei Systeme wählten stattdessen die grammatikalisch einwandfreie Befehlsform „Weź parasol, bo na pewno będzie padać“ (auf Deutsch: „Nimm einen Regenschirm, denn es wird sicher regnen“). Die Anerkennung dieser Formulierung verbesserte das Ergebnis für Muse, DeepSeek und Nemotron um jeweils einen Zähler. Step lieferte bei diesem Prompt gar keinen Text.

Die ermittelten Latenzzeiten spiegeln diese spezifischen API-Aufrufe samt Auslastung wider. Einzelne Anfragen liefen womöglich über verschiedene Server-Backends, und jeder Testfall wurde nur einmal ausgeführt. Sie erlauben kein allgemeingültiges Geschwindigkeitsranking und keine Prognose für lokale Hardware. Ebenso wenig lässt eine perfekte Punktzahl Rückschlüsse auf Übersetzungsqualitäten, lange Texte oder Zuverlässigkeit in anderen Sprachen zu.

Lokale KI im Vergleich zu gehosteten APIs

Der Zugriff über eine Programmierschnittstelle erlaubt es, diese Systeme zeitnah zu erproben, ohne vorab kostspielige Rechenknoten konfigurieren zu müssen. Diesen Weg habe ich für meinen Durchlauf gewählt. Eine lokale KI wird dann unverzichtbar, wenn lückenlose Datenkontrolle, deterministische Checkpoints oder kontinuierliche Volllast den Hardwareaufwand rechtfertigen. Ein solcher Entschluss erfordert jedoch eine ganz andere Budgetplanung als ein unverbindlicher API-Test.

Laut Herstellerangaben benötigt Metas Modell für NVFP4 rund 700 GB GPU-Speicher, während BF16 etwa 2 TB verlangt. Die von Meta genannte Mac-Konfiguration stützt sich auf zwei M5 Ultra Mac Studio mit je 512 GB gemeinsamem Arbeitsspeicher. Dabei handelt es sich um eine hochgradig spezialisierte Profi-Umgebung - nicht um ein Indiz dafür, dass das Modell auf einem mobilen Standard-Mac laufen würde.

StepFun verweist in den Dokumentationen für FP8 auf vier B300- oder acht H200-GPUs. NVIDIA führt für Super VL in NVFP4 Setups mit einer DGX Spark, einer H200 oder zwei H100 auf. Das sind die publizierten Spezifikationen der Entwickler, keine Messungen aus meiner eigenen Werkstatt. Quantisierungen und Kontextvorgaben lassen sich bezüglich des Speicherbedarfs keineswegs beliebig austauschen.

• Legen Sie den Checkpoint und das Quantisierungsformat fest, bevor Sie den Speicherbedarf kalkulieren.
• Verwenden Sie die offiziell empfohlene Inferenz-Engine und Prompt-Strukturierung.
• Starten Sie Versuche mit moderaten Kontextfenstern und realistischen Parallelzugriffen.
• Überprüfen Sie JSON-Ausgaben und Tool-Integrationen mit Ihren eigenen Workflows.
• Erweitern Sie Batch-Größen erst, nachdem die reale Systemlast unter Volllast gemessen wurde.

Ein erfolgreicher Ladevorgang garantiert noch keinen stabilen Betrieb. Im laufenden Einsatz müssen Reserven für Kontextzustände und dynamische Berechnungen vorhanden sein. Für diese Veröffentlichungen bedeutet der Begriff lokal zumeist ein dediziertes Server-Rack. Eine Consumer-Grafikkarte mit 24 GB VRAM reicht für diese Schwergewichte nicht aus. Kompaktere Alternativen behandle ich in meiner Übersicht über lokale KI auf dem eigenen Rechner, während mein Test von sieben lokalen Modellen auf der RTX 4090 praxisnahe Leistungswerte für gängige Hardware liefert.

Auswahl passender Modelle für die Praxis

Für knappe Abfragen ähnlich diesem Testszenario stellen DeepSeek und Nemotron auf Basis der Daten die logische Wahl dar. Beide beantworteten jede Aufgabe fehlerfrei. Das rechtfertigt die Aufnahme in eine Evaluierung, reicht für eine Kaufentscheidung jedoch nicht aus - hierfür sind Praxistests mit eigenen Texten und langen Gesprächsverläufen nötig.

Muse Spark Open verlangt eine differenzierte Betrachtung, insbesondere wenn Softwareentwicklung und Funktionsaufrufe im Fokus stehen, die Meta gezielt hervorhebt. Das Scheitern an der einfachen Zeiteinheit zeigt Grenzen des Token-Budgets auf, schmälert aber nicht automatisch den Nutzen für komplexe Agenten-Architekturen. Dasselbe gilt für Step 5: Hier muss stets überwacht werden, ob die interne Reasoning-Kette genügend Spielraum für die finale Antwort lässt.

Für Bildverarbeitung und Dokumentenanalysen bringt Nemotron spezifische Stärken mit. Allerdings basierte die Rechnungsaufgabe in diesem Test rein auf unformatiertem Text; Bilddateien oder Scans kamen nicht zum Einsatz. Herstellerversprechen zu Multimodalität und tatsächlich geprüfte Textaufgaben müssen strikt getrennt bleiben.

Auch API-Kosten erfordern einen genauen Blick. DeepSeek unterscheidet im Preismodell zwischen Cache-Treffern, regulärem Input sowie Spitzen- und Nebenzeiten. Die Kosten eines punktuellen Tests stellen keine universelle Preisliste dar. Wenn ein Modell in Denkzyklen verharrt und das Token-Kontingent ohne fertigen Ausgabetext ausschöpft, schlägt dies dennoch voll zu Buche.

Die vier Vertiefungen dieser Serie

• Muse Spark Open - Metas 816B-Architektur: Hardware-Voraussetzungen, der Mac-Verbund, Lizenzklauseln und die 11/12 im Test.
• DeepSeek V4.1 Flash 1017 - Die Neuerungen, offizielle API-Preise in USD, die Search- und Fetch-APIs sowie das 12/12-Ergebnis.
• Vier offene Modelle im Polnisch-Test - Testmethodik, alle 12 Aufgabenstellungen, Latenzen, Token-Verbrauch und Korrekturdetails.
• Nemotron 3.5 Super VL und Step 5 - Zwei gegensätzliche Betriebsansätze und höchst unterschiedliche Lizenzauflagen.

Weitere herstellerunabhängige Messungen und Analysen finden Sie im Labor dieses Blogs.

Häufige Fragen (FAQ)

Welches Modell hat den Test gewonnen?

DeepSeek und Nemotron belegten mit jeweils 12/12 Punkten den Spitzenplatz in meinem polnischen Kurztest. DeepSeek wies dabei im Mittel die geringere Latenz auf. Dieser Durchlauf kürt jedoch keinen Gesamtsieger für Codierung, Bildanalyse oder englische Fließtexte.

Sind alle vier Modelle uneingeschränkt kommerziell nutzbar?

Die Lizenzbedingungen ermöglichen eine gewerbliche Nutzung, knüpfen diese aber an spezifische Vorgaben. StepFun verlangt gesonderte Lizenzverträge von Hardware-Herstellern sowie von Model-as-a-Service-Anbietern ab 20 Millionen USD Umsatz über zwölf Monate. Eine ähnliche Schwelle von 20 Millionen USD setzt auch Metas Lizenz für MaaS-Dienste an. Prüfen Sie daher genau den jeweiligen Lizenztext.

Verhindert ein höheres Token-Budget leere Antworten?

Ein höheres Budget kann dem Modell ermöglichen, die Argumentationskette abzuschließen, erhöht aber Wartezeit und Rechenkosten. Ein solches Limit sollte in kontrollierten Testläufen evaluiert und nicht unkritisch hochgesetzt werden.

Lassen sich die Testergebnisse auf andere Sprachen übertragen?

Nein, das Ergebnis verdeutlicht lediglich die Notwendigkeit separater Tests. Grammatikalische Strukturen, länderspezifische Begriffe und alternative Schreibweisen unterscheiden sich stark. Eine bloße Übersetzung der Testprompts spiegelt selten denselben Schwierigkeitsgrad wider.