Entscheidungsmodelle vs. kleine LLMs: Kosten und Tempo

👁 112 Aufrufe

Im Decision Index antworten Entscheidungsmodelle drei- bis mehr als zwanzigmal schneller als kleine Sprachmodelle. Claude Haiku 5.5 (low) erzielt jedoch einen höheren Gesamtwert als jedes dieser Modelle. Bei den Kosten gibt es keine einfache Regel: Sie hängen vom jeweiligen Modell ab und davon, wie viele Ausgabetoken Sie beim LLM bezahlen. Hier vergleiche ich Messwerte von Artificial Analysis, API-Preise und eine transparente Rechnung auf Tokenbasis.

Datenstand: 13.10.2026. „Kleine Sprachmodelle“ meint hier günstigere Varianten aus dem Angebot der Anbieter (Haiku, Luna, Flash, Gemma), nicht eine bestätigte Anzahl von Parametern. Was ein Entscheidungsmodell ist und welches Modell im Ranking vorn liegt, erklärt der Überblick KI-Entscheidungsmodelle. Eine Rechnung zu möglichen Einsparungen bei einer Million Klassifikationen und einen Kaskadenrechner finden Sie im separaten Ratgeber Entscheidungsmodell statt LLM. Hier vergleiche ich kleine LLMs direkt mit Entscheidungsmodellen.

Vergleichen Sie zuerst dieselbe Aufgabe

Ein Entscheidungsmodell gibt eine Auswahl und die Wahrscheinlichkeit für jede Option zurück. Im Decision Index erhalten gewöhnliche Sprachmodelle dieselben Aufgaben, müssen ihre Antworten aber in einem vorgegebenen JSON-Format ausgeben. So bearbeiten beide Modelltypen identische Fragen, auch wenn sie die Antwort unterschiedlich erzeugen (AA-Methodik).

Vergleichen Sie deshalb nicht den Decision Index eines Modells mit dem Intelligence Index eines anderen: Das sind unterschiedliche Skalen, auch wenn beide auf der Website von Artificial Analysis erscheinen. Achten Sie außerdem auf die Einstellung beim LLM: Haiku 5.5 in den Varianten low, medium, high, xhigh und max steht bei AA in fünf eigenen Zeilen - mit jeweils anderem Ergebnis, Preis und Zeit.

Wichtig ist auch: Eine korrekte Kategorie ist nicht automatisch eine passende Antwort für den Kunden. Muss Ihr Prozess nach der Entscheidung noch eine Begründung oder Nachricht formulieren, kommt ein weiterer Schritt zur Textgenerierung hinzu. Einen reinen Klassifikator mit einer vollständigen Textantwort zu vergleichen, verändert den Gegenstand der Messung.

Ergebnis, Kosten und Latenz laut AA

Quelle: aktuelles AA-Ranking des Decision Index, abgerufen am 13.10.2026, mit aktivem Vergleich von Sprachmodellen. Enthalten sind alle elf Entscheidungsmodelle des Rankings und ausgewählte kleine LLMs. Der beste Wert jeder Spalte ist fett gedruckt. Bei Gemini handelt es sich um eine Datenlücke, nicht um einen Wert von null.

AA berechnet die Kosten anhand des Tokenverbrauchs und der aktuellen Preise und rechnet die durchschnittlichen Kosten pro Aufgabe anschließend auf eine Million hoch. Bei Entscheidungsmodellen wird nur die Eingabe berechnet, bei LLMs die Eingabe und die Ausgabe. Die Zeit ist der Median der Index-Aufgaben. Die Kosten sind daher kein Preis für „eine Million beliebiger Entscheidungen“, sondern eine Rechnung für einen konkreten Fragensatz.

Was sich aus der Tabelle ablesen lässt:

• Haiku 5.5 (low) erzielt den besten Wert: Das Modell liegt 3,1 Punkte vor Jev, ist laut AA aber etwa elfmal langsamer und 4,4-mal teurer.
• Die Modellkategorie garantiert keinen niedrigeren Preis: Clef kostet mehr als Haiku 5.5 (low) und GPT-6 Luna (low), antwortet aber schneller. Clef-Omni ist teurer als Luna in der Variante non-reasoning.
• Ein größeres LLM ist bei Entscheidungen nicht automatisch besser: Gemma 4 31B mit Reasoning ist in diesem Vergleich am teuersten und am langsamsten, liegt beim Ergebnis aber nur knapp vor Luna (low).
• Die günstigsten Kandidaten: Decider v1.1 27B, Microsoft-Decision-1 und Jev 1.13 liegen laut AA an der Grenze der Wirtschaftlichkeit, also bei einem besonders guten Ergebnis für den jeweiligen Preis.

Die Genauigkeit hängt von der Art der Entscheidung ab

Der höchste Indexwert bedeutet nicht, dass ein Modell in jeder Teilmessung vorn liegt. Laut Analyse von AA punkten LLMs mit Wissen. Führende Entscheidungsmodelle erreichen bei Sicherheitsklassifikationen und Tool-Entscheidungen ähnliche oder bessere Ergebnisse.

Quellen der Werte, abgerufen am 13.10.2026: AA-Diagramme zu AA-Omniscience-Decision, HLE-MultiChoice, When2Call und WildGuardTest. Die letzte Spalte fasst die besten Werte verschiedener Modelle zusammen und beschreibt daher kein einzelnes System. Wie der Index aufgebaut ist und was die einzelnen Tests messen, erläutert mein Beitrag zum Decision-Index-Ranking.

Für die Praxis gilt: Geht es darum, eine Nachricht einer klar beschriebenen Kategorie zuzuordnen oder den nächsten Schritt eines Agenten auszuwählen, ist ein Entscheidungsmodell ein ernst zu nehmender Kandidat. Erfordert eine Entscheidung Wissen, das nicht in der Anfrage steht, hat ein kleines LLM einen deutlichen Vorteil. Das ist eine Orientierung für die Auswahl Ihrer Testfälle, keine Garantie für dieselbe Leistung in Ihrem Unternehmen.

API-Preise: eigene Tabelle, eigene Einheiten

Preisquellen, abgerufen am 13.10.2026: Anthropic, OpenAI, Google, Cloudflare. Die Preise der Entscheidungsmodelle stammen von den jeweiligen Anbietern und sind im Überblick zusammengestellt. Die Haiku- und Luna-Sätze entsprechen den Kosten, die OpenRouter mir für Anfragen im Test am 13.10. berechnet hat. Nicht berücksichtigt sind Cache-Speicher, Mengenrabatte und Aufpreise für die Verarbeitung in der EU.

Beachten Sie bei Gemini 3.8 Flash: Google gibt die Sätze von 0,6699 € (0,75 USD) und 3,3497 € (3,75 USD) bis Ende 2026 an. Prüfen Sie vor einer Kalkulation für das nächste Jahr den aktuellen Preis. Achten Sie bei allen LLMs außerdem darauf, ob Ihre Eingabe die Schwelle für lange Kontexte überschreitet, ab der andere Sätze gelten.

Was kostet eine Million Aufgaben bei klaren Annahmen?

Das ist ein Szenario, kein Benchmark. Ich nehme eine Million Aufrufe mit jeweils 1000 abgerechneten Eingabetoken an. Für LLMs vergleiche ich 50 und 500 abgerechnete Ausgabetoken pro Aufgabe, einschließlich kostenpflichtiger Reasoning-Token. Das ist ein angenommener Verbrauch und keine Prognose zur Antwortlänge eines bestimmten Modells.

Kosten für 1 Mio. Aufgaben in USD =
Eingabetoken pro Aufgabe * Preis pro 1 Mio. Eingabetoken
+ Ausgabetoken pro Aufgabe * Preis pro 1 Mio. Ausgabetoken

Haiku, Variante mit 50 Ausgabetoken:
1000 * 0.10 + 50 * 0.50 = 125 USD

Eigene Berechnungen auf Basis der Preise vom 13.10.2026. Entscheidungsmodelle erzeugen keinen Text; ihre Kosten hängen daher nicht vom Ausgabebudget ab. Die Fettschrift kennzeichnet den niedrigsten Preis im Szenario, nicht den Qualitätsgewinner.

• Bei kurzer Ausgabe sind Haiku und Luna günstiger als Clef in Workers AI. Bei längerer Ausgabe kehrt sich das Verhältnis um.
• Gemini 3.8 Flash ist in dieser Rechnung bei beiden Ausgabebudgets 7,5-mal teurer als Haiku und Luna.
• Wenn zusätzliche Ausgabetoken für eine notwendige Begründung gebraucht werden, kann ein Entscheidungsmodell sie nicht ersetzen. Ein zweites Modell zur Textgenerierung bedeutet einen weiteren Aufruf, dessen Kosten Sie hinzurechnen müssen.

Die Annahme von jeweils 1000 Token ist eine Vereinfachung: Verschiedene Tokenizer zählen denselben Text unterschiedlich. In meinem Test hatte eine polnische Anfrage mit Fragen etwa 205 Token bei Mercury Decide und rund 650 bei Jev. Haiku erhielt mit Anweisung und JSON-Schema durchschnittlich 782 Eingabetoken. Für einen realistischen Vergleich sollten Sie deshalb den vom API gemeldeten Verbrauch erfassen, statt ihn anhand der Nachrichtenlänge zu schätzen.

Latenz: Zeit bis zur fertigen Entscheidung

Bei einer Klassifikation zählt der Moment, in dem die Anwendung den nächsten Schritt ausführen kann. Das erste Zeichen eines beginnenden JSON-Objekts ist noch keine Entscheidung. Die Zeit bis zum ersten Token und die Generierungsgeschwindigkeit ersetzen deshalb keine Messung der vollständigen Antwort.

Mein Test vom 13.10.2026 mit Anfragen aus Polen über OpenRouter, also einschließlich Netzwerkzeit, bestätigt die Tendenz aus AA:

• Entscheidungsmodelle: Median von 310 bis 619 ms; am schnellsten war Clef-Omni, am langsamsten Mercury Decide.
• GPT-6 Luna (low): 1371 ms.
• Claude Haiku 5.5 (low): 1689 ms.
• Gemini 3.8 Flash: In einem separaten API-Test vom 5.10.2026 lag der Median bei 1822 ms für 30 polnische Anfragen. Die Abteilung wurde in 30 von 30 Fällen richtig zugeordnet, die Dringlichkeit in 26 von 30. Das war ein anderer Testsatz an einem anderen Tag; deshalb nehme ich den Wert nicht in die AA-Tabelle auf.

Der Median zeigt die Mitte der Verteilung, nicht die langsamsten Antworten, auf die Nutzer warten. Erfassen Sie in Ihren eigenen Tests auch die langen Antwortzeiten, Fehler und Wiederholungen. Wie viele Stunden eine Million Entscheidungen hintereinander dauern und welchen Einfluss Anfragelimits haben, habe ich im Ratgeber zu den Kosten berechnet.

Genauigkeit auf Polnisch: Kleine LLMs liegen noch knapp vorn

In meinem Test mit 47 eindeutigen polnischen Anfragen ordneten die Entscheidungsmodelle 41 bis 44 Fälle der richtigen Abteilung zu. Claude Haiku 5.5 (low) und GPT-6 Luna (low) lagen bei 45. Bei einer so kleinen Stichprobe ist ein Unterschied von ein bis drei Anfragen kaum mehr als Rauschen. Das Ergebnis passt aber zu AA: Bei einfacher Klassifikation haben kleine LLMs einen leichten Vorteil, der mit mehr Zeit und höheren Kosten einhergeht. Die vollständigen Ergebnisse aller elf Modelle finden Sie im Überblick. Der Test wurde auf Polnisch durchgeführt; er belegt keine Genauigkeit auf Deutsch.

Welche Variante passt zu welchem Einsatz?

• Entscheidungsmodell: Wenn der Schritt mit einem Label oder einer Aktionsauswahl endet und Tausende Entscheidungen anstehen. Testen Sie Kandidaten mit denselben Beispielen und nutzen Sie Wahrscheinlichkeiten, um unsichere Fälle weiterzuleiten.
• Claude Haiku 5.5: Wenn die Entscheidung mit Text oder Wissen außerhalb der Anfrage verbunden werden muss. Die Variante low erzielt in diesem Vergleich den höchsten Wert, antwortet aber mehr als zehnmal langsamer als die schnellsten Entscheidungsmodelle.
• GPT-6 Luna: Höchste Genauigkeit bei Wissensfragen unter den verglichenen Varianten (66,0). In diesem Test wählt das Modell aber praktisch nie „Ich weiß es nicht“ (0,0) und rät daher häufiger. Führen Sie die Varianten low, non-reasoning und Decisions getrennt: Sie haben unterschiedliche Ergebnisse, Kosten und Antwortzeiten.
• Gemini 3.8 Flash: Dafür ist ein eigener, vergleichbarer Test nötig. Mit dem Preis lässt sich ein Szenario berechnen, der fehlende Wert im Decision Index wird dadurch aber nicht ersetzt.

Häufige Fragen

Ist ein Entscheidungsmodell immer günstiger als ein kleines LLM?

Nein. In der AA-Messung kostet Clef 178,12 € (199,4 USD) pro Million Aufgaben und damit mehr als Claude Haiku 5.5 (low) und GPT-6 Luna (low). Entscheidend sind das konkrete Modell, die Länge der Eingabe und die kostenpflichtige Ausgabe.

Bedeutet eine Million Token eine Million Aufgaben?

Nein. Eine Aufgabe verbraucht einige Hundert bis mehrere Tausend Token. Die Kosten für eine Million Aufgaben ergeben sich aus dem Tokenpreis multipliziert mit dem gemessenen oder ausdrücklich angenommenen Verbrauch.

Schneidet Gemini 3.8 Flash im Decision Index schlecht ab?

Dafür gibt es keine Grundlage. Am 13.10.2026 hatte Gemini 3.8 Flash keinen Wert im Index. Eine fehlende Messung ist keine Niederlage.

Ist GPT-6 Luna dasselbe wie GPT-6 Luna Decisions?

Nein. AA führt das Sprachmodell separat auf: low erreicht 55,2 Punkte, non-reasoning 49,6. Die Variante Decisions kommt auf 48,5 Punkte. Jede hat eigene Kosten und Antwortzeiten.

Ist der Indexwert der Prozentsatz korrekter Entscheidungen?

Nein. Er setzt sich aus vier unterschiedlichen Messgrößen zusammen. Wählen Sie für Ihren konkreten Anwendungsfall die passende Teilmessung und testen Sie das Modell mit repräsentativen Daten.

Offenlegung: Jev kenne ich aus einer früheren Recherche. Im September habe ich dafür einen einfachen API-Client für eigene redaktionelle Werkzeuge geschrieben. TypeSafe hat diesen Beitrag weder beauftragt noch bezahlt. Meine Bewertung stützt sich auf unabhängige Messungen von Artificial Analysis und meinen eigenen Test, in dem alle Modelle dieselben Aufgaben erhielten.

Eigene Tests: 13.10.2026 (50 polnische Anfragen, elf Modelle über OpenRouter aus Polen) und 5.10.2026 (30 polnische Anfragen, darunter Gemini 3.8 Flash über die API). Für beide Tests galt: Die Aufgaben waren auf Polnisch; daraus lässt sich keine Leistung auf Deutsch ableiten. Umrechnung der USD-Beträge in EUR mit dem EZB-Referenzkurs vom 14.10.2026: 1 EUR = 1,1195 USD. Quelle: EZB-Referenzkurs. Die umgerechneten Beträge sind Schätzwerte und keine lokalen Checkout-Preise.

// weiterlesenXiaomi MiMo-V2.6 Test: Benchmarks, Kosten und PraxistestBenchmarksOpus 5.5 erstellt Spiel aus einem Satz - Kosten und ErgebnisseBenchmarksIst Canva kostenlos? Free vs Pro und legale Wege zu Pro gratisAnleitungen

Kinetyra