Microsoft-Decision-1 statt LLM: Kosten für 1 Mio. Klassifikationen

👁 113 Aufrufe

Ein Entscheidungsmodell lohnt sich, wenn die Antwort aus einer festen Liste stammt und täglich Tausende Entscheidungen anfallen. Bei einer Million Klassifikationen ist der Unterschied beträchtlich: Laut Artificial Analysis kosteten am 13.10.2026 eine Million Klassifikationsaufgaben mit den günstigsten Entscheidungsmodellen 10,81-20,37 € (12,1-22,8 USD), mit Claude Haiku 5.5 dagegen 81,77 € (91,5 USD). In meinem Test mit polnischsprachigen Anfragen erreichte eine Kombination aus Microsoft-Decision-1 und Claude Haiku 5.5 für unsichere Fälle dieselbe Trefferquote wie Haiku allein - bei 5,5-mal geringeren Kosten. Hier finden Sie die vollständige Rechnung, einen fertigen Rechner und typische Stolperfallen.

Was ein Entscheidungsmodell ist und welches im Ranking vorne lag, beschreibe ich im Leitfaden KI-Entscheidungsmodelle und im Beitrag zum Decision Index. Hier geht es nur um die Kosten.

Wann sich ein Entscheidungsmodell lohnt

Prüfen Sie fünf Bedingungen. Je mehr davon erfüllt sind, desto größer die mögliche Ersparnis:

• Die Antwort stammt aus einer Liste. Abteilung, Kategorie, Ja oder Nein, eine Bewertung auf einer Skala oder ein Tool-Name. Wenn Sie einen Satz brauchen, kann ein Entscheidungsmodell ihn nicht schreiben.
• Es gibt viele Entscheidungen. Bei 100 pro Tag sparen Sie monatlich nur Centbeträge - ein funktionierendes System umzubauen, lohnt sich dann kaum. Bei 10.000 pro Tag sind es bereits mehrere Hunderttausend Entscheidungen im Monat.
• Alles, was das Modell braucht, steckt im Zustand. Anfrageinhalt, Bestelldaten, Kundenhistorie. Bei Fragen, deren Antwort aus gespeichertem Wissen kommen muss, erreichen Entscheidungsmodelle laut AA 28-41 % Trefferquote, Claude Haiku 5.5 dagegen 52 %.
• Die Geschwindigkeit zählt. Die Medianzeit lag in den Messungen von AA bei 63-500 ms pro Aufgabe, bei kleinen LLMs bei 1,4-1,5 s. Das macht einen Unterschied bei einem Agenten, der in jedem Schritt mehrere Entscheidungen trifft.
• Sie möchten eine Konfidenzschwelle setzen. Ein Entscheidungsmodell gibt die Wahrscheinlichkeit für jede Option aus. Unsichere Fälle lassen sich daher einfach weiterleiten.

Rechnung 1: eine Million Klassifikationen laut Artificial Analysis

Artificial Analysis weist die Kosten für jeden Test einzeln aus. Ein typischer Klassifikationstest ist WildGuardTest: Das Modell bewertet, ob eine Anfrage und ihre Antwort schädlich sind. Kosten für eine Million Aufgaben und Ergebnis (F1) vom 13.10.2026:

Fazit: Decider v1.1 27B und Jev 1.13 klassifizieren hier besser als Claude Haiku 5.5 und kosten 7,6- beziehungsweise 4-mal weniger. Claude Opus 5.5 ist bei dieser Klassifikation nur wenig besser als Haiku, kostet aber 41-mal so viel. Für diese Aufgabe ist ein großes Modell schlicht zu teuer.

Rechnung 2: eine Million polnischsprachige Anfragen im eigenen Test

Am 13.10.2026 ließ ich 50 polnischsprachige Anfragen an einen Shop durch OpenRouter laufen. In einer Anfrage wurden die Abteilung (7 Optionen) und die Dringlichkeit bestimmt. Die Kosten habe ich anhand der OpenRouter-Rechnungen für jede Anfrage ermittelt und auf eine Million Anfragen hochgerechnet. Die Trefferquote berechne ich anhand von 47 eindeutigen Anfragen. Bei drei Anfragen wählten alle Modelle eine andere Abteilung als meine Referenz; Details finden Sie im Leitfaden. Der Test wurde auf Polnisch durchgeführt.

Warum unterscheiden sich die Kosten trotz ähnlicher Tokenpreise?

• Tokenizer. Dieselbe polnischsprachige Anfrage mit Fragen entsprach durchschnittlich 205 Tokens bei Mercury Decide, 280 bei Microsoft-Decision-1 und 650 bei Jev.
• Der LLM-Prompt ist länger. Claude Haiku 5.5 erhielt eine Systemanweisung und ein JSON-Schema: durchschnittlich 782 Eingabe- und 45 Ausgabetokens pro Anfrage. Die Ausgabe kostet fünfmal mehr als die Eingabe.
• Der Anbieter bei OpenRouter. Clef und Clef-Flash liefen über einen günstigeren Anbieter als Cloudflare. Bei Workers AI wäre mehr fällig gewesen.

Kaskade: gleiche Trefferquote zu einem Bruchteil der Kosten

Ein Entscheidungsmodell gibt die Sicherheit seiner ausgewählten Option aus. Der einfachste Ansatz: Bei einer Konfidenz von mindestens 0,8 übernehmen Sie die Antwort, bei einem niedrigeren Wert fragen Sie ein LLM. Ich habe das anhand der Testergebnisse berechnet; Claude Haiku 5.5 (low) war die zweite Stufe:

• Microsoft-Decision-1 mit Haiku für 6 % der unsicheren Fälle erreichte dieselbe Trefferquote wie Haiku allein. Eine Million Anfragen würde 16,27 € (18,2 USD) statt 90,03 € (100,8 USD) kosten - 5,5-mal weniger.
• Jev allein erzielte die wenigsten Treffer (41), seine Konfidenz zeigte Fehler aber zuverlässig an: Nachdem 17 % der unsicheren Fälle an Haiku weitergeleitet wurden, stieg das Ergebnis auf 45.
• Beachten Sie die kleine Testmenge. 47 Anfragen sind wenig, ein Unterschied von einer Anfrage kann Zufall sein. Ermitteln Sie Eskalationsquote und Schwelle anhand von mindestens einigen Hundert eigenen Beispielen.

Rechnung 3: Geschwindigkeit

Geld ist nicht alles. Laut AA beträgt die mediane Aufgabenzeit bei Jev 127 ms und bei Claude Haiku 5.5 (low) 1.434 ms. Eine Million Entscheidungen nacheinander würde bei Jev etwa 35 Stunden, bei Haiku fast 400 Stunden dauern. In der Praxis laufen die Aufgaben parallel, dann zählen aber die Abfragelimits des Anbieters - Perplexity erlaubt beispielsweise 10 Abfragen pro Sekunde je Organisation. Wenn ein Agent in einem Schritt nach Tool, Dringlichkeit und Sicherheit fragt, ist ein Unterschied von 1,3 s pro Entscheidung für die Nutzer spürbar.

Fertiges Skript: Kostenrechner

Tragen Sie Ihre Tokenzahlen und Preise ein. Das Skript berechnet die Kosten für ein Entscheidungsmodell, ein LLM und eine Kaskade. Die Standardwerte sind Durchschnittswerte aus meinem Test (Microsoft-Decision-1 und Claude Haiku 5.5). Ich habe das Skript am 13.10.2026 in einem leeren Ordner mit Python 3.13 geprüft; zusätzliche Bibliotheken sind nicht nötig. Mit den Standardwerten ergibt sich: 10,51 € (11,76 USD) für das Entscheidungsmodell, 89,98 € (100,70 USD) für das LLM und 15,90 € (17,80 USD) für die Kaskade - eine Ersparnis von 82 %.

# Kosten für eine Million Entscheidungen: Entscheidungsmodell, LLM und Kaskade (13.10.2026)
# Aufruf: python kalkulator_decyzji.py   (Python 3.8+, keine zusätzlichen Bibliotheken)

N = 1_000_000          # Anzahl der Entscheidungen
TOK_WEJ_DEC = 280      # Eingabetokens pro Entscheidung im Entscheidungsmodell (selbst messen)
CENA_DEC = 0.042       # USD pro 1 Mio. Eingabetokens (Microsoft-Decision-1; Ausgabe 0 USD)
TOK_WEJ_LLM = 782      # Eingabetokens pro Aufgabe im LLM (Prompt + Schema + Anfrage)
TOK_WYJ_LLM = 45       # Ausgabetokens pro Aufgabe im LLM (JSON + Begründung)
CENA_LLM_WEJ = 0.10    # USD pro 1 Mio. Eingabetokens (Claude Haiku 5.5)
CENA_LLM_WYJ = 0.50    # USD pro 1 Mio. Ausgabetokens (Claude Haiku 5.5)
ESKALACJA = 0.06       # Anteil der Entscheidungen unter der Konfidenzschwelle, die ans LLM gehen


def koszt_dec(n):
    return n * TOK_WEJ_DEC * CENA_DEC / 1e6


def koszt_llm(n):
    return n * (TOK_WEJ_LLM * CENA_LLM_WEJ + TOK_WYJ_LLM * CENA_LLM_WYJ) / 1e6


sam_dec = koszt_dec(N)
sam_llm = koszt_llm(N)
kaskada = koszt_dec(N) + koszt_llm(N * ESKALACJA)
print(f"Entscheidungsmodell:     {sam_dec:8.2f} USD")
print(f"LLM:                     {sam_llm:8.2f} USD")
print(f"Kaskade ({ESKALACJA:.0%} ans LLM):    {kaskada:8.2f} USD")
print(f"Ersparnis durch Kaskade: {sam_llm - kaskada:8.2f} USD ({1 - kaskada / sam_llm:.0%})")

Am einfachsten messen Sie die Tokenzahlen so: Senden Sie 50-100 echte Anfragen und lesen Sie das Feld usage in der API-Antwort aus. OpenRouter gibt dort auch die Kosten in USD zurück.

Versteckte Kosten, die leicht untergehen

• Annotierte Beispiele. Um eine Konfidenzschwelle festzulegen, brauchen Sie einige Hundert Anfragen mit der richtigen Antwort. Das bedeutet mehrere Stunden menschlicher Arbeit.
• Kalibrierung auf Polnisch. In meinem Test lagen die Modelle bei der Dringlichkeit mit Wahrscheinlichkeiten nahe 0,5 oft falsch. Microsoft-Decision-1 erzeugte bei einer Schwelle von 0,5 acht Fehlalarme. 0,5 ist meist keine gute Schwelle. Der Test wurde auf Polnisch durchgeführt.
• Übermäßig selbstsichere Modelle. Laut AA geben alle Entscheidungsmodelle eine höhere Sicherheit an, als ihre Trefferquote rechtfertigt - besonders bei Fragen zu Wissen. Bei Klassifikationen sieht es besser aus, aber prüfen Sie es mit Ihren eigenen Daten.
• Personenbezogene Daten. Jev verarbeitet Daten in den USA. OpenAI und Microsoft bieten eine Verarbeitung in der EU an (OpenAI gegen einen Aufpreis von 10 %). Offene Modelle (Decider, Clef, d1-3B) können Sie selbst betreiben; dann fallen jedoch Kosten für einen GPU-Server an.
• Zwei Systeme statt einem. Eine Kaskade bedeutet zusätzlichen Code, Monitoring und zwei Rechnungen. Bei geringem Volumen kann die Einfachheit eines einzelnen LLM mehr wert sein als die Ersparnis.

Wann Sie beim LLM bleiben sollten

• Sie brauchen eine Textantwort oder eine Begründung für die Entscheidung (Ausnahme: Celeris-1 Decision liefert eine einzeilige Begründung).
• Die Entscheidung hängt von Weltwissen ab, das nicht in der Anfrage steht.
• Die Optionsliste ändert sich ständig oder ist sehr lang und unscharf.
• Es gibt nur wenige Entscheidungen - bei 1.000 pro Monat kostet Claude Haiku 5.5 etwa 0,09 € (0,10 USD).

Häufige Fragen

Was kostet eine Million Klassifikationen mit einem Entscheidungsmodell?

Laut Artificial Analysis kosten die besten Entscheidungsmodelle (Decider v1.1 27B, Microsoft-Decision-1, Mercury Decide, Jev 1.13) 10,81-20,37 € (12,1-22,8 USD), Claude Haiku 5.5 (low) dagegen 81,77 € (91,5 USD). In meinem Test mit kurzen polnischsprachigen Anfragen waren es 3,66-24,39 € (4,1-27,3 USD) gegenüber 90,03 € (100,8 USD).

Ist ein Entscheidungsmodell so genau wie ein LLM?

Bei Klassifikationen und der Tool-Auswahl erreichen die besten Entscheidungsmodelle das Niveau kleiner LLMs oder schneiden besser ab. Bei Fragen zu Weltwissen und komplexem Schlussfolgern sind sie deutlich schwächer.

Was ist eine Modellkaskade?

Ein System, in dem ein günstiges Entscheidungsmodell Fälle mit hoher Konfidenz bearbeitet und den Rest an ein teureres Modell oder einen Menschen weiterleitet. In meinem Test erreichte Microsoft-Decision-1 mit Claude Haiku 5.5 für 6 % der Fälle die Trefferquote von Haiku allein - zu 18 % der Kosten.

Ab wie vielen Entscheidungen pro Tag lohnt sich der Wechsel zu einem Entscheidungsmodell?

Eine allgemeingültige Grenze gibt es nicht. Bei den Kosten aus meinem Test beträgt die Ersparnis pro einer Million Anfragen etwa 65-87 € (73-97 USD). Bei 50.000 Entscheidungen pro Tag (1,5 Millionen pro Monat) wären das etwa 98-130 € (110-145 USD) monatlich. Hinzu kommt eine um ein Mehrfaches kürzere Antwortzeit.

Offenlegung: Jev war mir aus einer früheren Recherche bekannt - im September schrieb ich dafür einen einfachen API-Client. TypeSafe hat diesen Beitrag weder in Auftrag gegeben noch bezahlt. Alle Modelle erhielten im Test dieselben Aufgaben.

Quellen

• Artificial Analysis Decision Index v1.0 (13.10.2026)
• Artificial Analysis: WildGuardTest - Ergebnisse und Kosten (Daten abgerufen am 13.10.2026)
• OpenRouter: Decisions API
• Perplexity: Limits der Decisions API
• Eigener Test: 13.10.2026, 50 Anfragen und 10 Tool-Entscheidungen, 11 Modelle über OpenRouter aus Polen, Kosten: 0,022 USD.

Umrechnung von USD in EUR mit dem EZB-Referenzkurs vom 14.10.2026 (1 EUR = 1,1195 USD). Quelle: EZB. Die EUR-Beträge sind Schätzungen, keine lokalen Checkout-Preise.

// weiterlesenWahrheitssonden in LLMs: Messfehler statt verborgener WahrheitStand der KIKI-Automatisierung: Tools, Kosten und Einstieg im VergleichAnleitungeniPhone 18 Pro Max: 1 TB nutzt QLC statt TLC-SpeicherMagazin

Kinetyra