Strands Decider 2B von AWS im Test: Offenes Entscheidungsmodell

👁 114 Aufrufe

Strands Decider 2B ist ein quelloffenes Entscheidungsmodell von AWS: Statt Fließtext zu generieren, wählt es eine Option aus einer vorgegebenen Liste und liefert einen Konfidenzwert. Es besitzt 2 Milliarden Parameter, steht unter der Apache-2.0-Lizenz, und AWS hat neben den Modellgewichten auch die Trainingsdaten sowie Skripte freigegeben. Ich habe das Modell auf einer RTX 4090 getestet: Es belegte 3,8 GB VRAM und ordnete Kundentickets in 135 ms fehlerfrei zu. Einen umfassenderen Überblick und den Vergleich mit Cloudflare Clef finden Sie im Leitfaden Entscheidungsmodelle in der KI.

Was ist Strands Decider 2B?

Das Modell wurde am 1. Oktober 2026 vom Team Strands Labs bei AWS veröffentlicht (Autoren des Beitrags: Marc Brooker, Mike Chambers und Fabio Nonato de Paula). Der Name leitet sich von Strands Agents ab, dem Open-Source-Framework von AWS zum Erstellen von Agenten. Die wichtigsten Fakten:

• Basis: Qwen3.5-2B-Base. AWS hat den Sprachgenerierungskopf entfernt und durch einen Zeigerkopf (Pointer Head) mit etwas über einer Million Parametern ersetzt, der den Hidden State an der Position jeder Option auswertet.
• Fine-Tuning: Ein LoRA-Adapter mit Rang 16. Auf Hugging Face steht der Checkpoint StrandsAgents/strands-decider-2B-hobson-v19 bereit - der Adapter ist 67 MB groß, das Basismodell lädt sich beim ersten Start automatisch nach (bei mir 4,3 GB).
• Lizenz: Apache-2.0 für Modell, Code und Trainingsrezept; die Basis Qwen3.5-2B-Base steht ebenfalls unter Apache-2.0.
• Offenheit: Im Repository strands-labs/strands-decider finden sich Trainingsskripte, eine Liste von 29 öffentlichen Datensätzen (u. a. BANKING77, CLINC, AG News, HotpotQA) sowie die Rohdaten der Evaluation.
• Installation: Über pip install strands-decider erhalten Sie einen Konsolenbefehl und einen HTTP-Server.
• API: Kompatibel mit dem System-One-Format - demselben Standard, den auch Jev von TypeSafe, Cloudflare Clef und Kev nutzen.

So formulieren Sie Abfragen

Wie jedes Entscheidungsmodell verarbeitet Strands Decider einen Kontextzustand sowie benannte Fragen dreier Typen:

Die Anzahl der Optionen ist nicht begrenzt, da die Labels direkt mit der Abfrage übergeben und nicht fest im Modell verdrahtet sind. Das Ergebnis entsteht in einem einzigen Vorwärtsdurchlauf durch das Netzwerk, ganz ohne autoregressive Generierungsschleife. Der Zustand wird einmal berechnet, und die Fragen werden auf Basis dieses Caches ausgewertet, sodass zusätzliche Fragen die Laufzeit kaum verlängern.

Ergebnisse laut AWS

• JevBench (231 öffentliche Aufgaben): 167 Treffer, entspricht 72,3%. AWS merkt an, dass dies Platz 3 von 33 Modellen in der 2B-Klasse sei - und Platz 1 von 30, wenn man leicht größere Modelle ausklammert.
• Einfache Aufgaben in JevBench: 100% korrekt.
• Latenz: Median von rund 115 ms auf einer RTX 3090, rund 153 ms auf einem MacBook mit M3.
• Interne Testsets: Zwischen 64,1% (kurze Aufgaben, 6.000 Beispiele) und 89,8% (Erkennung unbeantwortbarer Fragen in MuSiQue).

AWS benennt die Einschränkungen offen: Bei komplexen Reasoning-Problemen ist das Modell deutlich schwächer als vollwertige Denkmodelle. Für Code, Chat oder Zusammenfassungen eignet es sich nicht. Die Modellkarte warnt zudem davor, dass das Modell „die Frage schwächer liest als das Dokument“: Bei identischem Zustand und gleichen Optionen führt eine Umformulierung der Frage oft zu keiner Änderung des Ergebnisses. Fragen müssen daher präzise und eindeutig formuliert werden.

Mein Praxistest mit Support-Tickets

Testaufbau: 30 Support-Anfragen, wie sie in einem Onlineshop oder bei einem App-Anbieter eingehen - jeweils 5 pro Kategorie (Zahlungen, Versand, Retouren, Benutzerkonto, Störungen, Vertrieb). Wir haben den Test auf Polnisch durchgeführt; einige Eingaben enthielten Tippfehler und fehlende Sonderzeichen. Zu jedem Fall gab es zwei Fragen: die zuständige Abteilung und ob der Fall noch heute gelöst werden muss. Hardware: RTX 4090, Windows 11, PyTorch 2.11.

• Speicher: 3,8 GB VRAM in der Spitze, Ladezeit des Modells 16 Sekunden.
• Abteilung: Fehlerfrei im polnischen Originaltest. Der einzige Fehler im englischen Durchlauf betraf einen Tarifwechsel während des laufenden Abrechnungszeitraums, den das Modell als Zahlung statt Vertrieb einstufte - derselbe Fall bereitete den meisten getesteten Modellen Schwierigkeiten.
• Dringlichkeit: Hier zeigte sich eine Schwäche bei der Kalibrierung. Die Wahrscheinlichkeit für „Ja“ bei den 6 tatsächlich dringenden Tickets lag zwischen 0,22 und 0,47. Kein Fall überschritt die Marke von 0,5, weshalb das Modell mit dem Standardschwellenwert kein Ticket als dringend markierte. Die relative Rangfolge stimmte jedoch: Mit einem Schwellenwert von 0,4 stieg das Ergebnis auf 26/30.
• Konfidenz bei der Abteilungswahl: Median von 0,86, der niedrigste Wert lag bei 0,31. Zum Vergleich: Das größere Clef-flash erreichte einen Median von 0,97.

Auf derselben Grafikkarte ordnete Gemma 4 12B in Ollama mit erzwungenem JSON ebenfalls 30/30 Tickets korrekt zu, benötigte dafür aber 413 ms; Llama 3.1 8B kam auf 173 ms bei einem Ergebnis von 25/30. Eine Übersicht über acht Modelle finden Sie im Leitfaden zu Entscheidungsmodellen.

Strands Decider oder Cloudflare Clef?

Strands Decider empfiehlt sich, wenn das Modell lokal auf einem Laptop, einem kleinen Server ohne High-End-GPU oder direkt auf der CPU laufen soll - und wenn die Option wichtig ist, das Modell anhand des dokumentierten Trainingsrezepts auf eigene Labels nachzutrainieren. Clef-flash bietet sich an, wenn Ihnen eine 24-GB-GPU zur Verfügung steht oder Sie eine fertige Hosting-Plattform inklusive Bildverarbeitung bevorzugen. Details zum Start von Clef lesen Sie in einem separaten Bericht.

In 3 Schritten starten

1. Installieren Sie PyTorch (mit CUDA, falls Sie eine NVIDIA-GPU nutzen) und anschließend das Paket via pip install strands-decider. Erforderlich ist transformers 5.15 oder neuer.
2. Starten Sie eine Abfrage (Beispiel übersetzt aus dem polnischen Originaltest):

   strands-decider ask StrandsAgents/strands-decider-2B-hobson-v19 \
     --state "Der Paketbote hat das Paket vor die Tür des Nachbarn gelegt und jetzt ist es weg" \
     --choice "Welche Abteilung?=zahlungen,versand,retoure,konto" \
     --noul "Ist der Kunde verärgert?"

3. Starten Sie den Server: strands-decider serve StrandsAgents/strands-decider-2B-hobson-v19 --port 8000 und senden Sie Anfragen an /v1/systemone.

Unter Windows weist die transformers-Bibliothek darauf hin, dass die Pakete flash-linear-attention und causal-conv1d fehlen. Das Modell funktioniert auch ohne sie (die gemessenen 135 ms entstanden in genau diesem Modus), arbeitet dann jedoch etwas langsamer. Der Server lauscht standardmäßig nur auf 127.0.0.1 und bietet keine Authentifizierung - für einen externen Zugriff muss eine eigene Sicherheitskomponente vorgeschaltet werden. Ein vollständiges Anwendungsbeispiel mit Grenzwerten und Übergabe an menschliche Mitarbeiter behandeln wir im Leitfaden zum Ticket-Routing.

Quellen

• Strands Agents: Introducing Strands Decider 2B (01.10.2026)
• Modellkarte auf Hugging Face
• Quellcode auf GitHub
• Eigener Test: 05.10.2026, RTX 4090.

Häufig gestellte Fragen

Wie viel GPU-Speicher benötigt Strands Decider 2B und wie schnell antwortet das Modell?

Das Modell belegt 3,8 GB VRAM auf der Grafikkarte. In unserem Test auf einer RTX 4090 lag der Median der Antwortzeit bei 135 ms. Laut AWS beträgt die mediane Latenz rund 115 ms auf einer RTX 3090 und circa 153 ms auf einem MacBook mit M3-Chip.

Unter welcher Lizenz steht Strands Decider 2B und was hat AWS veröffentlicht?

Strands Decider 2B steht unter der Apache-2.0-Lizenz, die das Modell, den Code sowie das Trainingsrezept umfasst. AWS hat neben den Modellgewichten auch die Trainingsskripte, eine Liste von 29 öffentlichen Trainingsdatensätzen sowie die Rohdaten der Evaluation im Repository strands-labs/strands-decider freigegeben.

Wie präzise arbeitete Strands Decider 2B im Praxistest mit Support-Tickets?

In einem Test mit 30 Support-Anfragen, aufgeteilt auf 6 Abteilungen (getestet mit polnischsprachigen Tickets), ordnete das Modell die Zuständigkeit fehlerfrei zu (30 von 30 Treffern). Bei der Erkennung der Dringlichkeit zeigte sich eine Kalibrierungsschwäche: Mit dem Standard-Schwellenwert von 0,5 wurde kein Fall als dringend eingestuft; eine Absenkung des Grenzwerts auf 0,4 verbesserte das Ergebnis auf 26 von 30.

// weiterlesenWien als Testfeld: Offener 4G/5G-Datensatz für KI-FunknetzeNachrichtenSoziale Nähe wird im Gehirn sekundenlang berechnet, bevor wir uns bewusst entscheidenGeistVitamin-D-Mangel nach Brustkrebs-OP: Warum ein Sonnenvitamin über das Schmerzempfinden entscheidetMedizin

Kinetyra