Ein LLM wie Claude oder GPT-6 schreibt Text. Ein Entscheidungsmodell wie Jev wählt aus Optionen, die Sie vorgeben, und gibt zu jeder Option eine Wahrscheinlichkeit zurück. Wer Anfragen zuordnen, klassifizieren oder den nächsten Schritt eines KI-Agenten freigeben will, ist mit einem Entscheidungsmodell meist schneller und behält mehr Kontrolle. Antworten, Zusammenfassungen und Aufgaben über mehrere Schritte bleiben Sache des LLM. Am Preis hängt die Wahl selten: Bei 100.000 Anfragen im Monat kosten alle Varianten in unserer Rechnung weniger als 15 US-Dollar.
Seit TypeSafe Jev Mitte September vorgestellt hat, sind innerhalb von vier Wochen vier weitere Angebote erschienen: Cloudflare Clef, Amazon Strands Decider, die OpenAI Decisions API und Microsoft-Decision-1. Dieser Vergleich beruht auf Herstellerangaben, Stand 12. Oktober 2026. LindenTech hat die Modelle nicht selbst gebenchmarkt; Zahlen aus Herstellertests sind als solche gekennzeichnet.
Jev vs. LLM auf einen Blick
| Frage | Entscheidungsmodell (Jev, Clef, Decision-1) | LLM (Claude, GPT-6) |
|---|---|---|
| Ergebnis | Eine der vorgegebenen Optionen mit Wahrscheinlichkeiten | Frei formulierter Text oder JSON nach eigenem Schema |
| Arbeitsweise | Ein Durchlauf über die Eingabe, die erlaubten Antworten werden bewertet | Die Antwort entsteht Token für Token |
| Konfidenz | Teil der Antwort, je nach Fragetyp | Nicht standardmäßig, muss abgeleitet werden |
| Abrechnung | Nur Eingabetokens | Eingabe- und Ausgabetokens |
| Gut für | Routing, Klassifikation, Prüfregeln, Freigabe des nächsten Agentenschritts | Antworten schreiben, zusammenfassen, Felder extrahieren, Werkzeuge mit Argumenten aufrufen |
| Nicht gedacht für | Texte erzeugen, offene Fragen, Planung über mehrere Schritte | Viele kleine Entscheidungen, bei denen Latenz und gleichbleibende Antworten zählen |
Was ein Entscheidungsmodell anders macht
Ein Entscheidungsmodell bekommt einen Zustand, etwa eine Kundenmail, und typisierte Fragen. Jev kennt drei Fragetypen: Choice wählt eine Option aus einer Liste, Score bewertet auf einer Skala und Noul schätzt die Wahrscheinlichkeit, dass eine Aussage zutrifft. Die Jev-Dokumentation beschreibt, dass alle Fragen einer Anfrage parallel und unabhängig voneinander gegen denselben Zustand ausgewertet werden.
Eine Anfrage im Jev-Format sieht so aus. Clef von Cloudflare versteht dasselbe Format:
{
"state": "Seit einer Stunde schlägt der Checkout für alle Kunden fehl.",
"questions": {
"urgent": { "type": "noul", "instructions": "Ist diese Anfrage dringend?" },
"team": {
"type": "choice",
"instructions": "Welches Team soll die Anfrage bearbeiten?",
"criteria": {
"billing": "Zahlungen, Rechnungen, Erstattungen",
"technical": "Ausfälle, Fehler, Konfiguration",
"sales": "Tarife und Upgrades"
}
}
}
}
Technisch erzeugt das Modell keinen Text. Cloudflare beschreibt für Clef einen einzigen Durchlauf über die Eingabe, danach werden die gültigen Antworten parallel bewertet. Amazon hat bei Strands Decider den Teil des Sprachmodells, der Wörter vorhersagt, durch einen kleinen Bewertungskopf ersetzt. Deshalb ist das Ergebnis immer eine Ihrer Optionen, allerdings nicht zwingend die richtige.
Eine falsche Kategorie im korrekten Format bleibt ein Fehler. Warum das wichtig ist und wie Sie Konfidenzwerte lesen, erklärt unser Artikel über Jev.
Wann das LLM die bessere Wahl bleibt
Sobald ein Mensch das Ergebnis lesen soll, brauchen Sie Text: eine Antwort an den Kunden, eine Zusammenfassung, eine Begründung. Das kann ein Entscheidungsmodell nicht. Dasselbe gilt für das Extrahieren beliebiger Felder aus einem Dokument und für Werkzeugaufrufe mit Argumenten. OpenAI empfiehlt in der Dokumentation der Decisions API für solche Fälle ausdrücklich Structured Outputs oder Function Calling.
Ein LLM ist auch dann die richtige Wahl, wenn die Antwort nicht in einer Liste steht, die Sie vorab kennen: Ursachen eines Fehlers untersuchen, einen Plan anpassen, mehrere Quellen gegeneinander abwägen.
Oft arbeiten beide zusammen: Das Entscheidungsmodell ordnet die Anfrage zu und gibt Schritte frei, das LLM formuliert dort, wo Text gebraucht wird. In unserer Architektur eines KI-Agenten ist das die Routing-Schicht vor dem eigentlichen Agenten.
Fünf Entscheidungsmodelle im Oktober 2026
| Modell | Preis pro 1 Mio. Eingabetokens | Gewichte und Besonderheiten |
|---|---|---|
| Jev 1.13 (TypeSafe) | 0,042 $ | Geschlossen. Das erste Modell dieser Art, Early Access, auch über OpenRouter |
| Clef, Clef-flash, Clef-omni (Cloudflare Workers AI) | 0,24 $ / 0,038 $ / 0,15 $ | Offen, Apache 2.0. Jev-kompatible API, Bilder; Clef-omni auch Audio und Video |
| Microsoft-Decision-1 (Microsoft Foundry, OpenRouter) | 0,042 $ | Nicht veröffentlicht. Public Preview seit 9. Oktober, basiert auf Qwen3.5-9B |
| Decisions API mit gpt-6-luna (OpenAI) | 0,10 $ | Geschlossen. Public Beta, Bilder, EU-Datenresidenz für berechtigte Kunden |
| Strands Decider 2B (AWS Strands Labs) | Keine Tokengebühr | Offen, Apache 2.0. Läuft lokal, auch auf CPU und Apple-Silicon-Macs |
Abgerechnet werden laut Anbietern nur Eingabetokens. Quellen: Cloudflare-Changelog vom 9. Oktober, Microsoft-Ankündigung, OpenAI-Dokumentation und das Strands-Decider-Repository.
Die gehostete Clef-flash-Variante verarbeitet seit der Preissenkung höchstens 24.000 Eingabetokens pro Anfrage. Für längere Eingaben verweist Cloudflare auf Clef mit 64.000 Tokens.
Jeder Anbieter veröffentlicht Benchmarks, in denen das eigene Modell vorn liegt. Cloudflare sieht Clef vor Jev, Microsoft sieht Decision-1 vor allen anderen. Solche Tests sagen wenig darüber, wie gut ein Modell Ihre Anfragen einordnet.
Was 100.000 Anfragen im Monat kosten
Für die Rechnung nehmen wir einen Kundenservice an, der 100.000 Anfragen pro Monat zuordnet. Eine Anfrage hat rund 250 Tokens, die Fragen mit Optionsbeschreibungen rund 350, zusammen also 600 Eingabetokens. Ein LLM braucht zusätzlich Anweisungen für das Antwortformat, kommt damit auf rund 750 Eingabetokens und gibt etwa 40 Tokens kompaktes JSON zurück. Prompt Caching und Batch-Rabatte sind nicht eingerechnet.
| Modell | Tokens pro Monat | Kosten pro Monat |
|---|---|---|
| Clef-flash | 60 Mio. Eingabe | 2,28 $ |
| Jev 1.13 | 60 Mio. Eingabe | 2,52 $ |
| Microsoft-Decision-1 | 60 Mio. Eingabe | 2,52 $ |
| OpenAI Decisions (gpt-6-luna) | 60 Mio. Eingabe | 6,00 $ |
| Claude Haiku 5.5 als LLM | 75 Mio. Eingabe, 4 Mio. Ausgabe | 9,50 $ |
| GPT-6 Luna als LLM | 75 Mio. Eingabe, 4 Mio. Ausgabe | 9,50 $ |
| Clef | 60 Mio. Eingabe | 14,40 $ |
Die LLM-Preise stammen aus den Preislisten von Anthropic und OpenAI: jeweils 0,10 $ pro Million Eingabe- und 0,50 $ pro Million Ausgabetokens für kurze Prompts. Jeder Anbieter zählt Tokens mit seinem eigenen Tokenizer, derselbe Text ergibt also leicht unterschiedliche Mengen.
Ein Entscheidungsmodell ist also nicht automatisch günstiger: Das große Clef kostet in dieser Rechnung mehr als Claude Haiku 5.5. Zwischen der günstigsten und der teuersten Variante liegen weniger als 13 Dollar im Monat.
Stärker ins Gewicht fallen Fehlentscheidungen. Wenn 3 von 100 Anfragen im falschen Team landen und jede Korrektur zwei Minuten dauert, sind das bei 100.000 Anfragen 100 Arbeitsstunden im Monat. Es lohnt sich deshalb mehr, die Trefferquote auf Ihren Daten zu verbessern, als nach dem günstigsten Tokenpreis zu suchen.
Warum Millisekunden in Agenten zählen
Ein Agent trifft selten nur eine Entscheidung. Microsoft rechnet in der Ankündigung von Decision-1 vor: 100 Millisekunden mehr bei 20 aufeinanderfolgenden Entscheidungen ergeben zwei Sekunden Wartezeit. Bei 500 Millisekunden pro Schritt sind es zehn Sekunden, bei 40 Millisekunden weniger als eine.
Die Herstellerangaben liegen weit auseinander. Cloudflare nennt für Clef-flash einen Median von 38,8 ms und für Clef nach der Optimierung vom 9. Oktober rund 150 ms bei etwa 800 Eingabetokens. OpenAI spricht von etwa zehnmal schnelleren Antworten als über die Responses API, ohne Messbedingungen anzugeben. OpenRouter zeigte am 12. Oktober einen Median von 0,20 Sekunden für Jev und 0,35 Sekunden für Decision-1, Netzwerk eingeschlossen. Messen Sie die Latenz deshalb aus Ihrer eigenen Region und Infrastruktur.
Wo die Entscheidung berechnet wird
Für Unternehmen in der EU zählt oft weniger das Modell als der Ort der Verarbeitung. Die Anbieter gehen damit unterschiedlich um:
- Strands Decider und Clef sind unter Apache 2.0 veröffentlicht und lassen sich selbst betreiben. Die Daten bleiben dann in Ihrer Infrastruktur. Strands Decider 2B läuft laut Dokumentation auch ohne Grafikkarte, Clef braucht deutlich mehr Rechenleistung.
- OpenAI bietet für die Decisions API Zero Data Retention und Datenresidenz in der EU und der Schweiz für berechtigte Kunden. Cloudflare sagt zu, Anfragen an Clef weder zu lesen noch zu speichern oder für Training zu verwenden.
- Bei Jev und Decision-1 sollten Sie Verarbeitungsort, Aufbewahrung und Auftragsverarbeitung vor dem Einsatz mit dem Anbieter klären.
Welche Fragen Sie dabei stellen sollten, haben wir für KI-Hosting in der EU zusammengestellt.
Entscheidungsmodell, LLM oder beides?
- Steht die richtige Antwort in einer festen Liste? Dann passt ein Entscheidungsmodell.
- Liest ein Mensch das Ergebnis? Dann brauchen Sie ein LLM oder eine Textvorlage.
- Hängen viele Entscheidungen hintereinander? Dann zählt die Latenz, und hier ist das Entscheidungsmodell im Vorteil.
- Brauchen Sie eine Schwelle für „unsicher, bitte an einen Menschen“? Entscheidungsmodelle liefern dafür eine Wahrscheinlichkeit. Den Schwellenwert legen Sie mit eigenen Testdaten fest.
- Dürfen die Daten Ihr Haus verlassen? Wenn nicht, kommen nur selbst betriebene Modelle mit offenen Gewichten in Frage.
Lässt sich die Entscheidung als feste Regel formulieren, etwa ob eine Frist abgelaufen ist, brauchen Sie überhaupt kein Modell. Dazu mehr in Automatisierung ohne KI.
Wie Sie Jev, Clef und ein LLM fair vergleichen
Sammeln Sie 200 bis 300 anonymisierte Anfragen und notieren Sie zu jeder die richtige Entscheidung. Halten Sie einen Teil zurück, den Sie beim Formulieren der Fragen nicht ansehen. Stellen Sie allen Kandidaten dieselben Fragen mit denselben Optionen. Weil Clef die Jev-API versteht, ist der Wechsel zwischen beiden laut Cloudflare nur eine Änderung der Modell-ID.
Vergleichen Sie vier Werte:
- Trefferquote pro Kategorie, nicht nur insgesamt;
- Anteil der Entscheidungen, die mit hoher Konfidenz falsch sind;
- Latenz im 95. Perzentil aus Ihrer Region;
- Kosten pro richtig zugeordneter Anfrage, Korrekturaufwand eingeschlossen.
Nehmen Sie eine einfache Regel oder Ihre aktuelle Lösung als Vergleich dazu. Erst wenn ein Modell diese Basis auf Ihren Daten schlägt, lohnt sich die Einführung.
Häufige Fragen
Ist Jev ein LLM?
Nein. Jev basiert auf der Technik von Sprachmodellen, erzeugt aber keinen Text. Es bewertet vorgegebene Antworten und gibt Wahrscheinlichkeiten zurück.
Kann ich Jev durch Clef ersetzen?
Cloudflare gibt an, dass Clef mit der Jev-API kompatibel ist. Technisch ist der Wechsel einfach. Ob die Entscheidungen gleich gut sind, zeigt nur ein Test mit Ihren Daten.
Welches Entscheidungsmodell läuft lokal?
Strands Decider 2B von Amazon und Clef von Cloudflare stehen mit offenen Gewichten zum Download bereit. Der Strands Decider ist klein genug für einen normalen Server oder einen Mac.
Ersetzt ein Entscheidungsmodell den KI-Chatbot?
Nein. Es kann entscheiden, wohin eine Anfrage gehört und ob eine Antwort freigegeben wird. Die Antwort selbst schreibt weiterhin ein Mensch, eine Vorlage oder ein LLM.
Ist ein Entscheidungsmodell immer günstiger als ein LLM?
Nicht unbedingt. In unserer Rechnung kostet Clef mehr als Claude Haiku 5.5. Bei den meisten Unternehmen sind die Modellkosten im Vergleich zum Aufwand für Fehlentscheidungen gering.
Wenn Sie prüfen möchten, ob ein Entscheidungsmodell in Ihren Kundenservice oder Ihren KI-Agenten passt, sprechen Sie mit uns über KI-Automatisierung mit LindenTech. Bringen Sie eine wiederkehrende Entscheidung mit: welche Daten ankommen, welche Antworten erlaubt sind und was ein Fehler kostet.