Was sind Entscheidungsmodelle?
Am 29. September 2026 hat Ollama die Unterstützung für Jev-style Entscheidungsmodelle angekündigt – basierend auf der TypeSafe Jev API. Anders als klassische Reasoning-Modelle (wie DeepSeek-R1), die „Denkketten“ für komplexe Problemlösungen erzeugen, sind Entscheidungsmodelle auf schnelle, typisierte Entscheidungen spezialisiert: Ja/Nein, Mehrfachauswahl oder Scores mit Wahrscheinlichkeiten.
Kernvorteile:
- Keine zusätzlichen Kosten – laufen lokal
- Niedrige Latenz – keine Netzwerk-Roundtrips
- Strukturierte Ausgabe – direkt maschinenlesbar (JSON)
Verfügbare Modelle (Stand Oktober 2026)
Drei Entscheidungsmodelle sind über Ollama verfügbar:
| Modell | Parameter | Quelle | Besonderheit |
|---|---|---|---|
| nimble | 9B | Bespoke Labs | Open Source, Top-Benchmarks |
| tev1 | 4B | Together AI | Experimentell |
| tev1:0.8b | 0.8B | Together AI | Ultra-klein, extrem schnell |
Mehr Modelle (auch über Ollama Cloud) sind angekündigt.
Benchmarks
Bespoke Labs veröffentlichte öffentliche Benchmarks über 13 Datensätze mit 3.880 Entscheidungen (menschlich gelabelt):
- nimble (9B) erreicht die höchste Genauigkeit
- tev1 (4B) folgt dicht dahinter
- Beide wurden auf Ollama evaluiert – Details: Ollama Evaluation & Benchmark Suite
Praxisbeispiel: Nimble 9B auf MacBook Pro M5 Max → ~91 ms pro Entscheidung (Pac-Man-Echtzeit-Spiel).
API: /v1/systemone (ab Ollama 0.35)
Die neue API nimmt Zustand (State) + benannte Fragen und liefert alle Antworten in einem Request.
Beispiel: Ticket-Triage
Request:
curl http://localhost:11434/v1/systemone -d '{"model": "nimble", "state": {"ticket": "I was charged twice. Please refund the extra payment."}, "questions": {"team": {"type": "choice", "instructions": "Which team should handle this ticket?", "criteria": {"billing": "Payments and refunds", "technical": "Bugs and integrations", "other": "None of the above"}}, "refund": {"type": "noul", "instructions": "Does the customer explicitly ask for a refund?"}, "urgency": {"type": "score", "instructions": "How urgent is this ticket?", "criteria": ["Routine", "Soon", "Urgent"]}}}'Frage-Typen
| Typ | Beschreibung | Anwendungsfall |
|---|---|---|
choice |
Einzelauswahl mit Kriterien | Routing, Klassifikation |
noul (Yes/No/Unsure) |
Binär + Unsicherheit | Faktenchecks, Policy-Checks |
score |
Ordinale Skala (0..N) | Priorisierung, Sentiment |
Erste Schritte
# 1. Ollama aktualisieren (mind. 0.35)
ollama pull nimble
# 2. Model testen
ollama run nimble "Kurzer Test-State" --format jsonAbgrenzung: Reasoning vs. Decision Models
| Aspekt | Reasoning-Modelle | Decision Models (nimble, tev1) |
|---|---|---|
| Ziel | Komplexe Problemlösung, Code, Mathematik | Schnelle Klassifikation, Routing, Moderation |
| Output | Freier Text / Chain-of-Thought | Strukturiertes JSON |
| Latenz | Sekunden bis Minuten | Millisekunden (91 ms @ 9B) |
| Einsatz | Chat, Analyse, Generierung | Echtzeit-Systeme, Agent-Workflows |
Ausblick
Ollama kündigt an:
- MLX-Beschleunigung auf Apple Silicon
- Weitere spezialisierte Entscheidungsmodelle
- Cloud-Hosting für größere Modelle
Quellen
- Ollama Blog: Ollama now supports Jev-style decision models (29.09.2026)
- Modell-Seiten: nimble · tev1 · tev1:0.8b
- Benchmarks: PUBLIC_BENCHMARKS.md
- TypeSafe Jev API: typesafe.ai
Hinweis: Dieser Beitrag fasst die offizielle Ollama-Ankündigung zusammen.
No responses yet