Modell-Routing: Das richtige Modell für die richtige Aufgabe

Nicht jede Aufgabe braucht das stärkste (und teuerste) Modell – Modell-Routing spart Kosten, ohne die Qualität zu opfern.

Das Problem

Ein starkes Modell wie Claude Opus ist gut in komplexem Denken, aber teuer und oft langsamer. Ein günstiges, schnelles Modell wie Claude Haiku ist für einfache, mechanische Aufgaben oft genauso gut – und kostet ein Vielfaches weniger. Nutzt man für alles das teuerste Modell, verbrennt man Geld ohne Qualitätsgewinn.

Was Modell-Routing bedeutet

Modell-Routing heißt, unterschiedliche Aufgaben an unterschiedlich starke Modelle zu verteilen: Ein starkes Modell übernimmt die Rolle des Orchestrators – es plant, zerlegt komplexe Aufgaben und trifft schwierige Entscheidungen. Günstigere Modelle erledigen mechanische Teilaufgaben: Klassifizieren, Formatieren, einfache Zusammenfassungen, Routine-Code.

Anthropics eigene Empfehlung

Anthropic beschreibt Routing als eigenes Agenten-Muster: Einfache oder häufige Anfragen an kleinere, kosteneffiziente Modelle wie Claude Haiku leiten, schwierige oder ungewöhnliche Anfragen an leistungsfähigere Modelle wie Claude Sonnet. Das funktioniert gut, wenn sich Aufgaben in klar unterscheidbare Kategorien einteilen lassen und diese Einteilung zuverlässig automatisch getroffen werden kann.

Der Kosten-Hebel konkret

Die Preisunterschiede zwischen Modellen sind erheblich: Ein günstiges Modell kann pro Million Tokens ein Vielfaches weniger kosten als das stärkste verfügbare Modell. Bei tausenden Anfragen am Tag summiert sich das schnell zu einem großen Unterschied in der Rechnung – ohne dass die einfachen Aufgaben davon spürbar schlechter erledigt würden.

BEISPIEL

Ein Coding-Agent bekommt die Aufgabe 'Räume alle console.log-Aufrufe aus dem Projekt auf und schreibe eine Zusammenfassung, welche Dateien komplex genug sind, um sie manuell zu prüfen'. Ein günstiges Modell entfernt mechanisch die console.log-Zeilen in hunderten Dateien. Ein starkes Modell (Orchestrator) bewertet danach nur die wenigen wirklich unklaren Fälle und schreibt die Zusammenfassung.

🛠️ ÜBUNG — MACH DAS BEI DIR

Analysiere einen eigenen (oder hypothetischen) Multi-Schritt-Workflow und entscheide, welche Teilaufgaben ein günstiges Modell übernehmen könnte.

Liste alle Teilschritte deines Workflows auf (z. B. Recherche, Klassifikation, Formatierung, finale Entscheidung).
Markiere für jeden Schritt: braucht er echtes Schlussfolgern/Kreativität, oder ist er mechanisch/eindeutig?
Schätze grob die Kostenersparnis, wenn die mechanischen Schritte an ein günstigeres Modell gehen (nutze die Preistabelle aus den Quellen).

✅ SELBST-CHECK

☐ Gibt es mindestens einen Schritt, der klar mechanisch ist und aktuell unnötig teuer läuft?
☐ Ist die Klassifikation 'leicht vs. schwer' selbst zuverlässig genug, um automatisiert zu laufen?
☐ Was würde passieren, wenn das günstige Modell bei einem schwierigen Fall versagt – gibt es einen Fallback?

KURZ-QUIZ

Wann lohnt sich Modell-Routing laut Anthropics eigener Beschreibung besonders?