Kosten senken bei Agenten-Nutzung: die Praxis-Checkliste

Vier Hebel senken die Kosten von KI-Agenten spürbar: das richtige Modell, Caching, ein schlanker Kontext und Batch-Verarbeitung.

Warum Kosten schnell aus dem Ruder laufen

Ein Agent ruft das Modell nicht einmal auf, sondern oft dutzendfach pro Aufgabe – für Planung, Werkzeugnutzung, Zwischenschritte. Ohne bewusste Steuerung zahlst du dabei häufig den Höchstpreis für Aufgaben, die das gar nicht brauchen.

Hebel 1: Modell-Routing

Nicht jede Teilaufgabe braucht das stärkste Modell. Mechanisches – Klassifizieren, Formatieren, einfache Zusammenfassungen – geht an ein günstiges, schnelles Modell. Komplexe Planung und schwierige Entscheidungen bleiben beim starken Modell.

Hebel 2: Caching

Schickt ein Agent wiederholt denselben langen Anfang (System-Prompt, Tool-Definitionen), muss dieser Teil dank Prompt Caching nicht jedes Mal neu berechnet werden – solange die Anfragen innerhalb eines kurzen Zeitfensters aufeinanderfolgen.

Hebel 3: Kontext klein halten

Ungenutzte Werkzeuge deaktivieren, zwischen unabhängigen Aufgaben den Kontext leeren, ausführliche Log- oder Testausgaben vorfiltern statt komplett durchreichen, und Detailwissen in Skills auslagern statt es dauerhaft in CLAUDE.md mitzuschleppen.

Hebel 4: Batch-Verarbeitung

Für große Mengen nicht-dringender Anfragen (Massen-Klassifikation, Auswertungen) lohnt sich eine Batch-API statt Einzelaufrufen – deutlich günstiger, dafür ohne sofortige Antwort.

Diese vier Hebel lassen sich kombinieren: das billigste Modell, das noch reicht, mit gecachtem Prompt-Anfang, schlankem Kontext, im Batch verarbeitet.

BEISPIEL

Ein nächtlicher Job klassifiziert 8.000 Support-Tickets nach Dringlichkeit. Statt jedes Ticket einzeln mit dem stärksten Modell synchron abzufragen: Klassifikationsregeln und Beispiele bilden einen gemeinsamen, gecachten Prompt-Anfang, ein günstiges Modell übernimmt die eigentliche Klassifikation, und alle 8.000 Anfragen laufen gesammelt über die Batch-API statt einzeln.

🛠️ ÜBUNG — MACH DAS BEI DIR

Analysiere einen eigenen (wiederkehrenden) Agenten-Workflow auf die vier Kosten-Hebel und identifiziere, wo mindestens einer davon ungenutzt bleibt.

Liste die Schritte deines Workflows auf und markiere, welches Modell aktuell für welchen Schritt läuft.
Prüfe: Gibt es einen langen, wiederholten Prompt-Anfang (System-Prompt, Regeln, Beispiele), der von Caching profitieren würde?
Prüfe: Läuft der Workflow zeitkritisch/synchron, oder könnte ein Teil davon als nicht-dringender Batch laufen?

✅ SELBST-CHECK

☐ Läuft mindestens ein mechanischer Teilschritt aktuell unnötig auf einem teuren Modell?
☐ Weißt du, ob dein Prompt-Anfang innerhalb der Cache-TTL wiederverwendet wird oder ob er jedes Mal neu geschrieben wird?
☐ Gibt es einen Teil deines Workflows, der nicht sofort eine Antwort braucht und sich für Batch eignet?

KURZ-QUIZ

Welche Kombination senkt die Kosten eines nächtlichen Massen-Klassifikations-Jobs typischerweise am stärksten?