Rate Limits und Quotas: Warum KI-Tools dich manchmal bremsen

Rate Limits begrenzen, wie viele Anfragen du pro Minute stellen darfst. Wer die Regeln kennt, kommt souveräner durch einen 429-Fehler.

Was ein Rate Limit ist

Ein Rate Limit ist eine Obergrenze: wie viele Anfragen (oder Tokens) du in einem bestimmten Zeitraum an eine KI-API schicken darfst. Eine Quota ist ähnlich gemeint, oft über einen längeren Zeitraum – zum Beispiel ein Monats-Kontingent bei einem Abo oder ein monatliches Ausgaben-Limit bei einer API.

Warum es sie gibt

Ohne Grenzen könnte eine einzelne Anwendung – per Bug oder absichtlich – so viele Anfragen stellen, dass die Server-Kapazität für alle anderen leidet. Rate Limits schützen die Infrastruktur und sorgen für faire Verteilung, gleichzeitig begrenzen sie ungeplante Kosten.

Der Fehler-Code 429

Überschreitest du ein Limit, antwortet die API mit dem HTTP-Status 429 ("Too Many Requests") statt mit einem Ergebnis. Die Antwort liefert dabei meist einen Retry-After-Hinweis mit, wie viele Sekunden du warten solltest, bevor du es erneut versuchst.

Wie du damit umgehst

Warten und wiederholen: Bei einem 429 kurz pausieren, dann erneut versuchen – am besten mit wachsender Wartezeit (Exponential Backoff), statt sofort erneut zu senden.
Batching: Mehrere kleine Anfragen zu einer größeren zusammenfassen, statt viele einzelne Aufrufe zu feuern.
Kleinere Modelle: Für einfache Teilaufgaben ein günstigeres Modell mit eigenem Kontingent nutzen, das teure Hauptmodell nur für komplexe Schritte einsetzen.

BEISPIEL

Pseudocode für Retry mit Backoff: für versuch in 1..5: antwort = api_aufruf() wenn antwort.status == 429: warte(antwort.header['retry-after'] Sekunden) weiter sonst: return antwort

🛠️ ÜBUNG — MACH DAS BEI DIR

Baue eine einfache Retry-Logik mit Backoff für API-Aufrufe, oder finde sie in einem bestehenden SDK.

Suche in der Doku deines bevorzugten KI-SDKs, ob eingebautes Retry-Verhalten bei 429 existiert.
Falls nicht: schreibe eine kleine Schleife, die bei Status 429 mit wachsender Wartezeit erneut versucht (max. 3-5 Versuche).
Prüfe, ob dein Code den Retry-After-Header der Antwort respektiert, statt eine feste Wartezeit zu verwenden.
Optional und vorsichtig: teste mit einigen schnellen Anfragen, ob ein 429 auftritt – beachte, dass auch die erfolgreichen Anfragen davor Tokens kosten. Nutze dafür kein produktives oder knapp limitiertes Konto.

✅ SELBST-CHECK

☐ Wartet dein Code nach einem 429-Fehler länger, statt sofort erneut anzufragen?
☐ Hat dein Code eine feste Obergrenze für die Anzahl der Versuche?
☐ Nutzt dein Code den Retry-After-Header, statt eine feste Wartezeit anzunehmen?

KURZ-QUIZ

Was bedeutet der HTTP-Status-Code 429 bei einer KI-API?