Rate limits y quotas: por qué las herramientas de IA a veces te frenan

Los rate limits limitan cuántas peticiones puedes hacer por minuto. Conocer las reglas te ayuda a manejar mejor un error 429.

Qué es un rate limit

Un rate limit es un límite máximo: cuántas peticiones (o tokens) puedes enviar a una API de IA en un periodo de tiempo determinado. Una quota tiene un sentido parecido, pero normalmente para un periodo más largo, por ejemplo un cupo mensual en una suscripción o un límite de gasto mensual en una API.

Por qué existen

Sin límites, una sola aplicación —por un bug o de forma intencionada— podría enviar tantas peticiones que la capacidad del servidor se resintiera para todos los demás. Los rate limits protegen la infraestructura y garantizan un reparto justo, y al mismo tiempo limitan los costes imprevistos.

El código de error 429

Si superas un límite, la API responde con el estado HTTP 429 ("Too Many Requests") en lugar de un resultado. La respuesta suele incluir un aviso de tipo Retry-After con los segundos que deberías esperar antes de volver a intentarlo.

Cómo gestionarlo

Esperar y reintentar: ante un 429, haz una pequeña pausa y vuelve a intentarlo, idealmente con un tiempo de espera creciente (exponential backoff), en lugar de reenviar la petición de inmediato.
Batching: agrupa varias peticiones pequeñas en una más grande, en lugar de disparar muchas llamadas individuales.
Modelos más pequeños: usa un modelo más económico con su propio cupo para subtareas sencillas, y reserva el modelo principal, más caro, solo para los pasos complejos.

EJEMPLO

Pseudocódigo para reintento con backoff: para intento en 1..5: respuesta = llamada_api() si respuesta.status == 429: espera(respuesta.header['retry-after'] segundos) continuar si no: return respuesta

🛠️ EJERCICIO — PRUÉBALO TÚ

Construye una lógica sencilla de reintento con backoff para llamadas a la API, o localízala en un SDK ya existente.

Busca en la documentación de tu SDK de IA preferido si existe un comportamiento de reintento integrado para el error 429.
Si no existe: escribe un pequeño bucle que, ante el estado 429, vuelva a intentarlo con un tiempo de espera creciente (máximo 3-5 intentos).
Comprueba que tu código respeta la cabecera Retry-After de la respuesta, en lugar de usar un tiempo de espera fijo.
Opcional y con cuidado: prueba con algunas peticiones rápidas si aparece un 429; ten en cuenta que las peticiones anteriores que sí tuvieron éxito también consumen tokens. No uses para esto una cuenta de producción ni con un límite ajustado.

✅ AUTOEVALUACIÓN

☐ ¿Tu código espera más tiempo tras un error 429, en lugar de reintentar de inmediato?
☐ ¿Tu código tiene un límite fijo para el número de reintentos?
☐ ¿Tu código usa la cabecera Retry-After en lugar de asumir un tiempo de espera fijo?

QUIZ RÁPIDO

¿Qué significa el código de estado HTTP 429 en una API de IA?