Human-in-the-loop: dónde deberían intervenir las personas en el flujo de un agente

No todos los pasos de un agente deberían ejecutarse automáticamente. Human-in-the-loop define dónde una persona debe supervisar de forma consciente.

La idea básica

Human-in-the-loop (HITL, por sus siglas) significa: en determinados puntos del flujo de un agente, el sistema se detiene y espera tu decisión, en lugar de seguir sin más. El agente sigue siendo capaz de actuar, pero no todopoderoso.

Dónde tienen sentido los puntos de control

Antes de acciones irreversibles: borrar, pagos, correos a terceros, despliegues en producción.
Ante la incertidumbre: si el agente se encuentra con un problema, debería detenerse en lugar de adivinar.
Después de planes grandes, antes de ejecutarlos: mostrar primero el plan y esperar confirmación.
Al final, como revisión: una mirada final antes de publicar, incluso cuando el resto del trabajo ha sido libre.

El riesgo de aceptar todo automáticamente

Algunas herramientas confirman prácticamente cualquier acción de forma automática. Eso ahorra tiempo, pero deja que cualquier error del agente pase sin frenos. La propia guía de Anthropic para construir agentes recomienda explícitamente hacer que los agentes se detengan en puntos de control o ante bloqueos para esperar retroalimentación humana: más autonomía también significa más coste y el riesgo de errores que se van acumulando.

La regla general

Cuanto más difícil sea deshacer una acción, más motivo hay para un punto de control humano antes de ella. Los pasos rutinarios y fáciles de comprobar pueden ejecutarse de forma automática.

EJEMPLO

Flujo conceptual: un agente debe ejecutar un script de migración de base de datos. El flujo previsto es: generar el script → mostrar el plan y el diff → esperar confirmación → ejecutarlo de verdad solo después de un 'sí'. Sin este punto de control, la migración se ejecutaría automáticamente en cuanto el agente la considerara terminada.

🛠️ EJERCICIO — PRUÉBALO TÚ

Define, para una configuración de agente propia (o ficticia), qué acciones necesitan un punto de control humano.

Enumera todas las acciones que tu agente puede ejecutar.
Marca, para cada acción: si es reversible o irreversible, y cuán grande sería el daño potencial en caso de error.
Define, para cada acción irreversible o arriesgada, un punto de control que actúe ANTES de la ejecución, no después.
Comprueba si ese punto de control está impuesto técnicamente (por ejemplo, mediante reglas de permisos) o si solo figura como una petición en el prompt, y corrige esto último si es el caso.

✅ AUTOEVALUACIÓN

☐ ¿Anotaste para cada acción si es reversible o irreversible?
☐ ¿Está cada punto de control antes de la ejecución, no después?
☐ ¿Está cada punto de control impuesto técnicamente, en lugar de ser solo una petición en el prompt?

QUIZ RÁPIDO

Según el principio human-in-the-loop, ¿cuándo es más importante un punto de control humano antes de una acción de un agente?