Human-in-the-loop : où l'humain doit garder son mot à dire dans un agent

Toutes les étapes d'un agent ne doivent pas tourner automatiquement. Human-in-the-loop définit où un humain doit délibérément garder un œil dessus.

L'idée de base

Human-in-the-loop (HITL en abrégé) signifie : à certains points du déroulement d'un agent, le système s'arrête et attend ta décision, au lieu de simplement continuer. L'agent reste capable d'agir, mais pas tout-puissant.

Où des points de contrôle ont du sens

Avant des actions irréversibles : suppression, paiements, e-mails à des tiers, déploiements en production.
En cas d'incertitude : si l'agent rencontre un problème, il devrait s'arrêter plutôt que de deviner.
Après un plan important, avant sa mise en œuvre : d'abord montrer le plan et le faire valider.
À la fin, en revue : un dernier coup d'œil avant la mise en ligne, même en travail par ailleurs libre.

Le risque de l'auto-acceptation

Certains outils valident pratiquement chaque action automatiquement. Ça fait gagner du temps, mais chaque erreur de l'agent passe alors sans frein. Le propre guide d'Anthropic pour construire des agents recommande explicitement de laisser les agents faire une pause pour un retour humain aux points de contrôle ou en cas de blocage – plus d'autonomie signifie aussi des coûts plus élevés et un risque d'erreurs qui s'amplifient.

La règle empirique

Plus une action est difficile à annuler, plus il y a de raisons de placer un point de contrôle humain avant. Les étapes routinières et facilement vérifiables peuvent tourner automatiquement.

EXEMPLE

Déroulement conceptuel : un agent doit exécuter un script de migration de base de données. Le déroulement prévoit : générer le script → afficher le plan et le diff → attendre une confirmation → exécuter réellement seulement après un « oui ». Sans ce point de contrôle, la migration se déroulerait automatiquement dès que l'agent la considère terminée.

🛠️ EXERCICE — À TOI DE JOUER

Détermine, pour ta propre configuration d'agent (ou une fictive), quelles actions nécessitent un point de contrôle humain.

Liste toutes les actions que ton agent peut exécuter.
Marque pour chaque action : réversible ou irréversible, et l'ampleur du dommage potentiel en cas d'erreur.
Définis pour chaque action irréversible/risquée un point de contrôle qui intervient AVANT l'exécution, pas après.
Vérifie si ce point de contrôle est techniquement imposé (par ex. via des règles de permission) ou s'il n'est qu'une requête dans le prompt – et corrige ce dernier cas.

✅ AUTO-VÉRIFICATION

☐ As-tu noté pour chaque action si elle est réversible ou irréversible ?
☐ Chaque point de contrôle intervient-il avant l'exécution, pas après ?
☐ Chaque point de contrôle est-il techniquement imposé, plutôt qu'une simple requête dans le prompt ?

QUIZ RAPIDE

Selon le principe human-in-the-loop : quand un point de contrôle humain avant une action d'agent est-il le plus important ?