Réduire les coûts d'utilisation des agents : la check-list pratique

Quatre leviers réduisent sensiblement les coûts des agents IA : le bon modèle, le caching, un contexte léger et le traitement par lots.

Pourquoi les coûts dérapent vite

Un agent n'appelle pas le modèle une seule fois, mais souvent des dizaines de fois par tâche – pour la planification, l'utilisation d'outils, les étapes intermédiaires. Sans pilotage délibéré, tu paies souvent le prix fort pour des tâches qui n'en ont pas du tout besoin.

Levier 1 : le routage de modèle

Toutes les sous-tâches n'ont pas besoin du modèle le plus puissant. Le travail mécanique – classifier, formater, faire des résumés simples – va à un modèle rapide et bon marché. La planification complexe et les décisions difficiles restent réservées au modèle puissant.

Levier 2 : le caching

Si un agent envoie de façon répétée le même long préambule (prompt système, définitions d'outils), le prompt caching évite de le recalculer à chaque fois – tant que les requêtes se suivent dans une courte fenêtre de temps.

Levier 3 : garder un contexte léger

Désactiver les outils inutilisés, vider le contexte entre des tâches indépendantes, prefiltrer les sorties de logs ou de tests verbeuses au lieu de les transmettre entièrement, et déporter le savoir détaillé dans des skills au lieu de le trimballer en permanence dans CLAUDE.md.

Levier 4 : le traitement par lots

Pour de gros volumes de requêtes non urgentes (classification massive, évaluations), une API batch vaut mieux que des appels individuels – nettement moins cher, en échange d'une réponse non immédiate.

Ces quatre leviers se combinent : le modèle le moins cher qui suffit encore, avec un préambule de prompt mis en cache, un contexte léger, traité par lots.

EXEMPLE

Un job nocturne classe 8 000 tickets de support par urgence. Au lieu d'interroger chaque ticket individuellement et de façon synchrone avec le modèle le plus puissant : les règles de classification et les exemples forment un préambule de prompt commun et mis en cache, un modèle bon marché se charge de la classification proprement dite, et les 8 000 requêtes passent ensemble par l'API batch au lieu d'une par une.

🛠️ EXERCICE — À TOI DE JOUER

Analyse un de tes propres workflows d'agent (récurrent) selon les quatre leviers de coûts et identifie où au moins l'un d'eux reste inexploité.

Liste les étapes de ton workflow et note quel modèle tourne actuellement pour quelle étape.
Vérifie : y a-t-il un long préambule de prompt répété (prompt système, règles, exemples) qui profiterait du caching ?
Vérifie : le workflow tourne-t-il de façon urgente/synchrone, ou une partie pourrait-elle tourner comme un batch non urgent ?

✅ AUTO-VÉRIFICATION

☐ Au moins une sous-étape mécanique tourne-t-elle actuellement inutilement sur un modèle coûteux ?
☐ Sais-tu si ton préambule de prompt est réutilisé dans la durée de vie du cache, ou s'il est réécrit à chaque fois ?
☐ Y a-t-il une partie de ton workflow qui n'a pas besoin d'une réponse immédiate et qui se prêterait au batch ?

QUIZ RAPIDE

Quelle combinaison réduit typiquement le plus les coûts d'un job nocturne de classification massive ?