Model Routing : le bon modèle pour la bonne tâche

Toutes les tâches n'ont pas besoin du modèle le plus puissant (et le plus cher) – le model routing économise des coûts sans sacrifier la qualité.

Le problème

Un modèle puissant comme Claude Opus excelle dans le raisonnement complexe, mais il est cher et souvent plus lent. Un modèle bon marché et rapide comme Claude Haiku est souvent tout aussi bon pour des tâches simples et mécaniques – pour une fraction du prix. Utiliser le modèle le plus cher pour tout brûle de l'argent sans gain de qualité.

Ce que signifie le model routing

Le model routing consiste à répartir différentes tâches vers des modèles de force différente : un modèle puissant prend le rôle d'orchestrateur – il planifie, découpe les tâches complexes et prend les décisions difficiles. Des modèles moins chers gèrent les sous-tâches mécaniques : classer, formater, faire de simples résumés, du code de routine.

La recommandation d'Anthropic

Anthropic décrit le routing comme un pattern d'agent à part entière : diriger les requêtes simples ou fréquentes vers des modèles plus petits et économiques comme Claude Haiku, et les requêtes difficiles ou inhabituelles vers des modèles plus performants comme Claude Sonnet. Ça fonctionne bien quand les tâches peuvent être classées dans des catégories clairement distinctes, et que cette classification peut être faite automatiquement de façon fiable.

Le levier de coût, concrètement

Les différences de prix entre modèles sont considérables : un modèle bon marché peut coûter, par million de tokens, une fraction du prix du modèle le plus puissant disponible. Sur des milliers de requêtes par jour, cette différence se traduit vite en un grand écart sur la facture – sans que les tâches simples s'en trouvent visiblement moins bien traitées.

EXEMPLE

Un agent de codage reçoit la tâche « nettoie tous les appels console.log du projet et écris un résumé des fichiers assez complexes pour nécessiter une relecture manuelle ». Un modèle bon marché retire mécaniquement les lignes console.log dans des centaines de fichiers. Un modèle puissant (l'orchestrateur) évalue ensuite seulement les quelques cas vraiment ambigus et écrit le résumé.

🛠️ EXERCICE — À TOI DE JOUER

Analyse un de tes workflows multi-étapes (réel ou hypothétique) et détermine quelles sous-tâches un modèle bon marché pourrait prendre en charge.

Liste toutes les étapes de ton workflow (par exemple recherche, classification, formatage, décision finale).
Marque pour chaque étape : a-t-elle besoin de vrai raisonnement/créativité, ou est-elle mécanique/sans ambiguïté ?
Estime grossièrement l'économie de coût si les étapes mécaniques passent à un modèle moins cher (utilise le tableau de prix des sources).

✅ AUTO-VÉRIFICATION

☐ Y a-t-il au moins une étape clairement mécanique et actuellement inutilement coûteuse ?
☐ La classification « facile vs. difficile » elle-même est-elle assez fiable pour être automatisée ?
☐ Que se passerait-il si le modèle bon marché échouait sur un cas difficile – y a-t-il un filet de sécurité (fallback) ?

QUIZ RAPIDE

Selon la description d'Anthropic elle-même, quand le model routing est-il particulièrement rentable ?