Stratégies de chunking pour le RAG

La façon dont tu découpes un texte en morceaux détermine souvent plus la qualité du RAG que le modèle d'embedding lui-même.

Pourquoi la taille des chunks compte

Avant qu'une recherche RAG ne démarre, le texte doit être découpé en petits morceaux (chunks). Si les chunks sont trop grands, le contenu important se dilue au milieu de beaucoup de superflu. S'ils sont trop petits, le contexte manque – une phrase seule a souvent peu de sens.

Les stratégies courantes

Taille fixe : découper le texte strictement par nombre de caractères ou de tokens. Simple à mettre en œuvre, mais coupe en plein milieu de phrases ou de paragraphes.
Basé sur la structure : découper le long des frontières naturelles – paragraphes, titres, chapitres. Respecte la structure du document, généralement le meilleur choix par défaut.
Chunking sémantique : placer les frontières là où le sujet change nettement, mesuré par la similarité entre phrases voisines. Plus coûteux, mais plus propre sur le fond.

Chevauchement (overlap)

Les chunks reçoivent souvent une petite marge commune avec le chunk précédent et le suivant. Ça évite qu'une information importante se perde exactement à une frontière de chunk, car elle pourrait sinon se retrouver à moitié dans un chunk et à moitié dans le suivant.

Contextual Retrieval

Anthropic décrit une technique complémentaire : avant l'embedding, une courte phrase de contexte générée par un modèle est ajoutée devant chaque chunk, précisant par exemple le document et la section concernés. Ça résout le problème d'un chunk isolé qui perd son lien avec le reste.

EXEMPLE

Prompt de contexte avant l'embedding d'un chunk (formulation reprise de l'approche Contextual Retrieval d'Anthropic) : « Voici le chunk que nous voulons situer dans l'ensemble du document : [CHUNK]. Donne un court contexte pour situer ce chunk dans l'ensemble du document, afin de mieux le retrouver lors de la recherche. Réponds uniquement avec ce court contexte. »

🛠️ EXERCICE — À TOI DE JOUER

Compare deux stratégies de chunking sur l'un de tes propres documents courts.

Prends un document de plusieurs pages (par ex. un long guide ou un article de blog).
Découpe-le une fois avec un nombre fixe de caractères/tokens (par ex. 300 tokens), et une fois le long des titres/paragraphes.
Formule 3 questions test dont tu connais la réponse, et vérifie pour les deux versions si le bon chunk se retrouve parmi les meilleurs résultats.
Note quelle stratégie a le plus souvent placé le bon chunk en tête, et pourquoi.

✅ AUTO-VÉRIFICATION

☐ As-tu testé les deux variantes de chunking sur les 3 mêmes questions test ?
☐ Sais-tu quelle stratégie plaçait le plus souvent le bon chunk parmi les meilleurs résultats ?
☐ Peux-tu dire en une phrase pourquoi cette stratégie a mieux fonctionné ?

QUIZ RAPIDE

Selon les propres tests d'Anthropic, de combien Contextual Retrieval (embeddings contextuels + BM25) a-t-il réduit le taux de résultats manqués parmi les 20 meilleurs chunks, comparé à une recherche par embedding standard pure ?