Estrategias de chunking para RAG

Cómo divides el texto en fragmentos suele determinar la calidad de un sistema RAG más que el propio modelo de embeddings.

Por qué importa tanto el tamaño del chunk

Antes de que empiece una búsqueda RAG, el texto debe dividirse en fragmentos más pequeños (chunks). Si los chunks son demasiado grandes, el contenido importante se diluye entre mucho lastre. Si son demasiado pequeños, falta el contexto: una sola frase suelta a menudo tiene poco sentido.

Las estrategias habituales

Tamaño fijo: cortar el texto a rajatabla según número de caracteres o de tokens. Fácil de implementar, pero corta en mitad de frases o párrafos.
Basado en la estructura: dividir siguiendo límites naturales: párrafos, encabezados, capítulos. Respeta la estructura del documento y suele ser la mejor opción por defecto.
Chunking semántico: trazar los límites donde el tema cambia de forma reconocible, midiendo la similitud entre frases vecinas. Más costoso, pero más limpio en cuanto a contenido.

Solapamiento (overlap)

Los chunks suelen recibir un pequeño margen compartido con el chunk anterior y el siguiente. Esto evita que una información importante se pierda justo en el límite entre dos chunks, ya que de lo contrario podría quedar repartida a medias entre uno y otro.

Contextual Retrieval

Anthropic describe una técnica adicional: antes de generar el embedding, a cada chunk se le antepone una breve frase de contexto generada por un modelo, que por ejemplo indica el documento y el apartado. Esto soluciona el problema de que un chunk aislado pierda su referencia.

EJEMPLO

Prompt de contexto antes de generar el embedding de un chunk (en el sentido del enfoque de Contextual Retrieval de Anthropic): 'Aquí tienes el chunk que queremos situar dentro del documento completo: [CHUNK]. Da un breve contexto para ubicar este chunk dentro de todo el documento, de forma que sea más fácil de encontrar en la búsqueda. Responde solo con ese breve contexto.'

🛠️ EJERCICIO — PRUÉBALO TÚ

Compara dos estrategias de chunking en un documento breve propio.

Toma un documento de varias páginas (por ejemplo, una guía larga o un artículo de blog).
Divídelo una vez con un número fijo de caracteres/tokens (por ejemplo, 300 tokens) y otra vez siguiendo los encabezados/párrafos.
Formula 3 preguntas de prueba cuya respuesta conozcas y comprueba, en ambas variantes, si el chunk correcto queda entre los mejores resultados.
Anota qué estrategia colocó más veces el chunk correcto arriba, y por qué.

✅ AUTOEVALUACIÓN

☐ ¿Probaste las dos variantes de chunking con las mismas 3 preguntas de prueba?
☐ ¿Sabes qué estrategia tuvo el chunk correcto entre los mejores resultados con más frecuencia?
☐ ¿Puedes decir en una frase por qué esa estrategia funcionó mejor?

QUIZ RÁPIDO

Según las propias pruebas de Anthropic, ¿en cuánto redujo Contextual Retrieval (embeddings contextuales + BM25) la tasa de aciertos fallidos entre los 20 mejores chunks, comparado con la búsqueda estándar de embeddings?