Chunking-Strategien für RAG

Wie du Text in Stücke zerlegst, entscheidet oft mehr über die RAG-Qualität als das Embedding-Modell selbst.

Warum die Chunk-Größe zählt

Bevor eine RAG-Suche startet, muss der Text in kleinere Stücke (Chunks) zerlegt werden. Sind Chunks zu groß, verwässert wichtiger Inhalt zwischen viel Ballast. Sind sie zu klein, fehlt der Zusammenhang – ein Satz allein ergibt oft wenig Sinn.

Die gängigen Strategien

Feste Größe: Text stur nach Zeichen- oder Token-Anzahl zerschneiden. Einfach umzusetzen, schneidet aber mitten in Sätzen oder Absätzen.
Struktur-basiert: Entlang natürlicher Grenzen zerlegen – Absätze, Überschriften, Kapitel. Respektiert den Aufbau des Dokuments, meist die bessere Standardwahl.
Semantisches Chunking: Grenzen dort ziehen, wo sich das Thema erkennbar ändert, gemessen an der Ähnlichkeit benachbarter Sätze. Aufwendiger, aber inhaltlich sauberer.

Überlappung (Overlap)

Chunks bekommen oft einen kleinen gemeinsamen Rand mit dem vorigen und nächsten Chunk. Das verhindert, dass eine wichtige Information genau an einer Chunk-Grenze verloren geht, weil sie sonst zur Hälfte im einen und zur Hälfte im nächsten Chunk landen könnte.

Contextual Retrieval

Anthropic beschreibt eine Zusatztechnik: Jedem Chunk wird vor dem Einbetten ein kurzer, von einem Modell erzeugter Kontext-Satz vorangestellt, der zum Beispiel Dokument und Abschnitt benennt. Das behebt das Problem, dass ein isolierter Chunk seinen Bezug verliert.

BEISPIEL

Kontext-Prompt vor dem Einbetten eines Chunks (sinngemäß nach Anthropics Contextual-Retrieval-Ansatz): 'Hier ist der Chunk, den wir im gesamten Dokument einordnen wollen: [CHUNK]. Gib einen kurzen Kontext, um diesen Chunk innerhalb des gesamten Dokuments zu verorten, zur besseren Auffindbarkeit bei der Suche. Antworte nur mit dem kurzen Kontext.'

🛠️ ÜBUNG — MACH DAS BEI DIR

Vergleiche zwei Chunking-Strategien an einem eigenen kurzen Dokument.

Nimm ein mehrseitiges Dokument (z. B. eine lange Anleitung oder einen Blogartikel).
Zerlege es einmal mit fester Zeichen-/Tokenzahl (z. B. 300 Tokens) und einmal entlang der Überschriften/Absätze.
Formuliere 3 Testfragen, deren Antwort du kennst, und prüfe bei beiden Varianten, ob der richtige Chunk unter den Top-Treffern landet.
Notiere, welche Strategie öfter den richtigen Chunk oben hatte, und warum.

✅ SELBST-CHECK

☐ Hast du beide Chunking-Varianten an denselben 3 Testfragen geprüft?
☐ Weißt du, welche Strategie den richtigen Chunk öfter unter den Top-Treffern hatte?
☐ Kannst du in einem Satz sagen, warum diese Strategie besser abgeschnitten hat?

KURZ-QUIZ

Um wie viel reduzierte Contextual Retrieval (kontextuelle Embeddings + BM25) laut Anthropics eigenen Tests die Rate verfehlter Top-20-Chunk-Treffer, verglichen mit reiner Standard-Embedding-Suche?