Chunking bezeichnet die Zerlegung von Texten in kleinere, in sich geschlossene Abschnitte, die ein KI-System einzeln verarbeitet. Der Schritt gehört zum Aufbau jedes RAG-Systems: Dokumente werden in Chunks geteilt, jeder Chunk wird als Vektor abgelegt, und bei einer Anfrage werden nur die passenden Abschnitte an das Sprachmodell übergeben statt ganzer Dokumente.
Über die Qualität entscheidet der Schnitt, denn ein Abschnitt, der mitten in einem Gedanken endet, verliert seinen Sinn, und ein zu großer Abschnitt verwässert die Trefferbewertung durch Nebenthemen. Bewährt hat sich deshalb ein Schnitt entlang der inhaltlichen Struktur, also an Überschriften und Absätzen, häufig mit einer kleinen Überlappung, damit Bezüge über die Schnittstelle hinweg erhalten bleiben.
Für Websitebetreiber ist die Übertragung naheliegend: KI-Systeme zitieren Abschnitte, nicht Seiten, weshalb ein Text mit klarer Gliederung, sprechenden Überschriften und in sich verständlichen Absätzen leichter aufgegriffen wird. Praktisch heißt das, Bezüge wie „wie oben beschrieben“ sparsam einzusetzen und wesentliche Angaben im jeweiligen Abschnitt zu wiederholen, statt sie über die Seite zu verteilen.