La importancia del chunking en los sistemas RAG

El chunking es el proceso de dividir documentos extensos en fragmentos más pequeños, llamados chunks, antes de convertirlos en embeddings e indexarlos en una base de datos vectorial. Es el primer paso de cualquier pipeline RAG (Retrieval-Augmented Generation) y el que más condiciona la calidad final de las respuestas: si los fragmentos están mal cortados, ni el mejor modelo puede recuperar el contexto correcto.

El RAG ha cambiado la forma en que los modelos de IA trabajan con datos corporativos. Gracias a este enfoque, ya no es necesario reentrenar constantemente un modelo, basta con conectarlo a fuentes de información (bases de datos, APIs, documentos internos) para que genere respuestas en tiempo real y con contexto real. Pero detrás del éxito de cualquier sistema RAG hay un componente que se suele infravalorar: cómo se fragmenta y organiza esa información antes de indexarla.

Un buen diseño de chunking marca la diferencia entre un asistente que responde de forma ambigua y uno que ofrece respuestas precisas, verificables y rápidas.

Cómo funciona el chunking paso a paso

Cada chunk se convierte en un embedding, es decir, en un vector numérico que representa su significado. Cuando la IA recibe una consulta, no compara contra todo el documento, sino contra los embeddings de los chunks ya indexados. El sistema recupera los fragmentos más relevantes y los utiliza como contexto para generar la respuesta. La forma en que se decide dónde cortar el documento es precisamente lo que distingue unas estrategias de chunking de otras.

Las estrategias de chunking: cuál elegir según el caso de uso

No existe una única forma de fragmentar un documento, y elegir bien depende del tipo de contenido y de lo que se le va a preguntar al sistema.

El chunking de tamaño fijo (fixed-size) corta el texto cada cierto número de tokens, sin atender al significado. Es el más barato de calcular y, según benchmarks recientes, sigue siendo un punto de partida sólido en la mayoría de casos, especialmente en su variante recursiva, que respeta primero párrafos y frases antes de cortar por la fuerza (Firecrawl, 2026).

El chunking semántico mide la similitud de significado entre frases consecutivas y corta donde cambia el tema. Suele mejorar el recall en documentos con transiciones temáticas claras, aunque exige generar un embedding por frase, lo que encarece el proceso.

El chunking jerárquico indexa fragmentos pequeños para la búsqueda, pero recupera el fragmento padre, más amplio, para dárselo al modelo como contexto. Es útil cuando se necesita precisión en la búsqueda sin perder contexto en la respuesta.

El chunking agentic delega en un modelo de lenguaje la decisión de dónde cortar, identificando unidades de información completas (una cláusula, un paso de un procedimiento). Ofrece la mejor calidad de recuperación en documentos muy estructurados, como contratos o normativas, pero su coste de indexación puede ser muy superior al de un chunking fijo.

El late chunking invierte el orden habitual: primero se generan los embeddings sobre el documento completo y después se divide, de modo que cada fragmento conserva parte del contexto global del documento del que procede.

La recomendación general no es elegir la técnica más sofisticada, sino empezar por la más simple y barata, y subir de complejidad solo cuando las métricas de recuperación en el propio entorno lo justifiquen.

Tamaño del chunk: ¿200, 500 o 1.000 tokens?

El tamaño del chunk es uno de los factores más determinantes en el rendimiento de un RAG. Veamos las diferencias:

La regla general es ajustar el tamaño del chunk al tipo de información y al caso de uso.

Precisión y recall: el equilibrio que hay que medir

En sistemas de recuperación de información se miden dos cosas distintas: la precisión, qué porcentaje de los fragmentos recuperados son realmente relevantes, y el recall, qué porcentaje de la información relevante disponible se recupera. Los chunks pequeños tienden a maximizar la precisión, porque cada fragmento es muy específico, pero sacrifican recall, ya que la información relacionada puede quedar repartida en otro fragmento. Los chunks grandes hacen lo contrario, mejoran el recall al incluir más contenido por fragmento, pero pierden precisión porque el modelo puede incorporar ruido no relevante en la respuesta. Los chunks medios, en torno a los 500 tokens, suelen ofrecer el mejor equilibrio y son el estándar más habitual en implementaciones de RAG corporativo.

Para saber si un pipeline concreto está bien ajustado no basta con la intuición: conviene medirlo con un framework de evaluación como RAGAS, que permite calcular precisión y recall de contexto sin depender de anotaciones manuales, contrastando distintos tamaños de chunk sobre las mismas preguntas reales.

Latencia y eficiencia computacional

El chunking no solo afecta a la calidad de las respuestas, también al rendimiento del sistema. Los chunks pequeños requieren más embeddings y más comparaciones, lo que aumenta la latencia en búsquedas sobre grandes volúmenes documentales. Los chunks grandes reducen el número de embeddings y de consultas, lo que baja la latencia de recuperación, pero eleva el coste de generar los embeddings iniciales. En entornos con documentos que cambian con frecuencia, los chunks pequeños suelen ser más manejables porque permiten reindexar solo la parte modificada; en repositorios estáticos, los chunks grandes reducen costes de indexación.

Contextual retrieval: una capa adicional sobre el chunking

Uno de los avances más relevantes de los últimos años no sustituye al chunking, sino que lo complementa. Anthropic propuso en 2024 el contextual retrieval, una técnica que añade a cada chunk una breve explicación de su papel dentro del documento completo antes de convertirlo en embedding, de modo que el fragmento deja de depender del resto del texto para tener sentido. Según los datos publicados por Anthropic, combinar embeddings contextuales con reranking puede reducir hasta en un 67 por ciento los fallos de recuperación en los primeros veinte fragmentos recuperados (Anthropic, 2024). Es una técnica especialmente útil cuando varios documentos tratan conceptos parecidos en contextos distintos, algo habitual en bases de conocimiento corporativas.

Buenas prácticas en chunking

Respetar la estructura natural del documento, evitando cortar frases a la mitad y usando párrafos, secciones o encabezados como guía. Aplicar un solapamiento de entre 50 y 100 tokens entre chunks ayuda a evitar la pérdida de contexto en los cortes, aunque conviene validarlo en el propio entorno, ya que algún análisis reciente ha encontrado casos donde el solapamiento no aporta mejoras claras y sí incrementa el coste de indexación. Enriquecer cada chunk con metadatos (autor, fecha, tema o fuente) mejora el filtrado y la trazabilidad de las respuestas. Y, sobre todo, conviene evaluar con métricas reales, testeando distintos tamaños y estrategias de chunking y midiendo precisión, recall y latencia sobre preguntas representativas del propio caso de uso, en lugar de asumir que un tamaño estándar funcionará igual en cualquier corpus.

Ejemplo aplicado: un manual técnico de 500 páginas

Un manual técnico corporativo de 500 páginas ilustra bien estas diferencias. Con chunks de 200 tokens, el sistema responde con gran precisión a preguntas muy concretas, como el límite de voltaje de un equipo determinado. Con chunks de 500 tokens, el resultado es más adecuado para instrucciones paso a paso, manteniendo el contexto suficiente para explicar cómo configurar un módulo. Con chunks de 1.000 tokens, el sistema rinde mejor en explicaciones amplias o normativas internas, donde la respuesta necesita un contexto más global.

Chunking y trazabilidad regulatoria

Un beneficio adicional de un chunking bien diseñado es la explicabilidad: el asistente puede mostrar no solo la respuesta, sino el fragmento exacto del documento del que fue extraída. Esto no es solo una cuestión de confianza del usuario. El Reglamento (UE) 2024/1689 de inteligencia artificial exige a los sistemas de IA de alto riesgo capacidades técnicas de registro automático de eventos a lo largo de su ciclo de vida, precisamente para garantizar un nivel de trazabilidad adecuado a su finalidad (Reglamento UE 2024/1689, EUR-Lex). Un chunking que permite rastrear cada respuesta hasta su fragmento de origen facilita cumplir con esa exigencia, aunque conviene revisar caso por caso si el sistema concreto entra en la categoría de alto riesgo del Reglamento.

Cómo lo abordamos en Lur Nova

En Lur Nova diseñamos pipelines de RAG que ajustan el chunking de forma inteligente según el tipo de documento, el caso de uso y el nivel de precisión requerido, dentro de nuestras soluciones RAG. Nuestro trabajo integra tamaños de chunk adaptativos según el contenido, solapamiento y metadatos enriquecidos para maximizar el contexto sin perder precisión, e integración con MCP para que la IA acceda de forma segura y eficiente a las fuentes de datos. Si tu organización está evaluando cómo estructurar su base de conocimiento para IA, en nuestra consultoría de IA analizamos el caso concreto antes de recomendar una arquitectura.

Porque en IA no basta con tener la información, hay que estructurarla de forma inteligente para que se convierta en conocimiento útil y accionable.