Descripción del Proyecto
Este proyecto implementa un pipeline industrial completo de Retrieval-Augmented Generation (RAG) orientado a la consulta de normativa pública. El objetivo es llevar un sistema RAG a un estándar de despliegue productivo, con atención especial a la calidad de los datos de entrada, la evaluación sistemática del desempeño y la mantenibilidad del sistema a lo largo del tiempo.
El pipeline cubre todas las etapas del ciclo de vida del sistema: ingesta de documentos normativos, limpieza y normalización de texto legal (con manejo de estructuras propias de documentos jurídicos como artículos, incisos y referencias), chunking semántico, generación de embeddings e indexación vectorial en Qdrant. La recuperación semántica selecciona los fragmentos más relevantes para cada consulta, que son luego utilizados por el LLM para generar una respuesta fundamentada.
La orquestación de los procesos de ingesta y evaluación se realiza con Apache Airflow, garantizando reproducibilidad y trazabilidad de cada ejecución. Los servicios de consulta se exponen vía FastAPI y la interfaz de usuario es una aplicación Streamlit. El proyecto incluye un módulo de evaluación automática de desempeño que mide métricas de recuperación (recall, precisión) y calidad de respuesta, permitiendo detectar regresiones cuando se actualiza la normativa o se cambia el modelo.
Características y Funcionalidades
Ingesta y normalización legal
Pipeline de limpieza de texto jurídico con manejo de artículos, incisos y referencias cruzadas.
Indexación vectorial en Qdrant
Almacenamiento y búsqueda semántica de fragmentos normativos en base de datos vectorial.
Orquestación con Airflow
DAGs de ingesta y evaluación garantizan reproducibilidad y trazabilidad de cada ejecución.
API FastAPI + interfaz Streamlit
Servicios de consulta expuestos vía REST y aplicación web para uso interactivo.
Evaluación automática de desempeño
Métricas de recuperación y calidad de respuesta para detectar regresiones en actualizaciones.
Estándar de despliegue productivo
Enfoque en llevar el sistema RAG más allá del prototipo: calidad, monitoreo y mantenibilidad.