Conversar con sus datos es fácil de mostrar en una demo y difícil de convertir en algo confiable. La demo funciona porque la pregunta y los datos se eligieron para encajar; la producción falla porque las preguntas reales son ambiguas, los datos reales están desordenados y una respuesta equivocada pero fluida es peor que no responder. Hacerlo bien es sobre todo ingeniería de recuperación y gobernanza (fundamentar el modelo en los datos correctos, limitar lo que puede afirmar y mostrar su razonamiento), no ingenio con los prompts.
01Cómo leer este trabajo
La fundamentación lo es todo
Un modelo responde con fluidez tanto si acierta como si no, por lo que la fiabilidad proviene de fundamentar sus respuestas en sus datos. La generación aumentada por recuperación (obtener el contexto relevante y generar a partir de él) es el enfoque estándar, y el artículo original sobre RAG es una buena referencia para entender por qué (fuente citada más abajo). La ingeniería que importa es qué se recupera y cómo: la calidad del índice, la segmentación y si el contexto recuperado contiene realmente la respuesta.
02Cómo leer este trabajo
Los datos estructurados necesitan una capa semántica
Para las cifras almacenadas en una base de datos, las preguntas libres deben convertirse en consultas correctas, y ahí es donde fracasan silenciosamente la mayoría de los proyectos de conversación con datos. Una capa semántica (métricas definidas, relaciones y dimensiones permitidas) ofrece al modelo una superficie acotada y bien etiquetada sobre la que consultar, en lugar de adivinar a partir de tablas en bruto. Sin ella, el sistema produce cifras seguras pero sutilmente erróneas, que es el modo de fallo más peligroso de todos.
03Cómo leer este trabajo
Gobernanza: quién puede preguntar qué y si se puede confiar en la respuesta
Las reglas de acceso a los datos no desaparecen porque la interfaz sea un chat. El sistema debe respetar quién puede ver qué, registrar lo que se preguntó y respondió y, sobre todo, mostrar de dónde proviene cada respuesta para que el usuario pueda verificarla. En trabajos con gran volumen de datos, como ProfileDriver, construido con minería de datos antes de que existieran los LLM, el valor estaba en el pipeline y su validación; lo mismo ocurre cuando un modelo responde las preguntas.
04Cómo leer este trabajo
Establecer expectativas con honestidad
Conversar con sus datos es excelente para explorar y obtener respuestas preliminares, y arriesgado como fuente de verdad sin supervisión. El planteamiento correcto es el de un asistente rápido y transparente que muestra sus fuentes y sus consultas, con una persona de confianza a cargo de las decisiones importantes. Construido así, se usa de verdad; vendido como un oráculo infalible, pierde la confianza la primera vez que se equivoca con total seguridad.
