La inteligencia artificial ya se usa para resumir reuniones, responder preguntas y analizar documentos, pero esa adopción convive con un riesgo operativo: la confianza excesiva en respuestas que suenan seguras aunque no estén sustentadas en información suficiente.
El foco está en las llamadas “alucinaciones”, cuando una herramienta completa vacíos con afirmaciones plausibles en lugar de reconocer límites. Un ejemplo típico aparece ante una consulta sobre una supuesta conferencia de la UNAM: el sistema podría construir una respuesta convincente —incluso con tono de cita— aunque el evento no haya ocurrido o la frase nunca se haya pronunciado.
Francisco Larez, vicepresidente de Progress Software para América Latina y el Caribe, plantea que el problema se agrava porque el error suele venir acompañado de seguridad. “Este es uno de los grandes problemas actuales de la inteligencia artificial: las alucinaciones”, dijo Larez. Y agregó: “Cuando no tiene información suficiente, muchas veces no dice ‘no sé’”, sino que intenta completar los espacios vacíos con algo que suene coherente.
Cómo funciona la generación aumentada por recuperación
En ese marco aparece el concepto de RAG, sigla de Retrieval-Augmented Generation o generación aumentada por recuperación. La lógica es que el modelo no se apoye solo en su “memoria estadística”, basada en patrones aprendidos de internet, sino que consulte fuentes provistas específicamente para cada caso, como archivos, contratos, políticas internas, artículos, reportes o bases de conocimiento. Así, primero busca evidencia y después responde.
El proceso se organiza en tres etapas: recuperación, razonamiento y generación. En la recuperación, el sistema busca información específica dentro de bases de conocimiento y ese material se convierte en “la única realidad disponible” para el modelo en esa interacción. Luego, en el razonamiento, la IA interpreta y organiza lo encontrado. Finalmente, en la generación, transforma ese análisis en una respuesta en lenguaje natural.
La implicancia práctica es directa: el modelo solo puede trabajar con lo que recuperó previamente. Si determinada información no aparece en la búsqueda inicial, entonces para la IA “simplemente no existe”.
El valor de decir “no sé”
El mecanismo se asemeja a una conducta habitual en un entorno corporativo: revisar documentos antes de contestar, en lugar de improvisar. Para Larez, ese cambio introduce algo que durante mucho tiempo faltó en la inteligencia artificial: la capacidad de poner límites. En el ejemplo de la UNAM, si el sistema no encuentra información, no debería inventarla y podría responder: “No encontré evidencia suficiente para confirmar esa información”.
De acuerdo con el AI Hallucination Rate Benchmarks 2026, las herramientas de RAG con buena recuperación registran una reducción de alucinaciones de entre 50% y 80% en consultas fácticas cuando la recuperación es de alta calidad. La premisa es que, si no hay evidencia, no debería haber afirmación, y que el avance pasa por mostrar de manera transparente lo que la herramienta no sabe.
