Qué es exactamente
Una alucinación ocurre cuando un modelo de IA generativa produce información que parece correcta pero es falsa: invent inventar fechas, citar referencias que no existen, atribuir frases a personas que nunca las dijeron, dar datos numéricos sin base real.
No es un error de programación: es una consecuencia inherente al funcionamiento de los LLMs, que generan la respuesta estadísticamente más coherente sin verificar si lo que dicen es verdad.
Por qué ocurren
Los LLMs no tienen un mecanismo nativo para distinguir información que conocen con certeza de información que están construyendo por probabilidad. Cuando la respuesta correcta no es estadísticamente clara, el modelo “rellena” con la opción más plausible.
Casos típicos donde aumentan las alucinaciones:
- Preguntas sobre eventos recientes posteriores a la fecha de corte del modelo.
- Preguntas sobre datos muy específicos (fechas exactas, cifras, citas).
- Preguntas en idiomas o dominios con poca representación en el entrenamiento.
- Cuando se le pide un nombre de fuente, autor o publicación concreta.
Cómo mitigarlas
- Verificar siempre los datos críticos antes de actuar sobre ellos.
- Pedir fuentes al modelo y verificarlas.
- Usar modelos con conexión a web (Perplexity, Claude con tool use, Gemini) para datos actualizados.
- Implementar RAG (Retrieval-Augmented Generation) para que el modelo se base en documentos reales.
- Para tareas críticas, revisión humana obligatoria antes de publicar.
Por qué importa en empresa
Una alucinación enviada a un cliente o publicada externamente puede causar daño reputacional o legal. Los equipos que no aprenden a detectarlas son más rápidos al principio y mucho más lentos cuando aparece el primer error grave. La formación en uso responsable de IA reduce el riesgo drásticamente.
