Las inteligencias artificiales no mienten a propósito, pero eso no significa que digan siempre la verdad. Utilizan la probabilidad para decidir su respuesta y eso siempre conlleva un riesgo. A veces inventan datos, nombres o fuentes con la misma naturalidad con la que aciertan, y ahí está el problema: no siempre es fácil distinguir cuándo.

¿Qué es una alucinación?

Una alucinación es una respuesta generada por una inteligencia artificial que, a primera vista, parece real, verídica y coherente, pero contiene información falsa, inventada o no respaldada por datos. Por ejemplo, si preguntamos ¿Quién ganó el Premio Nobel de Física en 2027? y la IA responde un nombre, una fecha, incluso la razón del premio, estaríamos ante una alucinación. No existe una clasificación oficial de las alucinaciones. Sin embargo, sí podemos distinguir diferentes tipos según el contexto y la respuesta que se obtenga.

• Alucinación de hechos: afirma como cierto algo que es falso.
• Fabricación de fuentes: inventa papers, autores, URLs, citas, leyes, estudios, etc.
• Alucinación de entidades: inventa personas, empresas, acontecimientos o lugares.
• Alucinación contextual: contradice la información que se le ha proporcionado.
• Inconsistencia: responde de una manera diferente a la misma pregunta en distintas ocasiones.

¿Cómo las evitamos?

En aplicaciones industriales, el objetivo no suele ser conseguir un modelo de lenguaje que nunca cometa errores, sino diseñar el sistema de forma que los errores puedan detectarse antes de llegar al usuario de forma automática. Para ello, se incorporan diferentes capas de control alrededor del modelo integradas en el propio sistema:

• LLM-as-a-Judge: un segundo modelo evalúa la respuesta generada por el primero y determina si es correcta, coherente o está respaldada por las fuentes disponibles.
• RAG (Retrieval-Augmented Generation): el modelo recibe información procedente de documentos o bases de datos externas antes de generar una respuesta. Después, otro sistema puede comprobar si las afirmaciones realizadas están realmente respaldadas por esa información.
• Guardrails: reglas que actúan como una capa de control y pueden bloquear respuestas que no cumplen determinados criterios.
• Human-in-the-loop: en aplicaciones especialmente sensibles, las respuestas con un nivel de riesgo elevado pueden derivarse a una persona para su revisión antes de llegar al usuario.

Ninguna de estas técnicas elimina el riesgo al 100%: las alucinaciones son, hoy por hoy, una limitación inherente a cómo funcionan estos modelos. Con el suficiente control, se consigue construir sistemas mucho más fiables, capaces de detectar y frenar buena parte de los errores antes de que lleguen al usuario final. Conocer cómo y por qué ocurren es el primer paso para saber cuándo confiar en una respuesta y cuándo conviene comprobarla dos veces.