Por qué los modelos de lenguaje de IA alucinezan: La investigación detrás de respuestas falsas

Una alucinación de IA es una declaración producida por un modelo de lenguaje que suena fluida y confiada pero es factualmente incorrecta — una cita fabricada, una fecha equivocada, una persona que no existe. En un artículo de investigación publicado en septiembre de 2025, los investigadores de OpenAI describen las alucinaciones en estos términos y afirman que, con los métodos actuales de entrenamiento y evaluación, el problema no se puede resolver completamente.

Cómo el proceso de entrenamiento crea errores

Según el artículo de OpenAI, publicado en arXiv, parte de la explicación se encuentra en cómo se preentrenan los modelos. Durante el preentrenamiento, un modelo aprende solo de texto fluido, sin etiquetas que marquen qué declaraciones son verdaderas o falsas. Se entrena con un objetivo estadístico (pérdida de entropía cruzada) que recompensa predecir palabras siguientes probables, no verificar hechos.

Los investigadores muestran que esto produce errores incluso en datos que ellos mismos no contienen equivocaciones. Para hechos que aparecen solo una vez en los datos de entrenamiento — los investigadores dan el ejemplo del cumpleaños de una persona — el análisis del artículo encuentra que la tasa de alucinación sobre esos hechos debe ser al menos tan alta como la proporción de tales hechos "singleton" en el conjunto de entrenamiento. En otras palabras, si un hecho se mencionó solo una vez, el modelo es matemáticamente propenso a equivocarse. El artículo llama a algunos errores inevitables incluso para modelos sin límites de poder computacional, porque ciertas tareas son lo que describe como computacionalmente intratables.

Por qué los sistemas de calificación recompensan la adivinanza

El segundo argumento del artículo se refiere a cómo se evalúan los modelos después del preentrenamiento. Compara un modelo de lenguaje con un estudiante enfrentándose a un examen de opción múltiple: una respuesta en blanco obtiene cero, por lo que adivinar es siempre la estrategia estadísticamente mejor cuando cada respuesta incorrecta cuesta lo mismo que dejar la pregunta sin responder. Los investigadores de OpenAI examinaron diez de los puntos de referencia de IA más utilizados — incluyendo GPQA, MMLU-Pro y SWE-bench — y encontraron que nueve de ellos usan calificación binaria que no otorga crédito para una respuesta como "No sé", la misma puntuación que una respuesta incorrecta.

Ese patrón de puntuación, argumenta el artículo, empuja a los modelos a seguir adivinando en lugar de admitir incertidumbre, porque las conjeturas confiadas califican mejor en promedio que la cobertura honesta. TechCrunch, informando sobre el artículo, describió esto como evaluaciones que crean los incentivos equivocados al recompensar las conjeturas correctas afortunadas de la misma manera que las respuestas genuinamente bien respaldadas.

Los modelos de razonamiento han alucinado más, no menos

La tendencia no se limita a modelos más antiguos. La tarjeta del sistema propia de OpenAI para sus modelos de razonamiento o3 y o4-mini, lanzados en abril de 2025 e informados por TechCrunch, encontraron que las tasas de alucinación aumentaron con sistemas de razonamiento más nuevos en el punto de referencia PersonQA interno de la empresa, que prueba preguntas factuales sobre personas.

OpenAI dijo que se necesita más investigación para entender por qué aumentan las alucinaciones a medida que los modelos de razonamiento se expanden, señalando que estos modelos hacen más afirmaciones en general, lo que produce tanto más declaraciones correctas como más incorrectas. Neil Chowdhury, un investigador del grupo de investigación de IA Transluce citado por TechCrunch, ofreció una hipótesis: el tipo de aprendizaje por refuerzo utilizado para entrenar modelos de razonamiento de la serie o puede amplificar problemas que las técnicas de entrenamiento estándar normalmente mitigan.

Lo que OpenAI propone para solucionarlo

El artículo de septiembre de 2025 propone cambiar cómo se califican los puntos de referencia en lugar de agregar pruebas de alucinación separadas. Su solución sugerida es construir umbrales de confianza explícitos en las instrucciones de calificación — por ejemplo, decirle a un modelo que responda una pregunta solo si tiene más del 75% de confianza, con errores costando más puntos que una abstención. En teoría, esto hace que abstenerse sea la opción matemáticamente mejor cuando un modelo no está seguro, en lugar de la peor, como sucede en los sistemas de puntuación actuales.

El artículo es explícito en que este enfoque reduciría, no eliminaría, las alucinaciones. Porque algunos errores surgen de hechos estadísticamente raros o de tareas que los investigadores describen como computacionalmente intratables, los autores concluyen que un modelo de lenguaje con cero alucinaciones no es alcanzable con los métodos actuales.