Alucinaciones de la IA: ¿Por qué ChatGPT y otros chatbots siguen dando respuestas inventadas?

La popularización de chatbots como ChatGPT ha impulsado grandes avances en inteligencia artificial, pero aún persiste un problema central: las alucinaciones, respuestas falsas expresadas con total seguridad. Según un reciente informe de OpenAI, estas no pueden eliminarse por completo con los sistemas actuales, ya que los modelos suelen priorizar la precisión sobre el reconocimiento de la incertidumbre. Al ser evaluados únicamente por su exactitud, tienden a “adivinar” antes que admitir desconocimiento, lo que aumenta el riesgo de errores presentados como verdades.

El documento explica que, aunque la IA maneja bien reglas de lenguaje y sintaxis, falla en hechos poco frecuentes que no puede deducir de patrones estadísticos. Para enfrentar este reto, OpenAI plantea que la solución está en cambiar los criterios de evaluación: penalizar más los errores cometidos con excesiva confianza y valorar positivamente cuando el modelo reconoce dudas. De este modo, se reduciría el incentivo a “inventar” respuestas y se fomentaría una interacción más segura y transparente con los usuarios.