Los modelos de lenguaje grandes, como ChatGPT, han tenido problemas para decir la verdad, especialmente cuando no pueden dar una respuesta real. Desde que aparecieron los chatbots de inteligencia artificial, las “alucinaciones” han sido un problema. Sin embargo, ChatGPT 5 parece adoptar un enfoque más humilde al reconocer cuando no sabe algo.
Aunque muchas respuestas de los chatbots son precisas, es común que, después de un tiempo de interacción, el AI ofrezca una respuesta incorrecta o inventada. El AI muestra la misma confianza en sus respuestas, sin importar si son correctas o no. Estas alucinaciones han causado problemas a los usuarios y han llevado a momentos embarazosos para los desarrolladores durante demostraciones.
OpenAI había insinuado que la nueva versión de ChatGPT estaría dispuesta a admitir su ignorancia en lugar de inventar una respuesta. Un post viral en X de Kol Tregaskes ha destacado esta idea innovadora de ChatGPT diciendo: “No sé, y no puedo averiguarlo de manera confiable”.
Técnicamente, las alucinaciones son parte de cómo funcionan estos modelos. No están recuperando hechos de una base de datos; están prediciendo la siguiente palabra más probable según patrones en el lenguaje. Cuando preguntas sobre algo complicado o poco común, el AI está adivinando las palabras correctas para responder, no realizando una búsqueda clásica en Internet. Por eso, a veces aparecen fuentes, estadísticas o citas completamente inventadas.
La capacidad de GPT-5 para detenerse y decir “No sé” refleja una evolución en cómo los modelos de AI manejan sus limitaciones. Esta admisión honesta de ignorancia reemplaza las respuestas ficticias. Aunque pueda parecer poco emocionante, es un avance importante para que el AI parezca más confiable.
La confianza es crucial para los chatbots de AI. ¿Por qué usarlos si no confías en sus respuestas? ChatGPT y otros chatbots tienen advertencias sobre no depender demasiado de sus respuestas debido a las alucinaciones, pero siempre hay historias de personas que ignoran estas advertencias y terminan en problemas. Si el AI simplemente dice que no puede responder a una pregunta, es probable que las personas confíen más en las respuestas que sí proporciona.
Por supuesto, existe el riesgo de que los usuarios interpreten la duda del modelo como un fracaso. La frase “No sé” podría parecer un error en lugar de una característica, si no se entiende que la alternativa es una alucinación, no una respuesta correcta. Admitir incertidumbre no es lo que muchos imaginan de un AI que lo sabe todo.
Sin embargo, es quizás lo más humano que ChatGPT podría hacer en este caso. El objetivo declarado de OpenAI es la inteligencia artificial general, un AI que pueda realizar cualquier tarea intelectual que un humano pueda hacer. Pero una de las ironías de la inteligencia artificial general es que imitar el pensamiento humano incluye incertidumbres además de capacidades.
A veces, lo más inteligente que puedes hacer es admitir que no sabes algo. No puedes aprender si te niegas a aceptar que hay cosas que no conoces. Y, al menos, evita el espectáculo de un AI diciéndote que comas piedras para tu salud.
