Recientemente, al buscar algo en Google, es posible que te hayas encontrado con un pequeño logo de diamante sobre algunas palabras que aparecen mágicamente. La función de Resumen de IA de Google combina los modelos de lenguaje de Google Gemini, que generan las respuestas, con la Generación Aumentada por Recuperación, que extrae la información relevante. En teoría, esto hace que el motor de búsqueda de Google sea aún más fácil y rápido de usar. Sin embargo, como la creación de estos resúmenes es un proceso de dos pasos, pueden surgir problemas cuando hay desconexión entre la recuperación de datos y la generación del lenguaje.
Aunque la información recuperada puede ser precisa, la IA puede cometer errores y llegar a conclusiones extrañas al generar el resumen. Esto ha llevado a situaciones graciosas, como cuando se convirtió en objeto de burla en internet en 2024 por recomendar pegamento como una forma de evitar que el queso se deslice de una pizza casera. También recordamos cuando describió correr con tijeras como “un ejercicio cardiovascular que puede mejorar tu ritmo cardíaco y requiere concentración”. Estos ejemplos llevaron a Liz Reid, jefa de búsqueda de Google, a publicar un artículo donde afirmaba que estos casos “destacaron áreas específicas que necesitábamos mejorar”. Ella culpó diplomáticamente a “consultas sin sentido” y “contenido satírico”.
Casi un año después del fiasco del pegamento para pizza, la gente sigue engañando a los Resúmenes de IA de Google para que fabriquen información o “alucinen”, un eufemismo para referirse a las mentiras de la IA. Muchas consultas engañosas parecen ser ignoradas, pero el mes pasado, Engadget informó que los Resúmenes de IA inventarían explicaciones para expresiones ficticias como “no puedes casarte con una pizza”.
La IA a menudo se equivoca cuando se la engaña intencionadamente. Pero, ahora que es utilizada por miles de millones de personas y se incluye asesoría médica de fuentes colectivas, ¿qué sucede cuando una pregunta genuina provoca que alucine? La IA funciona maravillosamente si todos los que la usan verifican de dónde proviene la información, pero muchas personas, si no la mayoría, no lo harán. Y ahí radica el problema clave. Como escritor, los Resúmenes son inherentemente un poco molestos porque prefiero leer contenido escrito por humanos. Pero, dejando de lado mi sesgo pro-humano, la IA se vuelve seriamente problemática si es tan poco confiable. Se ha vuelto potencialmente peligrosa ahora que es prácticamente omnipresente al buscar, y una parte de los usuarios tomará su información al pie de la letra.
A lo largo de los años, hemos aprendido a confiar en los resultados que aparecen en la parte superior de la página. Sin embargo, la tecnología no es el problema. Como argumenta el profesor asociado Grant Blashki, cómo usamos la tecnología es donde surgen los problemas. Un estudio observacional de investigadores de la Universidad McGill de Canadá encontró que el uso regular de GPS puede resultar en una memoria espacial deteriorada y una incapacidad para navegar por uno mismo.
La neurociencia ha demostrado que esforzarse es bueno para el cerebro. La Teoría de Carga Cognitiva establece que tu cerebro necesita pensar para aprender. Es difícil imaginar que uno se esfuerce demasiado al buscar una pregunta, leer el resumen de la IA y dar por terminado el asunto.
No estoy comprometido a no usar GPS nuevamente, pero dado que los Resúmenes de IA de Google son regularmente poco confiables, preferiría deshacerme de ellos si pudiera. Sin embargo, desafortunadamente, no hay un método para hacerlo por ahora. A pesar de que tengo más información a mi alcance que en cualquier otro momento de la historia, en muchos países nuestras habilidades de lectura y matemáticas están disminuyendo. Un estudio de 2022 encontró que solo el 48.5% de los estadounidenses reportaron haber leído al menos un libro en los últimos 12 meses.
La única defensa real contra la desinformación de la IA es hacer un esfuerzo concertado por no usarla. Permítele tomar notas en tus reuniones de trabajo o pensar en líneas para ligar, pero cuando se trata de usarla como fuente de información, preferiré buscar un artículo de calidad escrito (o al menos revisado) por un humano en los resultados principales. Aunque un día estas herramientas de IA podrían convertirse en una fuente confiable de información, hoy no es ese día.
