Algunos usuarios de la plataforma X, creada por Elon Musk, están utilizando el bot de inteligencia artificial Grok para verificar hechos, lo que ha generado preocupaciones entre los verificadores de hechos humanos sobre la posibilidad de que esto propague desinformación. A principios de este mes, X permitió a los usuarios interactuar con Grok y hacerle preguntas sobre diversos temas. Esta acción es similar a lo que hace Perplexity, que también tiene una cuenta automatizada en X para ofrecer una experiencia parecida.
Poco después de que xAI lanzara la cuenta automatizada de Grok, los usuarios comenzaron a experimentar haciendo preguntas. En mercados como India, algunos empezaron a pedirle a Grok que verificara comentarios y preguntas relacionadas con creencias políticas específicas. Los verificadores de hechos están preocupados por el uso de Grok, o cualquier asistente de inteligencia artificial similar, de esta manera, ya que los bots pueden formular sus respuestas de manera convincente, aunque no sean correctas. En el pasado, Grok ha estado involucrado en la difusión de noticias falsas.
En agosto del año pasado, cinco secretarios de estado pidieron a Musk que hiciera cambios críticos en Grok después de que la información engañosa generada por el asistente se difundiera en redes sociales antes de las elecciones en EE. UU. Otros chatbots, como ChatGPT de OpenAI y Gemini de Google, también generaron información inexacta sobre las elecciones del año pasado. Investigadores de desinformación encontraron en 2023 que chatbots de IA, incluido ChatGPT, podían producir textos convincentes con narrativas engañosas.
Angie Holan, directora de la Red Internacional de Verificación de Hechos (IFCN) en Poynter, comentó que “los asistentes de IA, como Grok, son muy buenos usando lenguaje natural y dan respuestas que suenan como si las hubiera dicho un ser humano. De esta manera, los productos de IA tienen esta apariencia de naturalidad y respuestas auténticas, incluso cuando pueden ser muy incorrectas. Ese sería el peligro aquí”.
Un usuario en X pidió a Grok que verificara afirmaciones hechas por otro usuario. A diferencia de los asistentes de IA, los verificadores de hechos humanos utilizan múltiples fuentes creíbles para verificar la información y asumen la responsabilidad total de sus hallazgos, con sus nombres y organizaciones adjuntos para garantizar credibilidad. Pratik Sinha, cofundador del sitio de verificación de hechos Alt News en India, señaló que aunque Grok parece tener respuestas convincentes, su efectividad depende de los datos que recibe. “¿Quién decidirá qué datos se le proporcionan? Ahí es donde entrará la interferencia gubernamental”, advirtió.
Grok reconoció en una de sus respuestas que “podría ser mal utilizado — para difundir desinformación y violar la privacidad”. Sin embargo, la cuenta automatizada no muestra advertencias a los usuarios cuando reciben respuestas, lo que puede llevar a la desinformación si, por ejemplo, ha “alucinado” una respuesta, que es una desventaja potencial de la IA. Anushka Jain, investigadora en el colectivo Digital Futures Lab en Goa, mencionó que “puede inventar información para proporcionar una respuesta”.
También hay dudas sobre cuánto utiliza Grok las publicaciones en X como datos de entrenamiento y qué medidas de control de calidad emplea para verificar tales publicaciones. El verano pasado, se implementó un cambio que parecía permitir a Grok consumir datos de usuarios de X por defecto. Otro aspecto preocupante de asistentes de IA como Grok es su acceso a través de plataformas de redes sociales, ya que la información se entrega en público, a diferencia de ChatGPT y otros chatbots que se utilizan de forma privada.
Incluso si un usuario es consciente de que la información que recibe del asistente podría ser engañosa o no completamente correcta, otros en la plataforma podrían creerla. Esto podría causar daños sociales graves. Se observaron incidentes similares en India, donde la desinformación en WhatsApp llevó a linchamientos. Sin embargo, esos incidentes graves ocurrieron antes de la llegada de la IA generativa, que ha facilitado la creación de contenido sintético y más realista.
Holan advirtió que “si ves muchas de estas respuestas de Grok, podrías pensar que la mayoría son correctas, y puede que así sea, pero habrá algunas que están equivocadas. Y ¿cuántas? No es una pequeña fracción. Algunos estudios han mostrado que los modelos de IA tienen tasas de error del 20%… y cuando se equivocan, puede tener consecuencias reales”.
Mientras las empresas de IA, incluida xAI, refinan sus modelos para que se comuniquen más como humanos, todavía no pueden reemplazar a las personas. En los últimos meses, las empresas tecnológicas han estado explorando formas de reducir la dependencia de los verificadores de hechos humanos. Plataformas como X y Meta han comenzado a adoptar el nuevo concepto de verificación de hechos colaborativa a través de las llamadas Community Notes.
Sinha de Alt News cree optimistamente que las personas aprenderán a diferenciar entre máquinas y verificadores de hechos humanos y valorarán más la precisión de los humanos. Holan también expresó que “veremos eventualmente que el péndulo se balancee de nuevo hacia más verificación de hechos”. Sin embargo, advirtió que, mientras tanto, los verificadores de hechos probablemente tendrán más trabajo debido a la rápida difusión de información generada por IA. “Mucho de este problema depende de si realmente te importa lo que es verdadero o no. ¿Solo buscas la apariencia de algo que suena y se siente verdadero sin serlo realmente? Porque eso es lo que te ofrecerá la asistencia de IA”, concluyó.
