Los resúmenes de noticias generados por inteligencia artificial de Apple están enfrentando críticas. Los titulares falsos están molestando a las organizaciones de noticias al socavar la confianza en la información. Apple ha prometido una actualización para solucionar estos problemas.
La tan anunciada Apple Intelligence está atravesando una crisis de confianza después de que varios intentos de resumir titulares de noticias produjeran resultados inexactos y a veces extraños. Esta función resulta atractiva para los propietarios de iPhone, ya que Apple intenta condensar las notificaciones en fragmentos fáciles de digerir. Sin embargo, en lugar de resumir con precisión, la inteligencia artificial a veces se dedica a escribir de manera creativa.
La situación ha llegado a tal punto que importantes organizaciones de noticias están quejándose de cómo los titulares pueden engañar a los lectores, pidiendo a Apple que corrija o elimine la herramienta antes de que les cause más vergüenza. Desde que Apple lanzó esta función, ha habido ejemplos destacados.
En diciembre, Apple Intelligence escribió un titular para una historia de la BBC sobre Luigi Mangione, el acusado de asesinar al CEO de UnitedHealthcare, Brian Thompson, afirmando que Mangione se había disparado a sí mismo. Ese detalle fue completamente inventado por el algoritmo, lo que no agradó a la emisora, que no quería ser culpada por algo que no había escrito. De manera similar, un artículo del New York Times no afirmaba que el Primer Ministro de Israel, Benjamin Netanyahu, había sido arrestado, a pesar del titular generado por la inteligencia artificial de Apple.
Apple respondió esta semana en un comunicado: “Las funciones de Apple Intelligence están en beta y estamos realizando mejoras continuamente con la ayuda de los comentarios de los usuarios. Una actualización de software en las próximas semanas aclarará aún más cuándo el texto mostrado es un resumen proporcionado por Apple Intelligence. Animamos a los usuarios a reportar cualquier preocupación si ven un resumen de notificación inesperado”.
Cuando TechRadar se puso en contacto para comentar, Apple dijo que no tenía nada más que añadir al comunicado. Aunque es positivo que Apple tenga planes para solucionar el problema, parece un poco como poner un letrero de “Pintura Fresca” en una pared después de haber manchado la camisa.
Los errores son comunes en la inteligencia artificial generativa; las confusiones aparecen sin importar el modelo que se utilice, lo que puede hacer que las herramientas creadas por Apple, Google u OpenAI sean impredecibles. Estos sistemas están entrenados para procesar y resumir información, pero no son inmunes a la confusión. Google enfrentó una reacción similar el año pasado cuando sus resúmenes de inteligencia artificial, que se compartían en la parte superior de los resultados de búsqueda, ofrecieron algunos datos cuestionables.
Se podría argumentar que errores como estos son solo parte del proceso de aprendizaje, pero cuando se trata de noticias, los errores no son fácilmente perdonados o olvidados. Las marcas de noticias dependen de la confianza del público en su información, por lo que esto no es tan simple como atribuir errores a resúmenes deficientes. Una afirmación sorprendente sin respaldo de hechos y atribuida a una redacción supuestamente profesional puede generar desconfianza injusta hacia esa fuente de noticias. Lo último que necesitan los periodistas y el público son inexactitudes de la inteligencia artificial que alteren los titulares.
Además de lanzar la actualización prometida, Apple probablemente tendrá que hacer muchos ajustes en los titulares generados por inteligencia artificial. Esto podría significar establecer límites más estrictos para la IA o tal vez una advertencia más prominente de que los titulares son generados por inteligencia artificial. Si Apple no puede solucionar esto, Apple Intelligence podría tener que ser renombrada como Apple Imagination.
