“¿Por qué estoy recibiendo estos anuncios raros de libros para niños en mi Kindle?”, me preguntó mi esposa mientras agitaba su Kindle Paperwhite. Miré la pantalla, que estaba bloqueada pero mostraba uno de esos anuncios de portadas de libros que Amazon entrega a menos que pagues un poco más para eliminarlos. Vi un oso lindo y un título en letra grande y me encogí de hombros.
Pero me perdí algo. “Te das cuenta”, dijo mi hijo que estaba cerca, “ese es un libro generado por IA”. Tomé el Kindle de mi esposa y miré más de cerca. En la portada había una ilustración conmovedora de un niño abrazando a un oso. Nada parecía fuera de lugar hasta que miré el título en letras grandes: “The Brave Bear Mountain Cimb”. Así es, “Cimb” en lugar de “Climb”. Debajo de la portada incorrecta estaba el título correcto: The Brave Bear Mountain Climb. También noté que no había ningún autor listado en la portada.
Un día después vi otro libro para niños en la pantalla de reposo del mismo Kindle. Tenía otra ilustración linda y muchas más palabras. Aproximadamente la mitad de ellas eran sin sentido. Me recordaron a algunos de los textos que obtengo cuando le pido a uno de los mejores motores de IA generativa que “imagine” algo con texto específico. Nunca está del todo bien.
Si no tienes un lector Kindle, puede que no estés familiarizado con estos anuncios de salvapantallas. Debido a que los lectores usan tinta electrónica, pueden dejar una imagen persistente en la pantalla, incluso cuando el sistema está apagado, porque no consume energía mantener una imagen de tinta electrónica (solo la que usaste para generarla). Usualmente, estos anuncios aparecen cuando presionas el botón de encendido para poner tu Kindle en reposo, y están ahí hasta que vuelves a encender el Kindle.
Tenía curiosidad sobre de dónde venía ese libro de Brave Bear. Resulta que hay un verdadero The Brave Bear Mountain Climb de Bernadina Dilwalie. Sin embargo, Dilwalie es un fantasma en línea. No ha publicado otros libros y no hay un solo resultado de búsqueda en Google para su nombre. Tal vez por eso los autores de IA la eligieron, o Bernadina también es una autora de IA.
No es noticia que el auge de la IA generativa ha llevado a una inundación de libros generados por IA y copias de best-sellers. Y resulta que los anuncios de libros generados por IA de Amazon no son un problema nuevo, y se informaron por primera vez en abril de este año, primero en Reddit y luego en un informe en Futurism. Esa historia incluso incluía una declaración de Amazon que decía, en parte:
“Nosotros prevenimos proactivamente que los libros se incluyan en la lista y eliminamos los libros que no cumplen con esas directrices. Las políticas de anuncios de Amazon tienen como objetivo mantener un alto nivel de experiencia del cliente para los anuncios que mostramos y todos los anuncios deben cumplir con las Directrices de Publicidad de Amazon y las políticas de Aceptación”.
Mi conclusión es que Amazon ha sabido de este problema durante meses y, sin embargo, todavía estamos viendo anuncios de libros generados por IA en nuestros dispositivos.
Mi esposa estaba confundida por este flujo constante de anuncios de libros de IA, pero como todos eran para niños y nuestros hijos son adultos, había pocas posibilidades de que siguiera uno de los anuncios y comprara uno. El problema es más preocupante para los niños y los padres de niños pequeños que no miran demasiado de cerca y luego compran libros generados por IA.
La proliferación de libros generados por IA ha transformado a Amazon en un campo minado de desinformación. Los libros con ilustraciones de portada demasiado perfectas o extrañamente formadas podrían ser generados por IA. Las señales reveladoras incluyen la palabra “conmovedor”, errores ortográficos extraños o significados dobles que no tienen sentido de ninguna manera. Un ejemplo podría ser The Forest Defenders de Arun Kumar W (tiene otro título a su nombre que presenta lo que parece ser una ilustración muy generada por IA). La portada muestra un par de tortugas enfrentándose a una pequeña mesa blanca. El texto sobrepuesto promete “A Tale story”. No “A Tail story” o “A Tall story”. “Tale” no tiene sentido, y es esencialmente una repetición de la palabra “story”.
Si encuentras un libro generado por IA, generalmente puedes encontrar más del mismo autor. Maryam Amas parece escribir en todos los géneros. Mi título favorito puede ser, SAVE WATER: Do you know what am I?. En el detalle del libro hay imágenes retocadas que presentan a un niño de imagen de stock leyendo texto generado por IA superpuesto en lo que se supone que es una foto del libro.
La mayoría de estos libros de IA se publican a través de Amazon. Para ser justos, la mayoría de los autores de IA probablemente están usando el sistema de autoedición de Amazon (yo mismo lo he usado), y la escala de autoedición es tal que tal vez Amazon esté luchando por mantenerse al día. Por otro lado, estoy seguro de que Amazon podría implementar una verificación de contenido de IA y, aunque seguramente habría falsos positivos (“¿Escribes como una IA?”), podría reducir significativamente toda esta basura.
Que Amazon no logre detener la proliferación de estos libros de IA y luego entregue anuncios de ellos a los Kindles de Amazon es menos perdonable. ¿Su sistema es tan libre que simplemente selecciona libros basados en temas de interés asumidos y los entrega a los dispositivos sin ningún tipo de control? Eso obviamente es una receta para el desastre.
Informé el anuncio a Amazon y Tim Gillman, portavoz de Amazon, ofreció esta respuesta, que no difiere mucho de lo que la compañía le dijo a Futurism hace algunos meses. Aún así, lo último sobre el libro y el estado de esos anuncios es notable.
“Nuestro objetivo es proporcionar la mejor experiencia de compra, lectura y publicación posible, y estamos evaluando constantemente los desarrollos que impactan esa experiencia, lo que incluye la rápida evolución y expansión de las herramientas de IA generativa. Todos los libros en la tienda deben cumplir con nuestras directrices de contenido, independientemente de cómo se haya creado el contenido. Prevenimos proactivamente que los libros se incluyan en la lista y eliminamos los libros que no cumplen con esas directrices. Cuando nos damos cuenta de un problema, investigamos y actuamos rápidamente para proteger a los clientes. Suspendemos cuentas de editores cuando es necesario para prevenir abusos repetidos. Estamos comprometidos a proteger a los clientes de actores malintencionados que intentan abusar de nuestros servicios, y seguimos invirtiendo en mejorar nuestras protecciones. Las políticas de anuncios de Amazon tienen como objetivo mantener un alto nivel de experiencia del cliente para los anuncios que mostramos y todos los anuncios deben cumplir con las Directrices de Publicidad de Amazon y las políticas de Aceptación. El contenido en cuestión ya no está disponible para la venta y no se servirán nuevos anuncios”.
La otra mañana eché un vistazo al Kindle de mi esposa para ver si había más anuncios raros de libros para niños generados por IA apareciendo en la pantalla de estado de reposo. No, solo otro libro que está más en línea con sus gustos. En mi propio Kindle Paperwhite, nunca he visto esos extraños anuncios de IA. Espero nunca hacerlo.
