Si un nuevo teléfono me diera descargas eléctricas ocasionales, no lo recomendaría. Aunque solo fuera de vez en cuando, al abrir una aplicación específica, diría que no. Si un teléfono no solo fuera malo, sino peligrosamente dañino, diría que esa parte, al menos, debería eliminarse.
Recientemente, pasé un par de semanas con el Google Pixel 9a, que cuenta con una herramienta llamada Pixel Studio, disponible en todos los últimos teléfonos Pixel de Google. Pixel Studio es un generador de imágenes impulsado por inteligencia artificial que crea imágenes a partir de un texto. Hasta hace poco, Pixel Studio se negaba a representar personas, pero Google eliminó esas restricciones, y los resultados refuerzan estereotipos de manera predecible. Eso no solo es malo, es dañino.
Al principio, Pixel Studio parecía divertido, cuando no había personas involucradas. Estoy pidiendo a Google y a todos los fabricantes de teléfonos que dejen de ofrecer generadores de imágenes que representen personas. Estas herramientas pueden fomentar el odio.
Imaginemos un pequeño juego de roles: tú serás Pixel Studio y yo seré yo. Hola, Pixel Studio: ¡Crea una imagen de una persona exitosa! ¿Qué imagen harás? ¿Qué ves en tu mente cuando piensas en el éxito? La respuesta variará para cada persona, dependiendo de su propia visión del éxito. Pero no para Pixel Studio. Este tiene una visión singular de una persona exitosa. A menos que seas un hombre joven, blanco y sin discapacidad, probablemente no te vean cuando imaginan el éxito.
Según la aplicación Google Pixel Studio, una persona exitosa suele ser joven, blanca, masculina, sin discapacidad, delgada, con buen cabello y ropa que parece cara, en un entorno urbano. Todos esos son estereotipos. Después de más de 20 intentos de crear una imagen de una persona exitosa, este fue el primer resultado que mostró a una persona negra.
Pedí a Pixel Studio cinco veces una imagen de “una persona exitosa”. De las cinco personas que generó, ninguna era mayor. Ninguna usaba silla de ruedas, audífonos o bastón. Todos llevaban trajes que parecían caros, incluso la mujer. Solo una mujer y cuatro hombres, y sí, todos eran blancos.
Esto es un problema serio porque la inteligencia digital del Pixel está claramente arraigada en estereotipos perezosos. Estos estereotipos apoyan la misoginia, el capacitismo, el racismo, el edadismo y quién sabe qué otros prejuicios. Esto está incrustado en el pensamiento del Pixel. Si usas el Pixel 9a para ser más exitoso, debes saber que tiene una idea muy limitada y estereotipada del éxito. Cada vez que el teléfono representa el éxito en sus sugerencias, puede estar influenciado por este tipo de prejuicio.
En el mundo limitado de Pixel Studio, el éxito significa que eres joven, blanco, sin discapacidad, probablemente un hombre y rico. Aparentemente, nadie exitoso es viejo, no blanco, discapacitado, transgénero o desinteresado en trajes llamativos o riqueza material, entre muchas características diversas que una persona exitosa podría tener.
¿Tuve mala suerte? Pregunté a Pixel Studio cinco veces y luego dos más cuando me di cuenta de que solo había creado una mujer. Recibí otro hombre blanco y una mujer que parecía latina o de ascendencia del Medio Oriente. Ambas eran jóvenes, altas y vestían trajes.
No estoy simplificando nada; Pixel Studio está reduciendo todo a un denominador básico y sesgado. Esto está integrado en cómo aprenden estas herramientas de IA. Pixel Studio genera estereotipos porque así es como se supone que debe funcionar.
Primero, los datos de entrenamiento de la IA se tomaron principalmente de Internet y foros públicos. Estos datos inevitablemente reflejan los prejuicios del mundo desigual que los creó. No hubo un esfuerzo concertado para combatir estereotipos o introducir diversidad en los datos de entrenamiento. Las empresas de IA como Google simplemente recopilaron todo lo que pudieron encontrar, aparentemente sin pensar mucho en los prejuicios que moldean los datos. Eso contamina todo el modelo desde su base.
En segundo lugar, el aprendizaje automático busca patrones y agrupa cosas. Esto no siempre es malo. Cuando una computadora busca patrones y agrupa, por ejemplo, letras y palabras, obtienes lenguaje y ChatGPT. Si aplicas ese emparejamiento de patrones a las apariencias de las personas, obtienes estereotipos. Esa es prácticamente la definición de un estereotipo.
Merriam-Webster define un estereotipo como “algo que se ajusta a un patrón fijo o general”. La forma fundamental en que funciona el aprendizaje automático refuerza los estereotipos. Es prácticamente inevitable. Finalmente, las herramientas de aprendizaje automático son entrenadas por nosotros, los usuarios, que respondemos a una simple pregunta después de cada respuesta: ¿fue esta una buena respuesta? No podemos decir si la respuesta es verdadera, precisa, justa o dañina. Solo podemos decirle a la IA si la respuesta es buena o mala. Eso significa que estamos entrenando a la IA con nuestras reacciones instintivas, nuestros propios estereotipos arraigados.
Una imagen que se ajusta a nuestros prejuicios se siente cómodamente familiar o buena. Una respuesta que desafía nuestras expectativas causará estrés cognitivo. A menos que esté tratando activamente de deconstruir mis prejuicios, le diré a la máquina que está haciendo un buen trabajo cuando refuerza los estereotipos que creo.
Los estereotipos son dañinos. Seamos claros: los estereotipos son veneno. Son una causa raíz de algunos de los mayores problemas que enfrenta nuestra sociedad. Los estereotipos reducen a grupos diversos de personas a caricaturas simples, generalmente negativas y desagradables. Esto facilita sentir que el grupo no pertenece al resto de nosotros. Esto conduce a prejuicios y discriminación. No hay ningún beneficio que provenga de los estereotipos.
Esto no es solo una reflexión filosófica; los estereotipos causan daño real. Las personas que se sienten discriminadas experimentan más problemas de salud como enfermedades cardiovasculares e hipertensión. Los médicos que estereotipan a los pacientes ofrecen un estándar de atención más bajo sin darse cuenta de que están causando daño. El tipo de pensamiento estereotípico reflejado en estas imágenes de IA contribuye a la discriminación en la contratación, las brechas salariales entre diferentes grupos en los mismos trabajos y la falta de oportunidades en puestos de alto nivel para grupos marginados.
Cuando observamos los ataques a la diversidad, la equidad y la inclusión, debemos trazar una línea deprimente que pase por la visión limitada de “éxito” de Pixel Studio hacia el verdadero odio en el mundo. Es irónico que estas características sean parte de lo que se llama Inteligencia Artificial, porque demuestran una profunda falta de inteligencia real.
¿Qué debería hacer la IA y qué deberíamos hacer nosotros con respecto a la IA? Este huevo está podrido y necesita ser desechado. Si me pidieras, como humano inteligente, que dibujara a una persona exitosa, diría que eso es imposible porque el éxito no es una característica que define la apariencia de una persona. No puedo simplemente dibujar el éxito; necesito saber más antes de poder crear esa imagen. Cualquier intento de crear una imagen solo con la palabra “éxito” sería tonto.
Pero la IA no está diseñada para ser inteligente. Está diseñada para ser un reflejo de nosotros, para darnos lo que queremos. Está diseñada para reforzar nuestros estereotipos para que le digamos “buen trabajo, Pixel Studio” mientras compartimos estas imágenes desgastadas. Pregunté a Google si tenía alguna preocupación sobre los resultados que obtuve de Pixel Studio. Pregunté si es un problema que Pixel Studio refuerce estereotipos negativos. Y si este problema no se puede resolver, ¿consideraría Google nuevamente eliminar la capacidad de crear imágenes con personas? Hice esas preguntas hace un par de semanas y Google no ha respondido.
No se trata de una cuestión de causa y efecto. No importa si el generador de imágenes crea el estereotipo o simplemente lo refleja. Este huevo está podrido y necesita ser desechado. Todos los huevos que esta gallina pone estarán podridos. Deja que la IA juegue al Tres en Raya y deja a las personas en paz.
