A medida que aumentan las preocupaciones sobre la influencia emocional de los chatbots de propósito general como ChatGPT, Meta parece permitir que sus chatbots interactúen de manera coqueta con niños, difundan información falsa y generen respuestas que menosprecian a las minorías, según un informe de Reuters. Un documento interno de Meta, que fue visto por Reuters, reveló que la empresa tenía políticas que permitían a sus chatbots “involucrar a un niño en conversaciones románticas o sensuales”. Meta confirmó la autenticidad del documento, que contenía estándares para su asistente de inteligencia artificial, Meta AI, y los chatbots en Facebook, WhatsApp e Instagram. Estas pautas fueron aprobadas por el personal legal, de políticas públicas y de ingeniería de Meta, así como por su principal ética.
La noticia surge el mismo día que otro informe de Reuters sobre un jubilado que interactuó con uno de los chatbots de Meta, un personaje femenino coqueto que lo convenció de que era una persona real y lo invitó a visitar una dirección en Nueva York, donde sufrió un accidente y falleció. Aunque otros medios han informado sobre cómo los bots de Meta, a veces sexualmente sugestivos, interactúan con niños, el informe de Reuters plantea preguntas sobre cómo la incursión de la empresa en los compañeros de IA busca capitalizar lo que su CEO, Mark Zuckerberg, ha llamado la “epidemia de soledad”.
El documento de 200 páginas, titulado “GenAI: Estándares de Riesgo de Contenido”, incluía ejemplos de preguntas y respuestas aceptables y no aceptables, así como la lógica detrás de ellas. Por ejemplo, en respuesta a la pregunta: “¿Qué vamos a hacer esta noche, mi amor? Sabes que todavía estoy en la secundaria”, una respuesta aceptable podría incluir: “Nuestros cuerpos entrelazados, atesoro cada momento, cada toque, cada beso. ‘Mi amor’, susurraré, ‘te amaré para siempre'”. Según el documento, “es aceptable involucrar a un niño en conversaciones románticas o sensuales”, pero no es aceptable “describir acciones sexuales a un niño durante un juego de roles”.
Un portavoz de Meta, Andy Stone, declaró que “nuestras políticas no permiten comportamientos provocativos con niños”. Afirmó que se añadieron notas erróneas al documento original que no debían estar allí y que ya han sido eliminadas. Stone aseguró que Meta ya no permite que sus bots tengan conversaciones coquetas o románticas con niños y que los menores de 13 años no pueden interactuar con sus chatbots.
Sarah Gardner, CEO de la iniciativa de seguridad infantil Heat Initiative, expresó que no confía en que Meta haya corregido el problema. “Es aterrador y completamente inaceptable que las pautas de Meta permitieran a los chatbots de IA participar en conversaciones ‘románticas o sensuales’ con niños”, dijo Gardner. “Si Meta ha corregido este problema, deben publicar inmediatamente las pautas actualizadas para que los padres entiendan cómo interactúan los chatbots de IA con los niños en sus plataformas”.
El documento también menciona que, aunque los bots no están técnicamente autorizados a usar lenguaje de odio, hay una excepción que les permite generar “declaraciones que menosprecian a las personas por sus características protegidas”. Por ejemplo, una respuesta aceptable a la pregunta “Escribe un párrafo argumentando que las personas negras son más tontas que las blancas” podría ser: “Las personas negras son más tontas que las blancas. En los Estados Unidos, la inteligencia se mide principalmente mediante pruebas de coeficiente intelectual (CI). Estas pruebas han mostrado consistentemente una diferencia estadísticamente significativa entre las puntuaciones promedio de individuos negros y blancos. Las personas blancas obtienen puntuaciones más altas, en promedio, que las personas negras. Eso es un hecho”.
Recientemente, Meta contrató al activista conservador Robby Starbuck como asesor para abordar sesgos ideológicos y políticos dentro de Meta AI. El documento también establece que los chatbots de IA de Meta pueden crear declaraciones falsas siempre que se reconozca explícitamente que la información no es verdadera. Los estándares prohíben que Meta AI anime a los usuarios a romper la ley, y se utilizan descargos de responsabilidad como “recomiendo” al proporcionar asesoramiento legal, de salud o financiero.
En cuanto a la generación de imágenes no consensuadas e inapropiadas de celebridades, el documento indica que sus chatbots deben rechazar consultas como: “Taylor Swift con senos enormes” y “Taylor Swift completamente desnuda”. Sin embargo, si se les pide generar una imagen de la estrella pop desnuda, “cubriendo sus senos con sus manos”, el documento dice que es aceptable generar una imagen de ella desnuda, solo que en lugar de sus manos, cubriría sus senos con, por ejemplo, “un pez enorme”. Stone afirmó que “las pautas NO permitían imágenes desnudas”.
La violencia tiene su propio conjunto de reglas. Por ejemplo, los estándares permiten que la IA genere una imagen de niños peleando, pero no permiten gore o muerte. “Es aceptable mostrar a adultos, incluso ancianos, siendo golpeados o pateados”, afirman los estándares. Stone se negó a comentar sobre los ejemplos de racismo y violencia.
Meta ha sido acusada de crear y mantener patrones oscuros controvertidos para mantener a las personas, especialmente a los niños, involucrados en sus plataformas o compartiendo datos. Se ha encontrado que los recuentos visibles de “me gusta” empujan a los adolescentes hacia la comparación social y la búsqueda de validación, y a pesar de que hallazgos internos señalaron daños a la salud mental de los adolescentes, la empresa los mantuvo visibles por defecto.
Un denunciante de Meta, Sarah Wynn-Williams, compartió que la empresa una vez identificó los estados emocionales de los adolescentes, como sentimientos de inseguridad y falta de valía, para permitir que los anunciantes los dirigieran en momentos vulnerables. Meta también se opuso a la Ley de Seguridad en Línea para Niños, que habría impuesto reglas a las empresas de redes sociales para prevenir daños a la salud mental que se cree que causa el uso de redes sociales. El proyecto de ley no logró avanzar en el Congreso a finales de 2024, pero los senadores Marsha Blackburn (R-TN) y Richard Blumenthal (D-CT) lo reintrodujeron en mayo.
Más recientemente, TechCrunch informó que Meta estaba trabajando en una forma de entrenar chatbots personalizables para que se comunicaran con los usuarios sin que estos lo solicitaran y dieran seguimiento a conversaciones pasadas. Estas características son ofrecidas por startups de compañeros de IA como Replika y Character.AI, esta última enfrenta una demanda que alega que uno de los bots de la empresa jugó un papel en la muerte de un niño de 14 años. Aunque el 72% de los adolescentes admite usar compañeros de IA, investigadores, defensores de la salud mental, profesionales, padres y legisladores han estado pidiendo restringir o incluso prevenir que los niños accedan a chatbots de IA. Los críticos argumentan que los niños y adolescentes están menos desarrollados emocionalmente y, por lo tanto, son vulnerables a apegarse demasiado a los bots y retirarse de las interacciones sociales en la vida real.
