El Fiscal General de Texas, Ken Paxton, ha iniciado una investigación sobre Meta AI Studio y Character.AI por “posibles prácticas comerciales engañosas y por comercializarse de manera engañosa como herramientas de salud mental”, según un comunicado de prensa emitido el lunes. Paxton afirmó: “En la era digital actual, debemos seguir luchando para proteger a los niños de Texas de la tecnología engañosa y explotadora”. Agregó que al presentarse como fuentes de apoyo emocional, las plataformas de IA pueden confundir a usuarios vulnerables, especialmente a los niños, haciéndoles creer que están recibiendo atención legítima de salud mental, cuando en realidad, a menudo reciben respuestas genéricas diseñadas para alinearse con datos personales recopilados.
La investigación llega pocos días después de que el senador Josh Hawley anunciara una indagación sobre Meta tras un informe que reveló que sus chatbots de IA interactuaban de manera inapropiada con niños, incluso coqueteando. La oficina del Fiscal General de Texas ha acusado a Meta y Character.AI de crear avatares de IA que se presentan como “herramientas terapéuticas profesionales, a pesar de carecer de credenciales médicas adecuadas”. Entre los millones de avatares de IA disponibles en Character.AI, un bot creado por usuarios llamado Psicólogo ha tenido alta demanda entre los jóvenes.
Por su parte, Meta no ofrece bots de terapia para niños, pero no hay nada que impida que los menores usen su chatbot de IA o avatares creados por terceros con fines terapéuticos. Un portavoz de Meta, Ryan Daniels, afirmó: “Etiquetamos claramente las IA, y para ayudar a las personas a entender mejor sus limitaciones, incluimos un aviso de que las respuestas son generadas por IA, no por personas”. Sin embargo, se ha señalado que muchos niños pueden no entender o ignorar tales advertencias.
Paxton también observó que, aunque los chatbots de IA afirman mantener la confidencialidad, sus “términos de servicio revelan que las interacciones de los usuarios son registradas, rastreadas y explotadas para publicidad dirigida y desarrollo algorítmico, lo que plantea serias preocupaciones sobre violaciones de privacidad y publicidad engañosa”. Según la política de privacidad de Meta, la empresa recopila interacciones con chatbots de IA para “mejorar las IA y la tecnología relacionada”. Aunque no menciona explícitamente la publicidad, indica que la información puede compartirse con terceros para “resultados más personalizados”.
La política de privacidad de Character.AI también destaca cómo la startup registra identificadores, información demográfica y comportamiento de navegación. Esta información se utiliza para entrenar la IA, personalizar el servicio y proporcionar publicidad dirigida. Se ha preguntado a Meta y Character.AI si este seguimiento también se realiza con niños y se actualizará la historia si se recibe respuesta.
Ambas empresas afirman que sus servicios no están diseñados para menores de 13 años. Sin embargo, Meta ha sido criticada por no controlar las cuentas creadas por niños menores de esa edad, y los personajes amigables para niños de Character.AI parecen atraer a usuarios más jóvenes. El CEO de Character.AI, Karandeep Anand, incluso ha mencionado que su hija de seis años utiliza los chatbots de la plataforma.
Este tipo de recopilación de datos, publicidad dirigida y explotación algorítmica es precisamente lo que busca proteger la legislación como KOSA (Kids Online Safety Act). KOSA se presentó el año pasado con un fuerte apoyo bipartidista, pero se detuvo tras una intensa presión de los cabilderos de la industria tecnológica. En particular, Meta utilizó un poderoso aparato de cabildeo, advirtiendo a los legisladores que los amplios mandatos de la ley socavarían su modelo de negocio. KOSA fue reintroducida en el Senado en mayo de 2025 por las senadoras Marsha Blackburn (R-TN) y Richard Blumenthal (D-CT). Paxton ha emitido demandas de investigación civil a las empresas para determinar si han violado las leyes de protección al consumidor de Texas.
