Meta ha comenzado a desplegar sistemas de inteligencia artificial más avanzados para vigilar y hacer cumplir sus normas de contenido en Facebook e Instagram, al tiempo que reduce su dependencia de empresas externas de moderación. Estas nuevas IAs se encargarán de tareas como detectar contenidos relacionados con terrorismo, explotación infantil, drogas, fraude y estafas, así como cuentas falsas e intentos de robo de cuentas.
Según la compañía, los sistemas se implantarán de forma generalizada solo cuando superen de forma consistente a los métodos actuales. En pruebas internas, aseguran haber detectado el doble de contenido de solicitaciones sexuales para adultos que los equipos humanos, reduciendo al mismo tiempo los errores más de un 60%. También afirman bloquear unas 5.000 estafas diarias destinadas a robar credenciales de acceso y mejorar la identificación de suplantaciones de famosos y figuras públicas.
Meta sostiene que seguirá habiendo revisores humanos para las decisiones más sensibles, como apelaciones de cuentas deshabilitadas o avisos a las fuerzas de seguridad, mientras que la IA asumirá el trabajo repetitivo y los escenarios donde los estafadores cambian constantemente de táctica. Paralelamente, la empresa lanza un asistente de soporte basado en IA, disponible 24/7 en Facebook e Instagram, para resolver dudas y problemas de los usuarios.
Este giro hacia la automatización llega en un contexto delicado: Meta ha relajado sus normas de moderación y abandonado la verificación externa de hechos, apostando por un modelo tipo “Community Notes”, y se enfrenta a demandas que buscan responsabilizar a las grandes plataformas del posible daño a menores y jóvenes. La medida abre interrogantes sobre si la IA podrá equilibrar mejor seguridad, libertad de expresión y transparencia que los modelos anteriores.
