Anthropic ha eliminado silenciosamente de su sitio web varios compromisos voluntarios que la empresa había hecho junto con la Administración Biden en 2023 para promover una inteligencia artificial (IA) segura y “confiable”. Estos compromisos incluían promesas de compartir información sobre la gestión de riesgos de IA en la industria y el gobierno, así como investigaciones sobre sesgos y discriminación en la IA. Según el grupo de vigilancia de IA The Midas Project, estos compromisos fueron borrados de la plataforma de transparencia de Anthropic la semana pasada. Sin embargo, otros compromisos de la era Biden relacionados con la reducción del abuso sexual basado en imágenes generadas por IA permanecen.
Anthropic no ha dado aviso sobre este cambio y no respondió de inmediato a una solicitud de comentarios. En julio de 2023, Anthropic, junto con empresas como OpenAI, Google, Microsoft, Meta e Inflection, anunció que había acordado adherirse a ciertos compromisos voluntarios de seguridad en IA propuestos por la Administración Biden. Estos compromisos incluían pruebas de seguridad internas y externas de los sistemas de IA antes de su lanzamiento, inversiones en ciberseguridad para proteger datos sensibles de IA y el desarrollo de métodos para marcar contenido generado por IA.
Es importante aclarar que Anthropic ya había adoptado algunas de las prácticas mencionadas en los compromisos, y el acuerdo no era legalmente vinculante. Sin embargo, la intención de la Administración Biden era señalar sus prioridades políticas en IA antes de la orden ejecutiva más exhaustiva sobre IA, que entró en vigor varios meses después. La Administración Trump ha indicado que su enfoque sobre la gobernanza de la IA será bastante diferente.
En enero, el presidente Trump derogó la mencionada orden ejecutiva sobre IA, que había instruido al Instituto Nacional de Estándares y Tecnología a redactar guías que ayuden a las empresas a identificar y corregir fallas en los modelos, incluidos los sesgos. Los críticos aliados a Trump argumentaron que los requisitos de informes de la orden eran onerosos y obligaban a las empresas a revelar secretos comerciales. Poco después de revocar la orden ejecutiva sobre IA, Trump firmó una directiva para que las agencias federales promovieran el desarrollo de IA “libre de sesgos ideológicos” que fomente “el florecimiento humano, la competitividad económica y la seguridad nacional”. Es importante destacar que la orden de Trump no mencionó la lucha contra la discriminación en IA, que era un pilar clave de la iniciativa de Biden.
Como señaló The Midas Project en una serie de publicaciones en X, nada en los compromisos de la era Biden sugería que la promesa estuviera limitada en el tiempo o dependiera de la afiliación política del presidente en funciones. En noviembre, tras las elecciones, varias empresas de IA confirmaron que sus compromisos no habían cambiado.
Anthropic no es la única empresa que ha ajustado sus políticas públicas desde que Trump asumió el cargo. OpenAI anunció recientemente que abrazaría “la libertad intelectual… sin importar cuán desafiantes o controvertidos sean los temas” y trabajaría para asegurar que su IA no censure ciertos puntos de vista. OpenAI también eliminó una página de su sitio web que solía expresar el compromiso de la startup con la diversidad, equidad e inclusión (DEI). Estos programas han sido criticados por la Administración Trump, lo que ha llevado a varias empresas a eliminar o reestructurar significativamente sus iniciativas de DEI. Muchos de los asesores de Trump en Silicon Valley sobre IA, incluidos Marc Andreessen, David Sacks y Elon Musk, han alegado que empresas como Google y OpenAI han participado en la censura de IA al limitar las respuestas de sus chatbots. Los laboratorios, incluida OpenAI, han negado que sus cambios de política sean en respuesta a presiones políticas. Tanto OpenAI como Anthropic han obtenido o están buscando activamente contratos gubernamentales.
