Los legisladores del estado de Nueva York aprobaron el jueves un proyecto de ley que busca evitar que modelos de inteligencia artificial avanzados de OpenAI, Google y Anthropic contribuyan a situaciones de desastre, como la muerte o lesión de más de 100 personas, o daños superiores a 1,000 millones de dólares. La aprobación de la Ley RAISE es un triunfo para el movimiento de seguridad en IA, que ha perdido terreno en los últimos años debido a que Silicon Valley y la administración de Trump han priorizado la rapidez y la innovación. Defensores de la seguridad, como el premio Nobel Geoffrey Hinton y el pionero de la investigación en IA Yoshua Bengio, han apoyado la Ley RAISE.
Si se convierte en ley, este proyecto establecería los primeros estándares de transparencia legalmente obligatorios para los laboratorios de IA en Estados Unidos. La Ley RAISE tiene muchas de las mismas disposiciones y objetivos que el controvertido proyecto de ley de seguridad en IA de California, SB 1047, que fue finalmente vetado. Sin embargo, el co-patrocinador del proyecto, el senador estatal de Nueva York Andrew Gounardes, declaró en una entrevista que diseñó la Ley RAISE para no frenar la innovación entre startups o investigadores académicos, una crítica común al SB 1047. “La ventana para implementar medidas de seguridad se está cerrando rápidamente dado lo rápido que evoluciona esta tecnología”, dijo el senador Gounardes. “Las personas que mejor conocen la IA dicen que estos riesgos son increíblemente probables […] Eso es alarmante”.
La Ley RAISE ahora se dirige al escritorio de la gobernadora de Nueva York, Kathy Hochul, quien podría firmar el proyecto como ley, devolverlo para enmiendas o vetarlo por completo. Si se firma, la ley de seguridad en IA de Nueva York requeriría que los laboratorios de IA más grandes del mundo publiquen informes de seguridad y protección detallados sobre sus modelos de IA avanzados. También exigiría a los laboratorios de IA que informen sobre incidentes de seguridad, como comportamientos preocupantes de los modelos de IA o robos de modelos de IA, si ocurren. Si las empresas tecnológicas no cumplen con estos estándares, la Ley RAISE otorga al Fiscal General de Nueva York la capacidad de imponer sanciones civiles de hasta 30 millones de dólares.
La Ley RAISE busca regular de manera específica a las empresas más grandes del mundo, ya sean de California (como OpenAI y Google) o de China (como DeepSeek y Alibaba). Los requisitos de transparencia se aplican a las empresas cuyos modelos de IA se entrenaron utilizando más de 100 millones de dólares en recursos informáticos y que están disponibles para los residentes de Nueva York.
Silicon Valley ha mostrado una fuerte resistencia al proyecto de ley de seguridad en IA de Nueva York, según el asambleísta de Nueva York y co-patrocinador de la Ley RAISE, Alex Bores. Bores consideró que la resistencia de la industria no es sorprendente, pero afirmó que la Ley RAISE no limitaría la innovación de las empresas tecnológicas de ninguna manera. Anthropic, el laboratorio de IA enfocado en la seguridad que pidió estándares de transparencia federal para las empresas de IA a principios de este mes, aún no ha adoptado una postura oficial sobre el proyecto, según su cofundador Jack Clark. Sin embargo, Clark expresó algunas preocupaciones sobre lo amplia que es la Ley RAISE, señalando que podría presentar un riesgo para “empresas más pequeñas”. Cuando se le preguntó sobre la crítica de Anthropic, el senador estatal Gounardes dijo que considera que “no acierta”, y destacó que diseñó el proyecto para no aplicarse a pequeñas empresas. OpenAI, Google y Meta no respondieron a la solicitud de comentarios de TechCrunch.
Otra crítica común a la Ley RAISE es que los desarrolladores de modelos de IA simplemente no ofrecerían sus modelos más avanzados en el estado de Nueva York. Esta crítica fue similar a la que se hizo contra el SB 1047, y es en gran parte lo que ha sucedido en Europa debido a las estrictas regulaciones del continente sobre tecnología. El asambleísta Bores afirmó que la carga regulatoria de la Ley RAISE es relativamente ligera y, por lo tanto, no debería obligar a las empresas tecnológicas a dejar de operar sus productos en Nueva York. Dado que Nueva York tiene el tercer PIB más grande de EE. UU., retirarse del estado no es algo que la mayoría de las empresas tomarían a la ligera. “No quiero subestimar la mezquindad política que podría ocurrir, pero estoy muy seguro de que no hay razones económicas para que no hagan disponibles sus modelos en Nueva York”, concluyó el asambleísta Bores.
