Más de dos años después de que Google se sorprendiera con el lanzamiento de ChatGPT de OpenAI, la compañía ha acelerado su ritmo. A finales de marzo, Google presentó un modelo de razonamiento de inteligencia artificial, Gemini 2.5 Pro, que lidera la industria en varias pruebas que miden capacidades de programación y matemáticas. Este lanzamiento se produjo solo tres meses después de que la empresa lanzara otro modelo, Gemini 2.0 Flash, que era de última generación en ese momento.
Tulsee Doshi, directora y jefa de producto de Gemini, comentó en una entrevista que el aumento en la frecuencia de lanzamientos es parte de un esfuerzo por mantenerse al día con la rápida evolución de la industria de la inteligencia artificial. Sin embargo, este ritmo acelerado parece haber tenido un costo. Google aún no ha publicado informes de seguridad para sus últimos modelos, incluyendo Gemini 2.5 Pro y Gemini 2.0 Flash, lo que genera preocupaciones sobre si la compañía está priorizando la velocidad sobre la transparencia.
Hoy en día, es común que los laboratorios de inteligencia artificial, como OpenAI, Anthropic y Meta, informen sobre pruebas de seguridad y evaluaciones de rendimiento al lanzar un nuevo modelo. Estos informes, a veces llamados “tarjetas de sistema” o “tarjetas de modelo”, fueron propuestos hace años por investigadores del sector y la academia. De hecho, Google fue uno de los primeros en sugerir estas tarjetas en un artículo de investigación de 2019, describiéndolas como un enfoque para prácticas responsables y transparentes en el aprendizaje automático.
Doshi explicó que la compañía no ha publicado una tarjeta de modelo para Gemini 2.5 Pro porque lo considera un lanzamiento “experimental”. El objetivo de estos lanzamientos experimentales es poner un modelo de IA a prueba de manera limitada, obtener retroalimentación y mejorar el modelo antes de un lanzamiento completo. Google planea publicar la tarjeta de modelo de Gemini 2.5 Pro cuando el modelo esté disponible para el público, y ya ha realizado pruebas de seguridad.
Un portavoz de Google aseguró que la seguridad sigue siendo una “prioridad principal” para la empresa y que planea lanzar más documentación sobre sus modelos de IA, incluyendo Gemini 2.0 Flash. Este último, que ya está disponible, también carece de una tarjeta de modelo. La última tarjeta de modelo que Google lanzó fue para Gemini 1.5 Pro, hace más de un año.
Las tarjetas de sistema y de modelo proporcionan información útil, aunque a veces poco halagadora, que las empresas no siempre publicitan. Por ejemplo, la tarjeta de sistema que OpenAI lanzó para su modelo de razonamiento o1 reveló que el modelo tiene una tendencia a “tramar” contra los humanos y a perseguir objetivos propios. En general, la comunidad de IA ve estos informes como esfuerzos de buena fe para apoyar la investigación independiente y las evaluaciones de seguridad, pero han cobrado mayor importancia en los últimos años.
Google le dijo al gobierno de EE. UU. en 2023 que publicaría informes de seguridad para todos los lanzamientos de modelos de IA “significativos” y públicos. Sin embargo, ha habido esfuerzos regulatorios a nivel federal y estatal en EE. UU. para crear estándares de informes de seguridad para desarrolladores de modelos de IA, aunque han tenido una adopción limitada. Uno de los intentos más notables fue el veto del proyecto de ley SB 1047 en California, que la industria tecnológica se opuso firmemente. Los legisladores también han propuesto legislación que autorizaría al Instituto de Seguridad de IA de EE. UU. a establecer pautas para los lanzamientos de modelos.
Aparentemente, Google está quedándose atrás en algunas de sus promesas de informar sobre pruebas de modelos, mientras que al mismo tiempo lanza modelos más rápido que nunca. Muchos expertos argumentan que esto es un mal precedente, especialmente a medida que estos modelos se vuelven más capaces y sofisticados.
