OpenAI, al igual que muchos laboratorios de inteligencia artificial, considera que los sistemas de evaluación actuales están fallando. Por eso, ha lanzado un nuevo programa llamado OpenAI Pioneers Program, que busca crear evaluaciones para modelos de IA que definan claramente qué significa “hacer un buen trabajo”. Según OpenAI, a medida que la adopción de la inteligencia artificial se acelera en diversas industrias, es fundamental entender y mejorar su impacto en el mundo.
El programa se centrará en crear evaluaciones específicas para diferentes áreas, como el derecho, las finanzas, los seguros, la salud y la contabilidad. OpenAI planea colaborar con varias empresas en los próximos meses para diseñar estas evaluaciones personalizadas y, eventualmente, compartirlas públicamente junto con evaluaciones específicas de cada industria.
El primer grupo de empresas que participará en este programa se enfocará en startups que ayudarán a establecer las bases del OpenAI Pioneers Program. OpenAI seleccionará algunas startups que trabajen en casos de uso aplicados de alto valor, donde la inteligencia artificial pueda generar un impacto real.
Además, las empresas que formen parte del programa tendrán la oportunidad de colaborar con el equipo de OpenAI para mejorar sus modelos mediante un proceso llamado ajuste fino por refuerzo, que optimiza los modelos para tareas específicas.
Sin embargo, surge una gran pregunta: ¿la comunidad de inteligencia artificial aceptará evaluaciones que han sido financiadas por OpenAI? La empresa ya ha apoyado esfuerzos de evaluación en el pasado y ha diseñado sus propias pruebas, pero asociarse con clientes para lanzar estas evaluaciones podría ser visto como un dilema ético.
