OpenAI está enfrentando problemas con Orion, su nuevo modelo de inteligencia artificial. Según un informe, el progreso es más lento de lo esperado debido a problemas de calidad en los datos de entrenamiento. Los empleados de OpenAI indican que la mejora en la calidad de Orion es “mucho menor” que la que se vio al pasar de GPT-3 a GPT-4.
Algunos investigadores de OpenAI comentan que Orion “no es consistentemente mejor que su predecesor [GPT-4] en ciertas tareas”. Una de estas tareas es la programación, donde Orion podría no superar a GPT-4. Sin embargo, se menciona que las habilidades lingüísticas de Orion son más fuertes.
Para consultas generales y tareas como resumir o reescribir texto, parece que Orion está funcionando relativamente bien. Pero las noticias no son tan alentadoras para quienes buscan usar la IA como asistente de programación.
El problema principal radica en la disponibilidad de datos de alta calidad para entrenar la IA. Hay una “disminución en la oferta de texto y otros datos de calidad” que los Modelos de Lenguaje Grande (LLMs) pueden utilizar para mejorar su capacidad de resolver problemas complejos, como errores de programación. Estos modelos han agotado gran parte de los datos fáciles de conseguir, lo que hace que encontrar datos de calidad sea un proceso más difícil y lento.
Además, el entrenamiento de Orion requerirá más recursos computacionales, lo que significa que desarrollar y ejecutar este modelo de IA será más costoso. Esto podría hacer que los modelos más avanzados sean “financieramente inviables” de desarrollar. Los usuarios de la IA probablemente tendrán que asumir estos costos.
También hay preocupaciones sobre el impacto ambiental, ya que se necesitarán centros de datos más grandes que consumen más energía, en un momento en que la preocupación por el cambio climático está aumentando.
Aunque debemos tomar este informe con precaución, hay señales preocupantes que sugieren que el desarrollo de la IA podría enfrentar serios desafíos en el futuro. Se menciona que podría ser necesario adoptar un enfoque diferente para mejorar los modelos de IA después de su entrenamiento inicial.
Se espera que Orion se presente a principios de 2025 y podría no llamarse ChatGPT-5, ya que OpenAI podría cambiar completamente la forma en que nombra sus modelos de IA con esta nueva generación.
