Mientras los líderes tecnológicos debaten sobre los plazos para la inteligencia general artificial (AGI), estamos ignorando una crisis de valores en la inteligencia artificial actual. Se informa que hasta el 85% de los proyectos de IA fracasan, pero esto no se debe a limitaciones técnicas, sino a la falta de un diseño basado en valores. Es decir, la mayoría de los fracasos de la IA no son técnicos, sino de comportamiento. Construimos sistemas basados en un comportamiento idealizado del usuario en lugar de en la psicología humana real. Como resultado, muchas organizaciones enfrentan lo que llamo la “neblina de valores”: modelos de IA brillantes que no logran conectar con un impacto tangible.

Entonces, ¿cómo podemos gobernar de manera realista la superinteligencia en el futuro si aún no podemos gobernar los algoritmos mucho menos potentes de hoy? Aquí hay tres puntos clave a considerar:

1. Las organizaciones están tomando decisiones de valores profundas, pero por defecto, no por diseño. Actualmente, optimizamos para métricas medibles (eficiencia, velocidad) en lugar de resultados significativos (confianza, progreso humano), que serán aún más importantes en un mundo dominado por la AGI. Por ejemplo, un sistema de detección de fraudes en IA puede funcionar perfectamente, pero puede destruir la confianza de la comunidad y la moral de los empleados. La AGI simplemente amplificará esta desalineación de valores.

2. La verdadera carrera por la AGI es institucional, no técnica. Las capacidades técnicas avanzan más rápido que los marcos éticos. Entonces, una pregunta clave sería: ¿qué sociedades tienen la madurez institucional para guiar (y no solo reaccionar a) la AGI? Necesitamos colaboración entre sectores, pensamiento a largo plazo y procesos de entrada democrática, porque la gobernanza de la AGI requiere preparación social, no solo preparación computacional.

3. AGI sin diseño de valores = superinteligencia con la optimización incorrecta. La IA actual optimiza lo que medimos; pero la AGI también puede optimizar resultados civilizacionales erróneos, lo cual es peligroso. Además, existe la tendencia de “imaginación defectuosa” de construir sistemas que resuelven problemas que en realidad no tenemos. Necesitamos marcos de valores multidimensionales integrados desde el principio, no añadidos después. Tiene sentido comenzar a practicar un diseño de IA centrado en valores ahora, antes de que la AGI se convierta en la norma.

En resumen, es claro que los líderes tecnológicos deben implementar “IA centrada en valores” en todos los proyectos actuales y futuros como preparación para la AGI. Para los responsables de políticas, debemos señalar la capacidad de gobernanza de la AGI entre sectores, comenzando desde hoy. Mientras que los líderes organizacionales necesitan dominar los valores multidimensionales de la IA actual antes de intentar abordar la ética de la AGI.

Este último punto destaca las brechas en las características de liderazgo actuales, ya que la AGI necesita un nuevo tipo de pionero: aquellos que diseñan sistemas, no que dictan resultados. Los debates sobre la AGI actualmente se centran en el control y la competencia, pero la verdadera necesidad es de líderes que diseñen marcos que democratizan el valor de la IA, no que lo concentren. El futuro pertenecerá a quienes habiliten y conecten la sabiduría colectiva, no a la dominación individual.

Los modelos de liderazgo tradicionales ya están fallando a la escala actual de la IA. El liderazgo de mando y control no puede manejar la complejidad y velocidad de la IA, y los proyectos actuales de IA fracasan porque los líderes intentan dictar soluciones técnicas en lugar de diseñar resultados centrados en el ser humano. La AGI amplificará este desajuste entre los modelos de liderazgo y la realidad tecnológica, por lo que ahora necesitamos líderes que arquitecten sistemas para el éxito colectivo.

Debemos crear marcos que permitan buenos resultados, en lugar de micromanejar procesos, y hacer que la creación de valor de la IA sea accesible a todas las organizaciones y sociedades, no solo a las élites tecnológicas. En lugar de controlar centralmente las decisiones de IA, diseñemos sistemas donde los humanos puedan participar de manera significativa en las decisiones aumentadas por IA. La gobernanza de la AGI debe ser a través del diseño del sistema, no del control del sistema.

Tradicionalmente, los líderes optimizan para métricas individuales, pero nuestra era digital requiere líderes que orquesten valores multidimensionales y creen mecanismos de colaboración interfuncional en lugar de cadenas de decisión jerárquicas. Necesitamos habilitar la entrada de las partes interesadas en los valores de la IA en lugar de imponer valores desde arriba, porque la AGI requiere orquestar la inteligencia colectiva, no solo maximizar la inteligencia individual.

Fundamentalmente, debemos preguntarnos cómo crear sistemas de IA que mejoren la toma de decisiones colectiva y cómo asegurarnos de que los beneficios de la AGI sirvan al progreso humano amplio. El desafío de liderazgo actual se centra en el pensamiento sistémico, el diseño del comportamiento, la innovación inclusiva y la arquitectura de valores.

En resumen, el mayor poder de la AGI no estará en lo que puede hacer, sino en cómo la diseñamos para amplificar la sabiduría humana colectiva. Los líderes que realmente están dando forma a una AGI beneficiosa son aquellos que aprenden a diseñar sistemas centrados en valores que democratizan la inteligencia, no que la concentran. Las organizaciones que lideran este espacio han dejado de tratar la ética como algo que se añade a la IA después de su construcción. La han hecho fundamental en su forma de pensar sobre la IA desde el principio. Entienden que la confianza, una vez rota, se convierte en su problema comercial más costoso de resolver.

Por lo tanto, nuestra próxima generación de empresas de IA, tanto las que construyen herramientas de IA como las que las utilizan, no se definirán por sus algoritmos, sino por su capacidad para transformar posibilidades técnicas en valor humano. Ya sea optimizando cadenas de suministro o sirviendo a los ciudadanos, el mismo principio se aplica: la IA amplifica no solo nuestras capacidades, sino también nuestras elecciones sobre lo que importa.

Las organizaciones que realmente prosperen no solo desplegarán la AGI como una herramienta; reconstruirán sus modelos operativos enteros en torno a una pregunta central: ¿cómo podemos crear un valor que sería imposible sin la IA? Esto no se trata solo de ventaja competitiva. Se trata de utilizar una de las invenciones más poderosas de la humanidad para resolver nuestros problemas más apremiantes, para crear negocios que no solo sean rentables, sino significativos.

En resumen, el futuro pertenece a las organizaciones que entienden esta simple verdad: el verdadero valor tangible de la adopción de AGI y superinteligencia no radica en lo que es, sino en lo que nos permite llegar a ser.