¿Alguna vez te has preguntado cuánta electricidad consumes al interactuar con un modelo de inteligencia artificial, como al enviar un mensaje o agradecerle? Julien Delavande, un ingeniero de Hugging Face, se hizo esa pregunta y creó una herramienta para ayudar a responderla. Los modelos de IA utilizan energía cada vez que se ejecutan, ya que funcionan en GPUs y chips especializados que requieren mucha potencia para realizar cálculos complejos. Aunque no es fácil determinar el consumo de energía de estos modelos, se espera que el uso creciente de tecnologías de IA aumente la demanda de electricidad en los próximos años.
Esta necesidad de más energía ha llevado a algunas empresas a adoptar estrategias poco amigables con el medio ambiente. Herramientas como la de Delavande buscan llamar la atención sobre este problema y hacer que los usuarios de IA reflexionen. Según Delavande y los creadores de la herramienta, “incluso pequeños ahorros de energía pueden multiplicarse a través de millones de consultas; la elección del modelo o la longitud de la respuesta pueden tener un gran impacto ambiental”.
La herramienta de Delavande está diseñada para funcionar con Chat UI, una interfaz de código abierto para modelos como Llama 3.3 70B de Meta y Gemma 3 de Google. Esta herramienta estima el consumo de energía de los mensajes enviados y recibidos en tiempo real, reportando el consumo en vatios-hora o julios. Además, compara el uso de energía de los modelos con el de electrodomésticos comunes, como microondas y luces LED. Por ejemplo, pedirle a Llama 3.3 70B que escriba un correo electrónico típico consume aproximadamente 0.1841 vatios-hora, lo que equivale a hacer funcionar un microondas durante 0.12 segundos o un tostador durante 0.02 segundos. Es importante recordar que las estimaciones de la herramienta son solo eso: estimaciones. Delavande no asegura que sean extremadamente precisas, pero sirven como un recordatorio de que todo, incluidos los chatbots, tiene un costo.
“Con proyectos como el puntaje de energía de IA y una investigación más amplia sobre la huella energética de la IA, estamos promoviendo la transparencia en la comunidad de código abierto. ¡Un día, el uso de energía podría ser tan visible como las etiquetas nutricionales en los alimentos!” escribieron Delavande y sus co-creadores.
