La velocidad de la IA tiene un costo oculto: su huella de carbono
Algunas tecnológicas ya lo hacen, como Google y Microsoft, que, según Wired, utilizan modelos más pequeños cuando es posible en sus funciones de búsqueda. Esto se traduce en respuestas más rápidas, pero la tendencia general es priorizar la velocidad por sobre la eficiencia energética.
Noman Bashir, del Consorcio Clima y Sostenibilidad del MIT, señala que los proveedores de modelos de IA no incentivan a los usuarios a consumir menos energía. La rapidez con la que un modelo responde a una pregunta impacta directamente en su consumo, pero esta información se omite al presentar los productos de IA. «El objetivo es ofrecer toda esta información de la forma más rápida posible para que el usuario no abandone la plataforma. Si ChatGPT de repente empieza a darte una respuesta a los cinco minutos, irás a alguna otra herramienta que te dé una respuesta inmediata», explica Bashir, poniendo el dedo en la llaga de la feroz competencia por la atención del usuario.
Infraestructura y energía: la otra cara de la moneda
El cálculo del consumo energético de las consultas complejas de IA no es puramente teórico. El hardware físico utilizado marca una gran diferencia. Bashir menciona que las GPU Nvidia A100, diseñadas para cargas de trabajo de IA, consumen mucha más energía.
Además, la infraestructura física también juega un papel crucial. Los grandes centros de datos, con sus sistemas de refrigeración, iluminación y equipos de red, demandan una cantidad considerable de energía. Su funcionamiento en ciclos diurnos y la conexión a diferentes tipos de redes (algunas alimentadas por combustibles fósiles y otras por energías renovables) influyen en la huella de carbono final.
Bashir compara los estudios que analizan las emisiones de las consultas de IA sin considerar las necesidades de los centros de datos con «levantar un auto, pisar el acelerador y contar las revoluciones de una rueda como forma de realizar una prueba de eficiencia de combustible», una analogía que grafica la importancia de tener una visión integral del problema.
La transparencia, una deuda pendiente
Los modelos de código abierto representan solo una fracción de los modelos de IA utilizados por los consumidores. El entrenamiento y la actualización de los modelos desplegados consumen una enorme cantidad de energía, pero muchas grandes empresas mantienen estas cifras en secreto.
Por ejemplo, no está claro si la estadística de la bombilla sobre ChatGPT, mencionada por Altman de OpenAI, considera toda la energía utilizada para entrenar los modelos que alimentan el chatbot. Esta falta de divulgación impide al público comprender el verdadero impacto ambiental de esta tecnología.
«Si tuviera una varita mágica, obligaría a cualquier empresa que pusiera en producción un sistema de inteligencia artificial, en cualquier parte del mundo, en cualquier aplicación, a revelar las cifras de carbono», afirma Luccioni, subrayando la necesidad urgente de mayor transparencia en la industria.
