¿Cuánta energía usa la IA de G... Nota

¿Cuánta energía usa la IA de Google? Hicimos los cálculos

La IA ofrece beneficios económicos y sociales significativos, pero es crucial comprender su huella ambiental, especialmente durante la inferencia. Google ha desarrollado una metodología integral para medir el impacto energético, de emisiones y de agua de la inferencia de IA, específicamente para prompts de Gemini. Sus hallazgos indican que un prompt de texto de Gemini mediano utiliza 0,24 vatios-hora de energía, emite 0,03 gramos de CO2 equivalente y consume 0,26 mililitros de agua. Estas cifras son sustancialmente menores que muchas estimaciones públicas y representan una eficiencia operativa real a gran escala. Los sistemas de IA de Google han mejorado significativamente en eficiencia, con la huella energética y de carbono de un prompt de texto de Gemini mediano disminuyendo en un 33x y 44x respectivamente en un período de 12 meses. Esta eficiencia se atribuye a un enfoque de pila completa que abarca hardware personalizado, arquitecturas de modelos eficientes, algoritmos optimizados y centros de datos ultraeficientes. La metodología tiene en cuenta factores a menudo omitidos en otros cálculos, como máquinas inactivas, uso de CPU y RAM, y sobrecarga de centros de datos. Al compartir esta metodología, Google busca promover la consistencia en la industria en el cálculo del consumo de recursos de IA. Están comprometidos con mejoras continuas en la eficiencia de IA, reconociendo la creciente demanda de servicios de IA. Este enfoque en la eficiencia se considera esencial para el desarrollo responsable de IA.