Combien d'énergie consomme l'I... Note

Combien d'énergie consomme l'IA de Google ? Nous avons fait les calculs

L'intelligence artificielle (IA) offre des avantages économiques et sociétaux significatifs, mais il est crucial de comprendre son empreinte environnementale, en particulier pendant l'inférence. Google a développé une méthodologie exhaustive pour mesurer l'impact énergétique, les émissions et la consommation d'eau de l'inférence de l'IA, spécifiquement pour les prompts Gemini. Les résultats indiquent qu'un prompt de texte Gemini médian utilise 0,24 watt-heures d'énergie, émet 0,03 grammes d'équivalent CO2 et consomme 0,26 millilitres d'eau. Ces chiffres sont nettement inférieurs à de nombreuses estimations publiques et représentent une efficacité opérationnelle réelle à grande échelle. Les systèmes d'IA de Google sont devenus beaucoup plus efficaces, avec une baisse de 33x et 44x respectivement de l'empreinte énergétique et carbone d'un prompt de texte Gemini médian sur une période de 12 mois récente. Cette efficacité est attribuée à une approche full-stack qui englobe du matériel personnalisé, des architectures de modèle efficaces, des algorithmes optimisés et des centres de données ultra-économes. La méthodologie tient compte de facteurs souvent omis dans d'autres calculs, tels que les machines inactives, l'utilisation du CPU et de la RAM, et les frais généraux des centres de données. En partageant cette méthodologie, Google vise à promouvoir une cohérence industrielle dans le calcul de la consommation de ressources de l'IA. Ils sont engagés à poursuivre les améliorations de l'efficacité de l'IA, reconnaissant la demande croissante pour les services d'IA. Ce focus sur l'efficacité est considéré comme essentiel pour le développement responsable de l'IA.