RSS 클라우드 블로그
팔로우
구글 AI는 얼마나 많은 에너지를 사용할까요? 저희가 계산해 봤습니다.
AI는 상당한 경제적, 사회적 혜택을 제공하지만, 특히 추론 단계에서의 환경 발자국을 이해하는 것이 중요합니다. Google은 Gemini 프롬프트에 대한 AI 추론의 에너지, 배출량 및 물 영향을 측정하기 위한 포괄적인 방법론을 개발했습니다. 그 결과, 중간 Gemini 텍스트 프롬프트는 0.24 와트시의 에너지를 사용하고, 0.03g의 CO2 상당량을 배출하며, 0.26ml의 물을 소비하는 것으로 나타났습니다. 이러한 수치는 많은 공개 추정치보다 훨씬 낮으며, 실제 운영 효율성을 대규모로 보여줍니다. Google의 AI 시스템은 최근 12개월 동안 중간 Gemini 텍스트 프롬프트의 에너지 및 탄소 발자국이 각각 33배, 44배 감소하면서 훨씬 더 효율적으로 되었습니다. 이러한 효율성은 맞춤형 하드웨어, 효율적인 모델 아키텍처, 최적화된 알고리즘 및 초효율적인 데이터 센터를 포함하는 풀스택 접근 방식에 기인합니다. 이 방법론은 유휴 상태의 기계, CPU 및 RAM 사용량, 데이터 센터 간접비와 같이 다른 계산에서 종종 생략되는 요인을 고려합니다. Google은 이러한 방법론을 공유함으로써 AI 리소스 소비 계산에 있어 업계 전반의 일관성을 촉진하고자 합니다. AI 서비스에 대한 수요 증가를 인식하고 AI 효율성을 지속적으로 개선하기 위해 노력하고 있습니다. 이러한 효율성에 대한 초점은 AI의 책임 있는 개발에 필수적인 것으로 간주됩니다.