Hyperscalers List GPUs at Near... 노트

Hyperscalers List GPUs at Nearly 2× the GPU-Cloud Price, Fluence Research Finds

Fluence의 AI 컴퓨트 레이스 보고서는 프론티어 연구소와 하이퍼스케일러 외부 기업들의 GPU 컴퓨트 가격 책정의 불균형을 드러냅니다. 하이퍼스케일러들은 다른 곳에서 발견되는 중간 가격의 거의 두 배에 달하는 가격으로 GPU를 리스팅하고 있으며, 특정 GPU 모델에 따라 상당한 변동이 있습니다. 더 긴 약정 기간은 GPU 시간당 비용을 대폭 절감시키며, 3년 약정은 48%의 중간 가격 인하를 제공합니다. 스팟 용량은 중단 가능한 워크로드에 대해 더 저렴한 옵션을 제공하며, 온디맨드 요금의 53%를 차지합니다. 예상과는 달리, 추적된 22개 GPU 모델 중 17개가 지난 1년 동안 가격이 상승했습니다. 이러한 상승은 오픈 웨이트 AI 모델의 빠른 채택에 의해 주도됩니다. 이러한 모델들은 GPU를 보유한 모든 기업이 자체 하드웨어에서 고급 AI를 서비스할 수 있도록 하여 수요를 증가시킵니다. 가장 큰 구매자들은 막대한 자본 지출과 네오클라우드 제공업체와의 대규모 계약을 통해 상당한 미래 GPU 공급을 확보했습니다. 결과적으로, GPU 시간당은 금융 자산으로 부상하고 있으며, 선물 시장과 대출 옵션이 현재 이용 가능합니다. 보고서는 기업들에게 제공업체를 비교하고, 꾸준한 워크로드에 약정하며, 모델에 GPU를 맞추고, 용량을 위해 하이퍼스케일러를 넘어서 살펴봄으로써 컴퓨트에 더 적은 비용을 지불할 것을 권고합니다.
CdXz5zHNQW_OKjltxhzzC.jpeg