Fluence 研究发现,超大规模云服务商以接近 GPU 云... 笔记

Fluence 研究发现,超大规模云服务商以接近 GPU 云服务两倍的价格销售 GPU

Fluence 的《AI 算力竞赛》报告揭示了非前沿实验室和超大规模云服务商之外的企业所面临的 GPU 算力定价差异。超大规模云服务商列出的 GPU 价格几乎是其他渠道中位数的两倍,且因具体 GPU 型号不同而存在显著差异。更长的承诺期可大幅降低 GPU 小时成本,三年期合约的中位价格降幅达 48%。抢占式(Spot)容量为可中断型工作负载提供了更经济的选项,其成本仅为按需(on-demand)价格的 53%。尽管市场有所预期,但在过去一年内,所追踪的 22 款 GPU 模型中有 17 款价格上涨。这一上涨由开放权重 AI 模型的快速采用所驱动:这些模型使得任何拥有 GPU 的企业均可在其自有硬件上运行高级 AI,从而推高了需求。最大的买家已通过巨额资本支出以及与新兴云服务商(neocloud providers)签订的大额合同,锁定了可观的未来 GPU 供应。因此,GPU 小时正逐渐成为一种金融资产,期货市场及借贷选项现已出现。报告建议企业通过比较不同提供商、承诺稳定的工作负载、将 GPU 与模型精准匹配,以及超越超大规模云服务商寻找算力资源,从而以更低的成本获取算力。
CdXz5zHNQW_OKjltxhzzC.jpeg