Скрытые издержки хранения данн... Заметка

Скрытые издержки хранения данных ИИ: что остаётся после вычислений

Попросите большинство руководителей представить себе стоимость ИИ, и они, вероятно, увидят графические процессоры — стойки ускорителей с гигаваттами энергии — и список ожидания на кремний. Но эта картина упускает кое-что: затраты на хранение данных. Что происходит с данными после того, как модель дает ответ? Большая часть генерируемых данных на стороне сервера — от миллиардов ежедневных запросов, изображений и видео — нуждается...
CdXz5zHNQW_jWV6rxEQic.png