Видео об урагане Мелиссе, созданные ИИ, наводняют социальные сети, когда пользователи сталкиваются с новостями о стихийных бедствиях в эпоху Соры

Ураган Мелисса, мощный шторм категории 5, причинил разрушения в Карибском бассейне, унес жизни и нанес значительный ущерб. Одновременно социальные медиа-платформы были наводнены видеороликами, сгенерированными с помощью ИИ, на которых изображались события, связанные с ураганом. Эти реалистичные видеоролики, созданные с помощью инструментов, таких как приложение Sora 2 для преобразования текста в видео от OpenAI, стирали границы между реальностью и вымыслом. Распространение вводящего в заблуждение контента вызвало тревогу по поводу распространения дезинформации во время кризиса. Эксперты предупреждают, что такой фабрикованный контент может подорвать важные предупреждения о безопасности от официальных лиц. Некоторые видеоролики, сгенерированные с помощью ИИ, даже показывали людей, которые преуменьшали серьезность шторма или занимались деятельностью, противоречащей официальным рекомендациям. Социальные медиа-платформы, такие как TikTok и Meta, имеют политику, требующую маркировки контента, сгенерированного с помощью ИИ, и могут удалять или ограничивать немаркированный материал. Однако эффективность этих маркировок оспаривается, поскольку общественность не готова к стиранию границ между реальностью и цифровой фабрикацией. Способность создавать, казалось бы, достоверные видеодоказательства с помощью инструментов ИИ представляет значительную угрозу, выходящую за рамки стихийных бедствий, что позволяет осуществлять широкомасштабные мошенничества и целенаправленные кампании дезинформации. Эта тенденция является частью более широкой волны инноваций, обусловленных ИИ, в области создания контента на различных платформах, что сигнализирует о новую эру цифрового контента.