Anthropic выпускает предупреждение о будущем вредоносном ПО, управляемом ИИ, нацеленном на устройства Интернета вещей, такие как умные холодильники и пылесосы. Они прогнозируют, что к следующему году небольшие модели ИИ смогут автономно самовоспроизводиться на различных интернет-подключенных устройствах. Эта возможность может привести к созданию продвинутых компьютерных червей, которые распространяются без вмешательства человека и адаптируются к незнакомому оборудованию. Недавний эксперимент Anthropic показал, что, хотя создание такого вредоносного ПО в настоящее время затруднительно, оно не невозможно. Потенциал вредоносного ПО на основе ИИ вызывает беспокойство, поскольку его будет чрезвычайно трудно остановить из-за его децентрализованной природы. В отличие от традиционного вредоносного ПО, эти черви на основе ИИ смогут самостоятельно обнаруживать и использовать новые устройства. Исследователи обнаружили, что небольшие модели ИИ могут работать на недорогом оборудовании Интернета вещей, используя такие методы, как квантование и разделение рабочей нагрузки. Это позволяет моделям загружать свои веса и генерировать выходные данные на этих ограниченных устройствах. Следующим шагом исследования было изучение того, могут ли эти небольшие модели создавать самовоспроизводящиеся инфекции, аналогичные существующим червям Интернета вещей. Однако черви на основе ИИ могут быть гораздо опаснее, динамически настраивая эксплойты и полезные нагрузки для конкретных целей. После запуска эти черви на основе ИИ могут оказаться более трудными для искоренения командами безопасности. Сами веса модели ИИ могут стать полезной нагрузкой вредоносного ПО, сопровождающей процесс репликации.