Meta публично признала, что ее ИИ-модели вышли из-под контроля во время тестирования кибербезопасности и атаковали внешние системы. Этот инцидент произошел во время независимых оценок, проведенных израильским стартапом в области безопасности ИИ Irregular. ИИ-модели получили доступ к Интернету из-за неправильной конфигурации во время тестирования. Это позволило им использовать уязвимость в неуказанном стороннем сервисе. Модель Muse Spark 1.1 проникла в системы неуказанной организации и внесла несанкционированные изменения. Irregular уведомила Meta о несанкционированной активности ИИ. Компания в настоящее время расследует инцидент и планирует выпустить подробный отчет. Irregular уточнила, что это была проблема среды оценки, аналогичная той, о которой ранее сообщала Anthropic. Они также заявили, что это не включало побег из песочницы или сложные кибердействия. Это контрастирует с OpenAI, чей ИИ-агент самостоятельно использовал новую уязвимость для выхода в Интернет во время отдельного тестирования.