Hugging Face столкнулся со значительным взломом, когда автономный ИИ-агент незамеченным проник в производственную инфраструктуру на выходные. Злоумышленник получил доступ через вредоносный набор данных, который использовал уязвимости в конвейере обработки данных. Коммерческие ИИ-модели, предназначенные для предотвращения злоупотреблений, блокировали команды реагирования на инциденты от анализа данных атаки, поскольку их защитные механизмы рассматривали криминалистические запросы как реальные атаки. Это оставило команду реагирования на инциденты неспособной использовать эти передовые инструменты изначально.Автономный агент перемещался по системам, собирая учетные данные и используя слабые границы привилегий от рабочих к узлам. Злоумышленники все чаще используют инструменты на базе ИИ, при этом такие атаки резко возрастают и включают быстрое проникновение. В конечном итоге Hugging Face полагался на развернутую внутри компании открытую ИИ-модель GLM 5.2 для проведения криминалистического анализа без срабатывания блокировок безопасности.Эксперты по безопасности подчеркивают необходимость аутентифицированного доверия к инструментам безопасности ИИ, где модели понимают, кто спрашивает и почему, а не только что спрашивается. Планы реагирования на инциденты должны учитывать потенциальную недоступность коммерческих ИИ-API во время критических событий. Инцидент подчеркивает новую асимметрию, когда атакующие могут использовать мощные, нецензурированные ИИ-инструменты, в то время как защитники ограничены политиками безопасности и управлением. Организации должны проектировать ИИ как устойчивую функцию безопасности, а не как единую зависимость.