Сегодня с нами Кристал Морин, старший стратег по кибербезопасности, и Майкл Кларк, старший директор по исследованию угроз, из Sysdig, которые поделятся своей работой на тему "LLMjacking эволюционировал: злоумышленники используют украденные вычислительные мощности ИИ для создания наступательных агентских инструментов". Команда Sysdig Threat Research Team обнаружила злоумышленника, злоупотребляющего открытым, неаутентифицированным сервером Ollama в качестве "мозга" для автоматизированного наступательного инструмента безопасности.Фреймворк на базе ИИ способен определять сервисы, выявлять уязвимости, создавать эксплойты, извлекать учетные данные и оркестрировать атаки для выполнения команд, при этом исследователи зафиксировали инструмент еще на стадии активной разработки. Эта активность подчеркивает, как LLMjacking эволюционирует от простого воровства вычислительных мощностей ИИ ради прибыли к использованию украденных мощностей моделей для создания все более автономных наступательных возможностей.Исследование и краткий отчет для руководителей можно найти здесь:LLMjacking эволюционировал: злоумышленники используют украденные вычислительные мощности ИИ для создания наступательных агентских инструментов