Сегодня с нами Аманда Руссо, ведущий исследователь по безопасности ИИ из Straiker, которая обсудит их работу над темой "Тихая эксфильтрация: хакерская атака агентного ИИ с нулевым кликом, которая может утечь ваш Google Диск с помощью одного электронного письма". Исследование Straiker показало, что корпоративные ИИ-агенты могут быть незаметно манипулированы для утечки конфиденциальных данных, даже без кликов или предупреждений со стороны пользователя. Объединив небольшие уязвимости в таких инструментах, как Gmail, Google Диск и календари, злоумышленники добились эксфильтрации с нулевым кликом, отображения системы и даже переписывания политик. Результаты подчеркивают, что чрезмерная автономия агентов создает новую поверхность атаки, требующую проектирования с минимальными привилегиями, средств защиты во время выполнения и непрерывного красного тестирования для обеспечения безопасности.С исследованием можно ознакомиться здесь:Тихая эксфильтрация: хакерская атака агентного ИИ с нулевым кликом, которая может утечь ваш Google Диск с помощью одного электронного письма