The Hacker News на русском
Подписаться
Microsoft предупреждает: отравленные описания инструментов MCP могут заставить агентов ИИ утечь данные
Новое исследование Microsoft показывает, как злоумышленники могут захватить ИИ-агентов, действующих от имени пользователя, используя всего лишь описание инструмента с вредоносным содержимым, чтобы заставить агента незаметно передать данные компании постороннему.Хитрость заключается в том, что агент никогда не нарушает правил. Каждый шаг выглядит обычным, поэтому при стандартной настройке никаких тревожных сигналов может не возникнуть.Эта работа проведена отделом реагирования на инциденты Microsoft и его