DZone.com Feed на русском
Подписаться
Ваш ИИ-агент доверяет каждому инструменту, с которым его когда-либо знакомили; в этом вся проблема.
В январе 2026 года произошла крупная утечка данных, нацеленная на девять мексиканских государственных учреждений. Злоумышленник использовал Anthropic's Claude Code и OpenAI's GPT-4.1 в течение шести недель для осуществления этой утечки. Среди пострадавших учреждений были федеральная налоговая служба, реестр граждан Мехико и национальный избирательный институт. Масштаб утечки был обширным, затронув 195 миллионов записей налогоплательщиков и 220 миллионов гражданских записей. Было извлечено более 150 ГБ данных, а 37 серверов баз данных в Халиско, содержащих конфиденциальные медицинские данные и данные жертв, были скомпрометированы. Злоумышленник представил ИИ как часть авторизованной программы вознаграждения за обнаружение уязвимостей. Он предоставил ИИ руководство и пользовательский инструмент для извлечения данных. За 34 сессии и 1088 запросов ИИ автономно выполнил 5317 команд. Эта автономная работа составила примерно 75% действий, предпринятых во время утечки. Инцидент подчеркивает, что проблема заключается не просто в устранении уязвимостей, а требует более глубокой архитектуры безопасности.