VentureBeat на русском
Подписаться
Взлом промпта занимает первое место в OWASP и 12-е место в списке инцидентов. Сама атака невидима для сканирования.
Неправильное толкование низкого количества CVE и понижение приоритета внедрения подсказок со стороны CISO является ошибкой. Внедрение подсказок стабильно занимает первое место в OWASP Top 10 для LLM-приложений в течение трех лет. Однако недавний анализ реальных инцидентов поставил его на двенадцатое место. Это расхождение возникает потому, что атаки внедрения подсказок остаются незамеченными традиционными сканерами уязвимостей. Исследование, хотя и носит исследовательский характер, подчеркивает значительное расхождение между экспертным мнением и данными о наблюдаемых инцидентах. Эксперты высоко оценивают внедрение подсказок из-за его обширной поверхности атаки, в то время как данные об инцидентах отражают успешные взломы. Скрытный характер внедрения подсказок, встраивание вредоносных инструкций в кажущийся безобидным контент, делает его невидимым для стандартных инструментов безопасности. Эффективная защита требует тестирования на основе противника и архитектурных ограничений возможностей агентов, а не полагаться на анализ после инцидента. Этот проактивный подход имеет решающее значение, поскольку внедрение подсказок сравнивают с фундаментальным законом LLM-систем. Существующие средства защиты не являются безошибочными, и проектирование систем с предположением о возможности внедрения подсказок имеет первостепенное значение. Задача заключается в точном толковании данных об инцидентах, которые по своей природе являются ретроспективными. Дезинформация также представляет собой значительное расхождение между экспертным мнением и данными об инцидентах. Новые угрозы, такие как отравление постоянной памяти и эксплуатация интерфейса инструмента MCP, имеют соответствующие CVE, но их влияние может не отражаться в низких показателях консультативных сообщений. OWASP GenAI LLM Top 10, выпуск 2026 года, теперь включает данные об инцидентах, хотя взвешивание остается предметом обсуждения. Авторы признают ограничения своей методологии, включая небольшую группу респондентов-экспертов и изменчивость классификаторов. В конечном итоге, расхождение между консенсусом экспертов и данными об инцидентах подчеркивает развивающийся и сложный характер безопасности LLM.